N

Nasiruddin15 Mistral Dolphin 2.8 Grok Instract 2 7B Slerp GGUF

featherless-ai-quantsによって開発
これはMistralアーキテクチャに基づく7Bパラメータのモデルで、量子化最適化を行い、さまざまなGGUF量子化バージョンを提供して、異なるハードウェア要件に対応します。
ダウンロード数 127
リリース時間 : 11/5/2024

モデル概要

このモデルは7Bパラメータの大規模言語モデルで、量子化処理を行っており、ローカルデプロイと推論タスクに適しています。

モデル特徴

複数の量子化バージョン
IQ4_XSからQ8_0までの複数の量子化バージョンを提供し、異なるハードウェアとパフォーマンス要件に対応します。
高効率推論
最適化されたGGUF量子化ファイルにより、モデルの推論パフォーマンスが向上します。
ローカルデプロイサポート
ローカルハードウェアでの実行に適しており、複雑なインフラストラクチャは必要ありません。

モデル能力

テキスト生成
対話システム
命令追従

使用事例

対話システム
スマートアシスタント
ローカルデプロイのスマートアシスタントを構築するために使用し、自然言語対話をサポートします。
コンテンツ生成
テキスト創作
創造的なテキスト、物語または記事を生成します。
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase