Mistral Small 24B Instruct 2501 GGUF
Mistral-Small-24B-Instruct-2501のGGUF量子化バージョンで、ローカル展開とテキスト生成タスクに適しています。
ダウンロード数 474.73k
リリース時間 : 1/30/2025
モデル概要
このモデルはMistral-Small-24B-Instruct-2501のGGUFフォーマットバージョンで、複数の量子化レベル(2-8ビット)をサポートし、テキスト生成タスクに最適化されています。
モデル特徴
マルチレベル量子化サポート
2ビットから8ビットまでの複数の量子化レベルを提供し、さまざまなハードウェア要件に対応します。
GGUFフォーマット互換性
最新のGGUFフォーマットを採用し、さまざまな主流の推論ツールやライブラリと互換性があります。
ローカル展開最適化
ローカル展開向けに設計されており、複数のクライアントやライブラリのGPUアクセラレーションをサポートします。
モデル能力
テキスト生成
命令追従
使用事例
ローカルAIアプリケーション
ローカルチャットボット
個人のコンピュータに展開されるチャットボットアプリケーション。
スムーズな会話体験を提供します
テキスト作成支援
執筆やコンテンツ生成を支援するために使用されます。
高品質なテキストを迅速に生成するのに役立ちます
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98