モデル選定

ローカル推論最適化

# ローカル推論最適化

Bielik 1.5B V3.0 Instruct GGUF

これはポーランド語の1.5Bパラメータ命令ファインチューニングモデルで、SpeakLeashのBielikシリーズを基に開発され、テキスト生成タスクに適しています。

大規模言語モデルその他

Llama 3.1 8B Instuct Uz Q8 0 GGUF

これはLlama-3.1アーキテクチャに基づく8Bパラメータモデルで、ウズベク語と英語の命令理解およびテキスト生成タスクをサポートします。

大規模言語モデル複数言語対応

Gemma 3 12b It Abliterated GGUF

これはmlabonne/gemma-3-12b-it-abliteratedから変換されたGGUF形式のモデルで、ローカルで実行する大規模言語モデルアプリケーションに適しています。

大規模言語モデル

Mistral 7B Instruct V0.3 GGUF

Mistral-7B-Instruct-v0.3のGGUF量子化バージョン、ローカル推論用テキスト生成モデル

大規模言語モデル

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase