モデル選定

ローカル展開最適化

# ローカル展開最適化

Bielik 4.5B V3.0 Instruct GGUF

Bielik-4.5B-v3.0-Instruct-GGUFはSpeakLeashがリリースしたポーランド語大規模言語モデルで、Bielik-4.5B-v3.0-InstructをGGUF量子化フォーマットに変換したもので、ローカル推論に適しています。

大規模言語モデルその他

Apriel 5B Instruct Llamafied

これはServiceNow-AIのApriel-5B-InstructモデルをLlama形式に変換した近似実装バージョンで、主流のファインチューニングフレームワークと互換性があり、より簡単に実行できます。

大規模言語モデル

Huihui Ai Gemma 3 1b It Abliterated GGUF

これはGoogle Gemma 3Bモデルの量子化バージョンで、llama.cppに基づいて最適化されており、リソースが限られた環境での実行に適しています。

大規模言語モデル

Mistral Small 24B Instruct 2501 4.0bpw Exl2

Mistral Small 3 (2501) は240億パラメータを持つ大規模言語モデルで、70B以下の小型モデルカテゴリーで優れた性能を発揮し、多言語サポートと高度な推論能力を備えています。

大規模言語モデル

Transformers 複数言語対応

Deepseek R1 GGUF

DeepSeek-R1はUnslothによって最適化された1.58ビット動的量子化大規模言語モデルで、MoEアーキテクチャを採用し、英語タスク処理をサポート

大規模言語モデル英語

GPT NeoX 1.3B Viet Final GGUF

31.3GBのベトナム語データで事前学習された1.3BパラメータのGPT-NeoXモデル

大規模言語モデル英語

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase