L

Llama 3.2 4X3B MOE Ultra Instruct 10B GGUF

DavidAUによって開発
Llama 3.2ベースのエキスパート混合モデルで、4つの3Bモデルを統合して10Bパラメータモデルを形成し、128kのコンテキスト長をサポート、インストラクション追従と全シナリオ生成に優れています。
ダウンロード数 277
リリース時間 : 12/12/2024

モデル概要

これはエキスパート混合技術により4つのトップクラスLlama 3.2 3Bモデルを統合した強力なモデルで、インストラクション追従、テキスト生成、プログラミング、推論などで卓越した性能を発揮します。

モデル特徴

エキスパート混合技術
4つの専門領域の3Bモデルを統合し、より高品質な生成結果とインストラクション追従能力を提供
超長文コンテキストサポート
128k(131,000)トークンのコンテキスト長をサポート、長文書や複雑なタスクの処理に適している
効率的な推論
16GBグラフィックカードで58+ token/s(2エキスパートモード)を達成、中端デバイスでより優れた性能
低パープレキシティ
圧縮効果が極めて高く、Meta Llama3 Instructモデルよりもパープレキシティが低い
全シナリオ対応
推論、プログラミング、クリエイティブライティング、ロールプレイなど多様なシナリオに適用可能

モデル能力

テキスト生成
インストラクション追従
プログラミング支援
クリエイティブライティング
小説創作
ロールプレイ
推論タスク
思考木構築

使用事例

クリエイティブライティング
小説創作
一貫性があり創造性豊かなストーリー展開とキャラクター開発を生成
サンプルでは生き生きとしたシーン描写と人物対話が示されている
シーン続き書き
与えられた冒頭に基づいてストーリーを発展させる
モデルはスタイルの一貫性を保ちつつ合理的なプロット展開を提供できる
技術応用
プログラミング支援
プログラミング問題の解決とコード生成を支援
技術文書
明確な技術説明と文書を生成
教育研究
科学普及コンテンツ生成
火星生活などの科学テーマに関する詳細な説明を生成
サンプルでは正確で分かりやすい科学普及コンテンツが示されている
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase