Seed Coder 8B Instruct GGUF
S
Seed Coder 8B Instruct GGUF
ZeroWwによって開発
このモデルは独自の量子化処理を施しており、出力と埋め込みテンソルはf16形式で量子化され、その他のテンソルはq5_kまたはq6_k形式で量子化されています。これにより、体積が小さくなりながらも、純粋なf16と同等の性能を維持しています。
ダウンロード数 434
リリース時間 : 5/12/2025
モデル概要
テキスト生成タスクに最適化された量子化モデルで、量子化技術によりモデルの体積を縮小しつつ高性能を維持します。
モデル特徴
高効率な量子化
出力と埋め込みテンソルにはf16形式を使用し、その他のテンソルにはq5_kまたはq6_k形式を使用することで、モデルの体積を効果的に縮小します。
性能維持
量子化後のモデルは純粋なf16形式と同等の性能を維持し、明らかな性能低下は見られません。
体積最適化
f16.q6およびf16.q5形式は標準的なq8_0量子化よりも体積が小さく、展開と使用が容易です。
モデル能力
テキスト生成
使用事例
テキスト生成
コンテンツ作成
記事、ストーリー、その他のテキストコンテンツの自動生成に使用します。
流暢で一貫性のあるテキストを生成
対話システム
チャットボットや仮想アシスタントの構築に使用します。
自然な対話体験を提供
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98