Gpt4 X Alpaca 13b Native 4bit 128g
GPT4とAlpaca命令ファインチューニングを基にした13Bパラメータ言語モデル、4ビット量子化推論をサポート
ダウンロード数 344
リリース時間 : 4/1/2023
モデル概要
これはGPT4の能力とAlpaca命令ファインチューニング技術を組み合わせた大規模言語モデルで、自然言語理解と生成タスクに適しています。GPTQ量子化技術により4ビット精度圧縮を実現し、ハードウェア要件を大幅に削減しました。
モデル特徴
4ビット量子化
GPTQ技術を使用して4ビット精度圧縮を実現し、VRAM要件を大幅に削減
命令ファインチューニング
GPTeacherデータセットに基づく命令ファインチューニングにより、タスク実行能力を強化
デュアルブランチサポート
TritonとCudaの2つの量子化バージョンを提供し、異なる実行環境に対応
モデル能力
テキスト生成
命令理解
質問応答システム
コンテンツ作成
使用事例
教育
インテリジェントチュータリング
学生の質問に答え、学習指導を提供
コンテンツ作成
記事生成
プロンプトに基づいて一貫性のあるテキストコンテンツを生成
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98