G

Gpt4 X Alpaca 13b Native 4bit 128g

anon8231489123によって開発
GPT4とAlpaca命令ファインチューニングを基にした13Bパラメータ言語モデル、4ビット量子化推論をサポート
ダウンロード数 344
リリース時間 : 4/1/2023

モデル概要

これはGPT4の能力とAlpaca命令ファインチューニング技術を組み合わせた大規模言語モデルで、自然言語理解と生成タスクに適しています。GPTQ量子化技術により4ビット精度圧縮を実現し、ハードウェア要件を大幅に削減しました。

モデル特徴

4ビット量子化
GPTQ技術を使用して4ビット精度圧縮を実現し、VRAM要件を大幅に削減
命令ファインチューニング
GPTeacherデータセットに基づく命令ファインチューニングにより、タスク実行能力を強化
デュアルブランチサポート
TritonとCudaの2つの量子化バージョンを提供し、異なる実行環境に対応

モデル能力

テキスト生成
命令理解
質問応答システム
コンテンツ作成

使用事例

教育
インテリジェントチュータリング
学生の質問に答え、学習指導を提供
コンテンツ作成
記事生成
プロンプトに基づいて一貫性のあるテキストコンテンツを生成
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase