M

Meta Llama 3.3 70B Instruct AWQ INT4

ibnzterrellによって開発
Llama 3.3 70B Instruct AWQ INT4 は、Meta Llama 3.3 70B Instructモデルの4ビット量子化バージョンで、多言語対話ユースケースに適しており、テキスト生成タスクを最適化しています。
ダウンロード数 6,410
リリース時間 : 12/7/2024

モデル概要

これは、事前トレーニングされ命令チューニングされた700億パラメータの生成モデルで、多言語対話ユースケース向けに最適化されており、複数の言語をサポートし、多くのオープンソースおよびクローズドソースのチャットモデルよりも優れた性能を発揮します。

モデル特徴

効率的な量子化
AutoAWQを使用してFP16からINT4に量子化し、GEMMカーネル、ゼロポイント量子化、128のグループサイズを採用することで、メモリ使用量を大幅に削減します。
多言語サポート
英語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語、ドイツ語など、複数の言語をサポートします。
高性能
一般的な業界ベンチマークテストにおいて、多くのオープンソースおよびクローズドソースのチャットモデルよりも優れた性能を示します。

モデル能力

多言語テキスト生成
対話システム
命令チューニング

使用事例

対話システム
多言語カスタマーサポートアシスタント
複数の言語をサポートするカスタマーサポートアシスタントを構築し、効率的で正確な回答を提供します。
対話体験を最適化し、多言語インタラクションをサポートします。
コンテンツ生成
多言語コンテンツ作成
多言語の記事、レポート、その他のテキストコンテンツを生成します。
コンテンツ作成の効率と品質を向上させます。
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase