Meta Llama 3 8B Instruct Hf AWQ

🚀 Undi95/Meta-Llama-3-8B-hf AWQ

このモデルはMetaによって開発された大規模言語モデルLlama 3の8Bパラメータ版をAWQ方式で量子化したもので、対話用途に最適化されています。

🚀 クイックスタート

このモデルは、Metaによって開発およびリリースされたMeta Llama 3ファミリーの大規模言語モデル（LLM）の一つです。これは、8Bと70Bのサイズの事前学習済みおよび命令調整済みの生成テキストモデルのコレクションです。Llama 3の命令調整済みモデルは、対話ユースケースに最適化されており、一般的な業界ベンチマークで多くのオープンソースチャットモデルを上回っています。さらに、これらのモデルを開発する際には、有用性と安全性を最適化するために細心の注意を払いました。

✨ 主な機能

• 多様なサイズ：Llama 3には、8Bと70Bの2種類のパラメータサイズがあり、事前学習済みと命令調整済みのバリエーションが用意されています。
• テキスト入出力：モデルはテキストのみを入力とし、テキストとコードを生成します。
• 最適化されたアーキテクチャ：Llama 3は、最適化されたトランスフォーマーアーキテクチャを使用した自己回帰型言語モデルです。調整済みバージョンでは、教師あり微調整（SFT）と人間のフィードバックを用いた強化学習（RLHF）を使用して、有用性と安全性に関する人間の好みに合わせて調整されています。

📚 ドキュメント

モデルの基本情報

引用情報

@article{llama3modelcard,
  title={Llama 3 Model Card},
  author={AI@Meta},
  year={2024},
  url = {https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}
}

オリジナルモデル

• オリジナルモデル: Meta-Llama-3-8B-instruct-hf

📄 ライセンス

このモデルは、llama3ライセンスの下で提供されています。詳細はLICENSEを参照してください。