Llama 3.2 1B Instruct QLORA INT4 EO8

🚀 Llama 3.2 多言語大規模言語モデル

Llama 3.2は、1Bと3Bの規模の事前学習および命令微調整生成モデルを含む一連の多言語大規模言語モデルです。多言語対話シナリオに最適化されており、一般的な業界ベンチマークテストで優れた性能を発揮し、知識検索や要約などのタスクに効果的に適用できます。

🚀 クイックスタート

Llama 3.2は、商用および研究用途に使用でき、複数の言語をサポートしています。このモデルを使用する場合は、Llama 3.2 コミュニティライセンス契約に従う必要があります。

✨ 主な機能

• 多言語サポート：公式では英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語がサポートされており、さらに多くの言語で学習が行われています。
• 最適化されたアーキテクチャ：最適化されたトランスフォーマーアーキテクチャを採用し、微調整バージョンでは、人間の有用性と安全性の嗜好に合わせるために、教師あり微調整（SFT）と人間フィードバックに基づく強化学習（RLHF）が使用されています。
• 効率的な推論：すべてのモデルバージョンでグループ化クエリアテンション（GQA）が使用されており、推論の拡張性が向上しています。

📚 ドキュメント

モデル情報

Llama 3.2 多言語大規模言語モデルセットには、1B と 3B 規模の事前学習および命令微調整生成モデル（テキスト入力/テキスト出力）が含まれています。命令微調整された純粋なテキストモデルは、多言語対話用例に最適化されており、知識検索や要約、モバイル AI ライティングアシスタント、クエリやプロンプトの書き換えなどのタスクに適しています。一般的な業界ベンチマークテストでは、多くのオープンソースおよびクローズドソースのチャットモデルを上回っています。

想定用途

想定される使用例

Llama 3.2は、複数の言語での商用および研究用途を目的としています。命令微調整された純粋なテキストモデルは、アシスタントのようなチャットやインテリジェントアプリケーション、知識検索や要約、モバイル AI ライティングアシスタント、クエリやプロンプトの書き換えなどに適しています。事前学習モデルは、さまざまな自然言語生成タスクに使用できます。同様に、量子化モデルは、計算リソースが限られたさまざまなデバイス端末の使用例に使用できます。

想定外の使用

• 適用される法令（貿易コンプライアンス法を含む）に違反する方法での使用。
• 許容使用ポリシーと Llama 3.2 コミュニティライセンス契約に違反する方法での使用。
• このモデルカードで明示的にサポートされていない言語での使用。

ハードウェアとソフトウェア

学習要因

事前学習には、カスタム学習ライブラリ、Meta 独自の GPU クラスター、および本番環境インフラストラクチャが使用されました。微調整、量子化、アノテーション、および評価も本番環境インフラストラクチャ上で行われました。

学習エネルギー使用量

以下の表によると、学習は H100 - 80GB（TDP 700W）タイプのハードウェアで累計 916k GPU 時間の計算リソースを使用しました。学習時間は、各モデルを学習するのに必要な総 GPU 時間であり、消費電力は各 GPU デバイスが使用するピーク電力容量で、電力使用効率に応じて調整されています。

学習による温室効果ガス排出量

学習による推定位置ベースの総温室効果ガス排出量は 240 トン CO2eq です。2020 年以降、Meta は世界規模での事業活動において温室効果ガスの排出量をゼロに維持し、100% の電力使用を再生可能エネルギーで賄っています。そのため、学習による市場ベースの総温室効果ガス排出量は 0 トン CO2eq です。

Llama 3.2 コミュニティライセンス契約

ライセンス権限と再配布

• 権限の付与：あなたには、Llama 素材に含まれる Meta の知的財産権またはその他の権利の下で、Llama 素材を使用、複製、配布、コピー、派生作品の作成、および修正するための非排他的、世界規模、譲渡不可、無料の限定的ライセンスが付与されます。
• 再配布と使用：
  • Llama 素材（またはその派生作品）、またはその一部を含む製品やサービス（別の AI モデルを含む）を配布または提供する場合、あなたは（A）そのような Llama 素材とともに本契約のコピーを提供する必要があります。（B）関連するウェブサイト、ユーザーインターフェイス、ブログ記事、概要ページ、または製品ドキュメントに「Built with Llama」を目立つように表示する必要があります。Llama 素材またはその出力や結果を使用して AI モデルを作成、学習、微調整、またはその他の方法で改善し、配布または提供する場合、あなたはまた、そのような AI モデルの名前の先頭に「Llama」を含める必要があります。
  • あなたが統合エンドユーザー製品の一部として被許諾者から Llama 素材またはその派生作品を受け取った場合、本契約の第 2 条はあなたに適用されません。
  • あなたは、配布するすべての Llama 素材のコピーにおいて、そのようなコピーの一部として配布される「Notice」テキストファイルに以下の帰属声明を含める必要があります。「Llama 3.2 は Llama 3.2 コミュニティライセンス契約に基づいてライセンスされており、著作権 © Meta Platforms, Inc. すべての権利を留保します。」
  • あなたによる Llama 素材の使用は、適用される法令（貿易コンプライアンス法令を含む）に準拠し、Llama 素材の許容使用ポリシー（https://www.llama.com/llama3_2/use-policy で入手可能）に従う必要があります。このポリシーは、ここに引用することにより本契約に組み込まれます。

追加商用条項

Llama 3.2 バージョンの公開日に、被許諾者またはその関連会社が提供する製品またはサービスの月間アクティブユーザー数が前月のカレンダー月で 7 億人を超える場合、あなたは Meta に許可を求める必要があります。Meta は独自の判断で許可を与えるかどうかを決定することができ、Meta が明示的にそのような権利を与えるまで、あなたは本契約に基づくいかなる権利も行使することができません。

免責事項

適用される法律が要求する場合を除き、Llama 素材およびその出力や結果は「現状のまま」提供され、いかなる形式の保証も提供されません。Meta は、所有権、非侵害、市場性、または特定の用途への適合性を含むすべての明示的および暗示的な保証を明示的に排除します。あなたは、Llama 素材の使用または再配布の適切性を独自に判断し、Llama 素材およびその出力や結果の使用に関連するすべてのリスクを負います。

責任の制限

いかなる場合も、Meta またはその関連会社は、本契約に起因する利益の損失、または間接的、特殊的、結果的、偶発的、懲罰的、または罰則的な損害に対して責任を負いません。たとえ Meta またはその関連会社がそのような損害の可能性を知っていたとしても同様です。

知的財産権

• 本契約では商標ライセンスは付与されません。Llama 素材に関連して、Llama 素材の説明や再配布に合理的かつ慣習的に必要な場合、または本节 5(a) で説明されている場合を除き、Meta および被許諾者は、相手またはその関連会社が所有または関連するいかなる名称や標章も使用してはなりません。Meta は、あなたに対して、第 1.b.i 条の最後の文に従うために必要な「Llama」（「標章」）の使用許可を付与します。あなたは、Meta のブランドガイドライン（現在は https://about.meta.com/brand/resources/meta/company-brand/ で入手可能）に従う必要があります。あなたが標章を使用することによって生じるすべての信頼性は、Meta の利益に帰属します。
• Meta が所有する Llama 素材およびその派生作品に関する限り、あなたが作成した Llama 素材の派生作品や修正については、あなたと Meta の間で、あなたがそのような派生作品や修正の所有者であり、将来も所有者であり続けます。
• あなたが Meta または他の主体に対して訴訟またはその他の手続き（訴訟における交差請求または反訴を含む）を提起し、Llama 素材または Llama 3.2 の出力や結果、またはその一部が、あなたが所有または許諾できる知的財産権またはその他の権利の侵害を構成すると主張する場合、本契約によってあなたに付与されたいかなるライセンスも、そのような訴訟または請求が提起された日から終了します。あなたは、あなたが Llama 素材を使用または配布することに起因する、または関連するすべての第三者の請求から Meta を弁済し、保護する責任があります。

契約期間と終了

本契約の期間は、あなたが本契約を受け入れるか、Llama 素材にアクセスするときから始まり、本契約の条項および条件に基づいて終了するまで有効です。あなたが本契約のいずれかの条項または条件に違反した場合、Meta は本契約を終了させることができます。本契約が終了した後、あなたは Llama 素材を削除し、使用を停止する必要があります。第 3、4、および 7 条は、本契約の終了後も有効です。

適用法律と管轄権

本契約は、法律選択原則を考慮せずに、カリフォルニア州の法律に準拠し、それに従って解釈されます。国際連合国際商品売買契約条約は本契約に適用されません。カリフォルニア州の裁判所は、本契約に起因するすべての紛争に対して排他的な管轄権を有します。

Llama 3.2 許容使用ポリシー

Meta は、そのツールや機能（Llama 3.2 を含む）の安全かつ公平な使用を促進することに取り組んでいます。あなたが Llama 3.2 にアクセスまたは使用する場合、あなたは本許容使用ポリシー（「ポリシー」）に同意したことになります。本ポリシーの最新バージョンは、https://www.llama.com/llama3_2/use-policy で確認できます。

禁止される使用

• 法律または他人の権利の侵害：
  • 違法または違規行為やコンテンツを関与、促進、生成、促成、助長、計画、扇動、または推進する行為。例えば：
    • 暴力またはテロリズム
    • 児童の搾取または傷害、児童搾取コンテンツの勧誘、作成、取得、または配布、または児童性虐待材料の報告漏れ
    • 人身売買、搾取、および性暴力
    • 未成年者への情報や材料の違法な配布、猥褻な材料を含む、またはそのような情報や材料に法律で要求される年齢制限を適用しない
    • 性的勧誘
    • その他の犯罪行為
  • 個人またはグループに対する嫌がらせ、虐待、脅迫、またはいじめを関与、促進、扇動、または助長する行為
  • 雇用、雇用福利、信用、住宅、その他の経済的福利、またはその他の基本的な商品やサービスの提供における差別やその他の違法または有害な行為を関与、促進、扇動、または助長する行為
  • 金融、法律、医療/健康、または関連する専門分野を含む、許可を得ていないまたは免許のない専門的な実践を行う行為
  • 適用される法律に基づいてそのような権利を取得していない限り、個人の個人情報や機密情報、個人識別情報、健康情報、または統計情報を収集、処理、開示、生成、または推測する行為
  • Llama 素材を使用する製品やサービスの出力や結果を含む、いかなる第三者の権利を侵害、盗用、またはその他の方法で侵害する行為やコンテンツを生成する行為
  • 悪意のあるコード、マルウェア、コンピュータウイルスを作成、生成、または助長する行為、またはウェブサイトやコンピュータシステムの正常な動作、完全性、操作、または外観を無効化、過負荷、干渉、または損害する可能性のあるその他の行為
  • 使用制限やその他の安全対策を意図的に回避または削除する行為、または Meta が無効にした機能を有効にする行為
• 危険な活動の実行：個人の生命または身体に危害を与えるリスクのある活動を関与、促進、扇動、助長、または計画や実行を支援する行為。Llama 3.2 の使用に関連する以下の分野を含む：
  • 軍事、戦争、核産業または応用、スパイ活動、米国国務省の「国際武器貿易規制条例」（ITAR）に準拠する材料または活動、または 1989 年の「米国生物兵器対テロ法」または 1997 年の「化学兵器条約実施法」に準拠する材料または活動
  • 銃器および違法武器（武器開発を含む）
  • 違法薬物および規制/管理物質
  • 重要インフラストラクチャ、輸送技術、または重型機械の操作
  • 自傷行為または他人への危害、自殺、自傷、および摂食障害を含む
  • 暴力、虐待、または個人への身体的危害を扇動または促進することを目的としたコンテンツ
• 故意の欺瞞または誤解を招く行為：Llama 3.2 の使用に関連する以下の分野を含む：
  • 詐欺を生成、促進、または推進する行為、または虚偽情報を作成または宣伝する行為
  • 誹謗中傷的なコンテンツを生成、促進、または推進する行為、誹謗中傷的な声明、画像、またはその他のコンテンツを作成する行為
  • スパムを生成、促進、またはさらに配布する行為
  • 同意、許可、または合法的な権利を得ていない状態で他人になりすます行為
  • Llama 3.2 の使用または出力が人間によって生成されたものであると主張する行為
  • 虚偽のオンラインインタラクション、虚偽のコメントやその他の虚偽のオンラインインタラクション方法を生成または助長する行為
• リスクの適切な開示の欠如：最終ユーザーに対してあなたの AI システムの既知の危険を適切に開示しない行為
• 違法ツールとの相互作用：違法なコンテンツを生成することを目的とした、または違法または有害な行為を行う第三者のツール、モデル、またはソフトウェアとの相互作用、および/またはそのようなツール、モデル、またはソフトウェアの出力が Meta または Llama 3.2 に関連すると主張する行為

Llama 3.2 に含まれるいかなるマルチモーダルモデルについても、あなたが EU 居住者または主たる営業拠点が EU にある会社である場合、Llama 3.2 コミュニティライセンス契約の第 1(a) 条で付与される権利はあなたに適用されません。この制限は、そのようなマルチモーダルモデルを含む製品またはサービスの最終ユーザーには適用されません。

あなたが本ポリシーに違反する行為、ソフトウェアの「バグ」、または本ポリシーに違反する可能性のあるその他の問題を発見した場合は、以下の方法で報告してください：

• モデルの問題を報告する：https://github.com/meta-llama/llama-models/issues
• モデルが生成したリスクコンテンツを報告する：developers.facebook.com/llama_output_feedback
• バグやセキュリティ問題を報告する：facebook.com/whitehat/info
• Llama 3.2 の許容使用ポリシー違反または無許可使用を報告する：LlamaUseReport@meta.com

📄 ライセンス

Llama 3.2の使用は、Llama 3.2 コミュニティライセンス契約（カスタム商用ライセンス契約）に準拠しています。