Llama 3.2 3B Instruct

🚀 Llama 3.2 多言語大規模言語モデル

Llama 3.2 は Meta が提供する多言語大規模言語モデルのコレクションで、1B と 3B のサイズの事前学習済みおよび命令調整済みの生成モデルを含んでいます。多言語対話のユースケースに最適化されており、一般的な業界基準テストで優れた性能を発揮し、商業および研究分野に強力な言語処理能力を提供します。

🚀 クイックスタート

transformers ライブラリの使用

transformers >= 4.43.0 バージョンから、Transformers の pipeline 抽象化または Auto クラスの generate() 関数を使用して、対話推論を行うことができます。

以下のコマンドで transformers ライブラリを更新してください。

pip install --upgrade transformers

以下は使用例です。

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-3B-Instruct"
pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]
outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

注意: モデルをローカルで使用する方法、torch.compile() の使用方法、補助生成、量子化などの詳細な方法は、huggingface-llama-recipes で確認できます。

llama コードライブラリの使用

リポジトリ の説明に従ってください。

元のチェックポイントをダウンロードするには、以下の huggingface-cli を使用したコマンド例を参考にしてください。

huggingface-cli download meta-llama/Llama-3.2-3B-Instruct --include "original/*" --local-dir Llama-3.2-3B-Instruct

✨ 主な機能

• 多言語サポート：公式では英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語がサポートされており、より広範な言語セットで学習されています。
• 最適化されたアーキテクチャ：最適化されたトランスフォーマーアーキテクチャを採用しており、調整済みバージョンでは、監督微調整（SFT）と人間フィードバックに基づく強化学習（RLHF）を使用して、有用性と安全性に関する人間の嗜好に合わせています。
• 高い性能：一般的な業界基準テストで、多くの既存のオープンソースおよびクローズドソースのチャットモデルを上回っています。

📦 インストール

transformers ライブラリの使用

以下のコマンドで transformers ライブラリを更新してください。

pip install --upgrade transformers

💻 使用例

基本的な使用法

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-3B-Instruct"
pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]
outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

📚 ドキュメント

モデル情報

想定される用途

想定されるユースケース

Llama 3.2 は、多言語の商業および研究用途に使用することを目的としています。命令調整済みの純テキストモデルは、ヘルパーのようなチャットやエージェントアプリケーション、知識検索や要約、モバイル AI ライティングアシスタント、クエリやプロンプトの書き換えなどに適しています。事前学習済みモデルは、その他のさまざまな自然言語生成タスクに使用できます。

想定外の用途

• 適用される法律や規制（貿易コンプライアンス法律を含む）に違反する方法での使用。
• 許容使用ポリシーおよび Llama 3.2 コミュニティライセンスで禁止されている他の方法での使用。
• 本モデルカードでサポートされていると明記されていない言語での使用。

ハードウェアとソフトウェア

学習要因：カスタム学習ライブラリ、Meta 独自の GPU クラスター、および本番環境を使用しています。

📄 ライセンス

LLAMA 3.2 コミュニティライセンス契約

Llama 3.2 バージョン公開日：2024 年 9 月 25 日

「契約」とは、本契約で規定される Llama 素材の使用、複製、配布、および修正に関する条項と条件を指します。

「ドキュメント」とは、Meta が https://llama.meta.com/doc/overview で配布する、Llama 3.2 に付属する仕様、マニュアル、およびドキュメントを指します。

「被許諾者」または「あなた」とは、あなた、またはあなたの雇用主、またはあなたがその者または団体を代表して本契約に署名する場合の他の任意の個人または団体を指し、あなたは適用される法律、規則、または規制によって定められた法的同意を与える年齢に達しており、あなたがあなたの雇用主または他の個人または団体を代表して本契約に署名する場合、あなたはそれらを拘束する法的権限を有しています。

「Llama 3.2」とは、基礎となる大規模言語モデル、ソフトウェア、およびアルゴリズムを指し、機械学習モデルコード、学習済みモデルの重み、推論有効化コード、学習有効化コード、微調整有効化コード、および Meta が https://www.llama.com/llama-downloads で配布する上記の他の要素を含みます。

「Llama 素材」とは、Meta が本契約に基づいて提供する独自の Llama 3.2 およびドキュメント（およびその任意の部分）の総称を指します。

「Meta」または「私たち」とは、あなたが欧州経済圏またはスイスに所在する場合、またはあなたが団体であり、あなたの主たる営業地が欧州経済圏またはスイスにある場合、Meta Platforms Ireland Limited を指し、それ以外の場合、Meta Platforms, Inc. を指します。

以下の「同意する」をクリックするか、Llama 素材の任意の部分または要素を使用または配布することにより、あなたは本契約の拘束を受けることに同意します。

1. 許諾権利と再配布

   • a. 権利の付与：あなたには、Meta が Llama 素材に含める知的財産権またはその他の権利の下で、非排他的、世界規模、譲渡不能、無料の限定的な許諾が与えられ、Llama 素材を使用、複製、配布、コピー、派生作品を作成、および修正することができます。
   • b. 再配布と使用
     • i. あなたが Llama 素材（またはその任意の派生作品）、またはその中に含まれる内容を含む製品またはサービス（別の AI モデルを含む）を配布または提供する場合、あなたは（A）そのような Llama 素材に本契約のコピーを添付する必要があり、（B）関連するウェブサイト、ユーザーインターフェース、ブログ記事、アバウトページ、または製品ドキュメントに「Built with Llama」を目立つように表示する必要があります。あなたが Llama 素材または Llama 素材の任意の出力または結果を使用して、AI モデルを作成、学習、微調整、またはその他の方法で改良し、配布または提供する場合、あなたはそのような AI モデルの名前の先頭に「Llama」を含める必要があります。
     • ii. あなたが被許諾者から統合エンドユーザー製品の一部として Llama 素材またはその任意の派生作品を受け取る場合、本契約の第 2 条はあなたには適用されません。
     • iii. あなたは、配布するすべての Llama 素材のコピーにおいて、そのようなコピーの一部として配布される「Notice」テキストファイルに以下の帰属声明を含める必要があります。「Llama 3.2 は Llama 3.2 コミュニティライセンスに基づいてライセンスされており、著作権 © Meta Platforms, Inc. すべての権利を留保します。」
     • iv. あなたによる Llama 素材の使用は、適用される法律や規制（貿易コンプライアンス法律や規制を含む）に従い、Llama 素材の許容使用ポリシー（https://www.llama.com/llama3_2/use-policy で入手できます）に従う必要があり、このポリシーはここに引用により組み込まれます。

2. 追加の商業条項：Llama 3.2 バージョン公開日において、被許諾者または被許諾者の関連会社が提供する製品またはサービスの月間アクティブユーザーが前の暦月に 7 億を超える場合、あなたは Meta に許可を求める必要があり、Meta は独自の判断で許可を与えるかどうかを決定することができ、Meta が明示的にそのような権利を与えるまで、あなたは本契約に基づくいかなる権利も行使することができません。

3. 保証の否認：適用される法律が要求する場合を除き、Llama 素材およびその任意の出力および結果は「現状のまま」提供され、いかなる形式の保証も提供されません。Meta は、所有権、非侵害、商品性、または特定の用途への適合性を含むすべての明示的および暗示的な保証を明示的に排除します。あなたは、Llama 素材の使用または再配布の適切性を独自に判断する責任があり、Llama 素材およびその任意の出力および結果の使用に関連するリスクを負います。

4. 責任の制限：いかなる場合も、Meta またはその関連会社は、本契約に起因する利益の損失またはいかなる間接的、特殊な、結果的な、偶発的、懲罰的、または罰則的な損害に対して責任を負いません。責任の理論が契約、不法行為、過失、製品責任、またはその他のものであるかに関係なく、Meta またはその関連会社がそのような損害の可能性を知っていた場合でも同様です。

5. 知的財産

   • a. 本契約では商標の許諾は与えられておらず、Llama 素材に関して、Llama 素材を説明および再配布するための合理的かつ通常の使用に必要な場合を除き、または本节 5(a) で説明する場合を除き、Meta と被許諾者は、相手またはその任意の関連会社が所有または関連する任意の名称またはマークを使用してはなりません。Meta はここで、第 1.b.i 条の最後の文に従うために必要な場合にのみ「Llama」（「マーク」）を使用する許諾を与えます。あなたは Meta のブランドガイドライン（現在は https://about.meta.com/brand/resources/meta/company-brand/ で入手できます）に従う必要があります。あなたがマークを使用することによって生じるすべての営業権は Meta に帰属します。
   • b. Meta が Llama 素材およびその派生作品の所有者であることを考慮して、あなたが Llama 素材に対して行う任意の派生作品および修正に関して、あなたと Meta の間で、あなたはそのような派生作品および修正の所有者であり、そのままであり続けます。
   • c. あなたが Meta または任意の団体に対して訴訟またはその他の手続き（訴訟における交差請求または反訴を含む）を起こし、Llama 素材または Llama 3.2 の出力または結果、またはその任意の部分があなたが所有または許諾できる知的財産権またはその他の権利の侵害を構成すると主張する場合、本契約によってあなたに与えられる任意の許諾は、そのような訴訟または請求が提起された日から終了します。あなたは、Llama 素材の使用または配布に起因する、またはそれに関連する任意の第三者の請求から Meta を補償し、保護する責任があります。

6. 期間と終了：本契約の期間は、あなたが本契約に同意するか、Llama 素材にアクセスする日から始まり、本契約の条項および条件に従って終了するまで有効です。あなたが本契約の任意の条項および条件に違反した場合、Meta は本契約を終了することができます。本契約が終了した後、あなたは Llama 素材を削除し、使用を停止する必要があります。第 3、4、および 7 条は、本契約の終了後も有効です。

7. 適用法律と管轄権：本契約は、カリフォルニア州の法律に準拠し、解釈されます。法律選択の原則は考慮されません。国際連合国際商品売買契約条約は本契約に適用されません。カリフォルニア州の裁判所は、本契約に起因する任意の紛争に対して排他的な管轄権を有します。

Llama 3.2 許容使用ポリシー

Meta は、そのツールや機能（Llama 3.2 を含む）の安全かつ公正な使用を促進することに取り組んでいます。あなたが Llama 3.2 にアクセスまたは使用する場合、あなたは本許容使用ポリシー（「ポリシー」）に同意することになります。本ポリシーの最新バージョンは、https://www.llama.com/llama3_2/use-policy で確認できます。

禁止される使用

私たちは、誰もが安全かつ責任を持って Llama 3.2 を使用することを望んでいます。あなたは、以下の行為に Llama 3.2 を使用したり、他人に使用させたりしないことに同意します。

1. 法律または他人の権利に違反する行為、具体的には：
   • 違法または犯罪行為やコンテンツを行い、促進し、生成し、促成し、助長し、計画し、扇動し、または推進する行為、例えば：
     • 暴力またはテロリズム
     • 児童の搾取または危害、児童搾取コンテンツの勧誘、作成、取得、または配布、または児童性虐待素材の未報告
     • 人身売買、搾取、および性的暴力
     • 未成年者への情報または素材の違法な配布、猥褻な素材を含む、またはそのような情報または素材に法律で要求される年齢制限を適用しない行為
     • 性的な勧誘
     • その他の犯罪行為
   • 個人またはグループに対する嫌がらせ、虐待、脅迫、またはいじめを行い、促進し、扇動し、または容易にする行為
   • 雇用、雇用福利、信用、住宅、その他の経済的福利、またはその他の基本的な商品やサービスの提供における差別またはその他の違法または有害な行為を行い、促進し、扇動し、または容易にする行為
   • 金融、法律、医療/健康、または関連する専門分野を含む、許可されていないまたは免許のない専門的な実践を行う行為
   • 個人の個人情報、健康情報、または統計情報を含む、個人の私的または敏感な情報を収集、処理、開示、生成、または推測する行為（適用される法律に基づいてそのような権利を取得している場合を除く）
   • 任意の第三者の権利を侵害、盗用、またはその他の方法で侵害する行為またはコンテンツを生成する行為、Llama 素材を使用する任意の製品またはサービスの出力または結果を含む
   • 悪意のあるコード、マルウェア、コンピュータウイルスを作成、生成、または容易にする行為、またはウェブサイトまたはコンピュータシステムの正常な動作、完全性、操作、または外観を無効化、過負荷、妨害、または損害するその他の行為
   • 使用制限またはその他の安全対策を故意に回避または削除する行為、またはそのような行為を容易にする行為、または Meta が無効にした機能を有効にする行為
2. 個人に死亡または身体的な危害のリスクをもたらす活動を計画または実行することを行い、促進し、扇動し、容易にし、または支援する行為、具体的には Llama 3.2 を以下の分野に関連して使用する行為：
   • 軍事、戦争、原子力産業または応用、スパイ活動、米国国務省が維持する《国際武器貿易規則》（ITAR）に拘束される素材または活動、または 1989 年の《米国生物兵器対テロ法》または 1997 年の《化学兵器条約実施法》に拘束される素材または活動
   • 銃器および違法武器（武器開発を含む）
   • 違法薬物および規制/管理物質
   • 重要インフラストラクチャ、輸送技術、または重機械の操作
   • 自傷行為または他人への危害、自殺、自傷、および摂食障害を含む
   • 暴力、虐待、または個人への身体的危害を扇動または促進することを目的としたコンテンツ
3. 他人を故意に欺瞞または誤解させる行為、具体的には Llama 3.2 を以下の分野に関連して使用する行為：
   • 詐欺または虚偽情報の作成または推進を生成、促進、または推進する行為
   • 中傷的なコンテンツを生成、促進、または推進する行為、中傷的な声明、画像、またはその他のコンテンツの作成を含む
   • スパムを生成、促進、またはさらに配布する行為
   • 同意、許可、または合法的な権利なしに他人になりすます行為
   • Llama 3.2 の使用または出力が人間によって生成されたものであると表示する行為
   • 虚偽のオンラインインタラクションを生成または容易にする行為、虚偽のレビューおよびその他の虚偽のオンラインインタラクション方法を含む
4. 最終ユーザーに対して、あなたの AI システムの既知の危険を適切に開示しない行為
5. 違法なコンテンツを生成することを目的とした、または違法または有害な行為を行うことを目的とした第三者のツール、モデル、またはソフトウェアとのやり取りを行い、および/またはそのようなツール、モデル、またはソフトウェアの出力が Meta または Llama 3.2 に関連するものであると表示する行為

Llama 3.2 に含まれる任意のマルチモーダルモデルに関して、あなたが欧州連合に居住する個人または主たる営業地が欧州連合にある会社である場合、本 Llama 3.2 コミュニティライセンス契約の第 1(a) 条で与えられる権利はあなたには適用されません。この制限は、そのようなマルチモーダルモデルを含む製品またはサービスの最終ユーザーには適用されません。

以下のいずれかの方法で、本ポリシーの違反、ソフトウェアの「バグ」、または本ポリシーの違反につながる可能性のあるその他の問題を報告してください。

• モデルの問題を報告する：https://github.com/meta-llama/llama-models/issues
• モデルが生成するリスクのあるコンテンツを報告する：developers.facebook.com/llama_output_feedback
• バグとセキュリティ問題を報告する：facebook.com/whitehat/info
• Llama 3.2 の許容使用ポリシーの違反または許可されていない使用を報告する：LlamaUseReport@meta.com

追加ゲート情報

あなたが提供する情報は、Meta プライバシーポリシー に基づいて収集、保存、処理、および共有されます。

以下の「送信」をクリックすることで、私はライセンス契約の条項に同意し、私が提供する情報が Meta プライバシーポリシーに基づいて収集、保存、処理、および共有されることを確認します。

追加ゲートボタン内容

送信