モデル概要
モデル特徴
モデル能力
使用事例
🚀 Llama 2
Llama 2は、70億から700億のパラメータ規模の事前学習済みおよびファインチューニング済みの生成型テキストモデルのコレクションです。これは7Bのファインチューニング済みモデルのリポジトリで、対話ユースケースに最適化され、Hugging Face Transformers形式に変換されています。他のモデルへのリンクは下部のインデックスにあります。
🚀 クイックスタート
このモデルを使用するには、Metaのライセンスに従う必要があります。モデルの重みとトークナイザーをダウンロードするには、このウェブサイトにアクセスし、ライセンスに同意してからアクセスをリクエストしてください。
✨ 主な機能
Metaは、70億から700億のパラメータ規模の事前学習済みおよびファインチューニング済みの生成型テキストモデルであるLlama 2シリーズの大規模言語モデル(LLM)を開発し、公開しました。ファインチューニング済みのLLMであるLlama-2-Chatは、対話ユースケースに最適化されています。Llama-2-Chatモデルは、テストしたほとんどのベンチマークでオープンソースのチャットモデルを上回り、有用性と安全性に関する人間による評価では、ChatGPTやPaLMなどの人気のクローズドソースモデルと同等の性能を発揮します。
📚 ドキュメント
モデルの詳細
プロパティ | 詳細 |
---|---|
モデル開発者 | Meta |
バリエーション | Llama 2には、7B、13B、70Bというさまざまなパラメータサイズがあり、事前学習済みとファインチューニング済みのバリエーションがあります。 |
入力 | モデルはテキストのみを入力とします。 |
出力 | モデルはテキストのみを生成します。 |
モデルアーキテクチャ | Llama 2は、最適化されたトランスフォーマーアーキテクチャを使用する自己回帰型言語モデルです。調整されたバージョンは、教師付き微調整(SFT)と人間のフィードバックを用いた強化学習(RLHF)を使用して、有用性と安全性に関する人間の嗜好に合わせて調整されています。 |
トレーニングデータ
モデル | トレーニングデータ | パラメータ | コンテンツ長 | GQA | トークン | 学習率 |
---|---|---|---|---|---|---|
Llama 2 | 公開されているオンラインデータの新しいミックス | 7B | 4k | ❌ | 2.0T | 3.0 x 10-4 |
Llama 2 | 公開されているオンラインデータの新しいミックス | 13B | 4k | ❌ | 2.0T | 3.0 x 10-4 |
Llama 2 | 公開されているオンラインデータの新しいミックス | 70B | 4k | ✅ | 2.0T | 1.5 x 10-4 |
トークン数は事前学習データのみを指します。すべてのモデルは、グローバルバッチサイズ4Mトークンでトレーニングされています。より大きなモデル(70B)は、Grouped-Querを使用しています。
📄 ライセンス
Llama 2コミュニティライセンス契約
「契約」とは、本契約書に定めるLlama素材の使用、複製、配布、および改変に関する条件をいいます。
「ドキュメント」とは、Metaがこちらで配布するLlama 2に付随する仕様書、マニュアル、およびドキュメントをいいます。
「ライセンシー」または「あなた」とは、あなた自身、あるいはあなたの雇用主、またはあなたがその者もしくは団体のために本契約に入る場合の当該者もしくは団体であって、適用される法律、規則、または規制に基づき法的同意を与えるために必要な年齢に達しており、かつあなたがその者もしくは団体のために本契約に入る場合にその雇用主または当該他の者もしくは団体を拘束する法的権限を有する者をいいます。
「Llama 2」とは、基礎となる大規模言語モデル、ソフトウェア、およびアルゴリズムであって、機械学習モデルコード、学習済みモデルの重み、推論を可能にするコード、学習を可能にするコード、微調整を可能にするコード、およびMetaがこちらで配布する前述のその他の要素をいいます。
「Llama素材」とは、総称として、本契約の下で提供されるMetaの独自のLlama 2およびドキュメント(またはその一部)をいいます。
「Meta」または「私たち」とは、あなたが欧州経済地域(EEA)またはスイスに所在する場合、もしくはあなたが団体である場合にあなたの主たる事業場がEEAまたはスイスにある場合はMeta Platforms Ireland Limitedを、それ以外の場合はMeta Platforms, Inc.をいいます。
以下の「同意する」をクリックするか、またはLlama素材のいずれかの部分もしくは要素を使用または配布することにより、あなたは本契約に拘束されることに同意するものとします。
-
ライセンス権利と再配布 a. 権利の付与 あなたには、Llama素材に含まれるMetaの知的財産またはMetaが所有するその他の権利の下で、非排他的、世界規模、非譲渡可能、無償の限定的ライセンスが付与され、Llama素材を使用、複製、配布、コピー、派生物を作成、および改変することができます。
b. 再配布と使用 i. あなたがLlama素材またはその派生物を第三者に配布または提供する場合、あなたは当該第三者に本契約のコピーを提供するものとします。 ii. あなたが統合されたエンドユーザー製品の一部として、ライセンシーからLlama素材またはその派生物を受け取った場合、本契約の第2条はあなたに適用されません。 iii. あなたが配布するLlama素材のすべてのコピーには、当該コピーの一部として配布される「通知」テキストファイル内に次の帰属通知を記載する必要があります。「Llama 2はLLAMA 2コミュニティライセンスの下でライセンスされており、Copyright (c) Meta Platforms, Inc. All Rights Reserved.」 iv. あなたのLlama素材の使用は、適用される法律および規制(貿易コンプライアンスの法律および規制を含む)に準拠し、かつLlama素材の許容使用ポリシー(こちらで入手可能)に従う必要があります。この許容使用ポリシーは、本契約に参照により組み込まれるものとします。 v. あなたは、Llama素材またはLlama素材の出力もしくは結果を使用して、他の大規模言語モデル(Llama 2またはその派生物を除く)を改善することはできません。
-
追加の商業条項 Llama 2のバージョンリリース日において、ライセンシーまたはライセンシーの関連会社により提供される製品またはサービスの月間アクティブユーザー数が、前の暦月において7億を超える場合、あなたはMetaからライセンスを申請する必要があります。Metaはその裁量によりあなたにライセンスを付与することができますが、Metaが明示的にそのような権利を付与するまで、あなたは本契約に基づくいかなる権利も行使することができません。
-
保証の否認 適用される法律により必要とされない限り、Llama素材およびそれから得られるすべての出力および結果は、「現状有姿」の基礎で提供され、いかなる種類の保証も明示的または黙示的に含まれません。これには、所有権、非侵害、商品性、または特定の目的に適合することに関する保証が含まれます。あなたは、Llama素材を使用または再配布する適切性を独自に判断する責任があり、Llama素材の使用およびその出力および結果に関連するすべてのリスクを負います。
-
責任の制限 いかなる場合も、Metaまたはその関連会社は、本契約に起因する契約、不法行為、過失、製品責任、またはその他の理論に基づく責任について、利益損失、間接損害、特別損害、結果損害、偶発的損害、懲罰的損害賠償を負うことはなく、たとえMetaまたはその関連会社が当該損害の可能性について通知されていたとしても同様です。
-
知的財産 a. 本契約の下で商標ライセンスは付与されません。Llama素材に関連して、Metaまたはライセンシーは、合理的かつ慣習的な使用のためにLlama素材を説明および再配布する場合を除き、相手方またはその関連会社が所有するまたは関連するいかなる名称または標章も使用することはできません。 b. MetaによるまたはMetaのためのLlama素材および派生物の所有権を前提として、あなたが作成したLlama素材の派生物および改変に関して、あなたとMetaの間で、あなたは当該派生物および改変の所有者であり、かつ所有者であり続けるものとします。 c. あなたがMetaまたはいかなる団体に対して訴訟またはその他の手続きを起こし(訴訟における交差請求または反訴を含む)、Llama素材またはLlama 2の出力もしくは結果、またはそれらのいずれかの部分があなたが所有するまたはライセンスすることができる知的財産またはその他の権利の侵害を構成すると主張する場合、本契約の下であなたに付与されたすべてのライセンスは、当該訴訟または請求が提起された日から終了するものとします。あなたは、Llama素材の使用または配布に起因するまたは関連するいかなる第三者による請求からMetaを弁護し、損害を与えないようにする責任があります。
-
契約期間と終了 本契約の期間は、あなたが本契約に同意するか、またはLlama素材にアクセスすることにより開始し、本契約の条件に従って終了するまで有効です。あなたが本契約のいずれかの条項または条件に違反した場合、Metaは本契約を終了することができます。本契約が終了した場合、あなたはLlama素材を削除し、使用を停止するものとします。第3条、第4条、および第7条は、本契約の終了後も有効です。
-
準拠法と管轄権 本契約は、カリフォルニア州の法律に基づいて解釈および管理され、法の選択の原則は適用されません。国際商品売買契約に関する国際連合条約は本契約に適用されません。カリフォルニア州の裁判所は、本契約に起因するいかなる紛争についても排他的な管轄権を有します。
Llama 2許容使用ポリシー
Metaは、Llama 2を含むそのツールや機能の安全かつ公正な使用を促進することにコミットしています。あなたがLlama 2にアクセスまたは使用する場合、あなたはこの許容使用ポリシー(「ポリシー」)に同意するものとします。このポリシーの最新版はこちらにあります。
禁止される使用
私たちは、誰もがLlama 2を安全かつ責任を持って使用することを望んでいます。あなたは、Llama 2を以下の目的で使用したり、他人に使用させたりしないことに同意するものとします。
- 法律または他人の権利を侵害すること、具体的には:
- 違法または不法な活動またはコンテンツを行い、促進し、生成し、寄与し、助長し、計画し、扇動し、またはさらに進めること。例えば:
- 暴力またはテロリズム
- 子供の搾取または危害、子供の搾取的コンテンツの勧誘、作成、取得、または配布、または児童性虐待素材の報告の不履行
- 人身売買、搾取、および性的暴力
- 未成年者への情報または資料の違法な配布、わいせつな資料を含む、または当該情報または資料に関連して法律で要求される年齢制限を適用しないこと
- 性的勧誘
- その他の犯罪活動
- 個人または個人のグループの嫌がらせ、虐待、脅迫、またはいじめを行い、促進し、扇動し、または容易にすること
- 雇用、雇用福利厚生、信用、住宅、その他の経済的利益、またはその他の重要な商品またはサービスの提供における差別またはその他の不法または有害な行為を行い、促進し、扇動し、または容易にすること
- 金融、法律、医療/健康、または関連する専門職を含むがこれに限定されない、いかなる職業の無許可または無免許の実践を行うこと
- 適用される法律により必要な権利および同意なしに、個人に関する健康、人口統計、またはその他の敏感な個人情報または私的情報を収集、処理、開示、生成、または推測すること
- いかなる第三者の権利を侵害し、盗用し、またはその他の方法で違反するいかなる行動を行いまたは容易にすること、またはLlama 2素材を使用するいかなる製品またはサービスの出力または結果を含むいかなるコンテンツを生成すること
- 悪意のあるコード、マルウェア、コンピュータウイルスを作成、生成、または容易にすること、またはウェブサイトまたはコンピュータシステムの適切な動作、整合性、操作、または外観を無効化、過負荷、妨害、または損なうことができるその他のことを行うこと
- 違法または不法な活動またはコンテンツを行い、促進し、生成し、寄与し、助長し、計画し、扇動し、またはさらに進めること。例えば:
- 個人に対する死亡または身体的危害のリスクをもたらす活動の計画または開発を行い、促進し、扇動し、容易にし、または支援すること。これには、Llama 2を以下の関連で使用することが含まれます:
- 軍事、戦争、原子力産業または応用、諜報活動、米国国務省が維持する国際武器輸出規制(ITAR)の対象となる材料または活動の使用
- 銃器および違法武器(武器開発を含む)
- 違法薬物および規制/管理物質
- 重要インフラストラクチャ、輸送技術、または重機械の操作
- 自傷行為または他人への危害、自殺、切り傷、および摂食障害を含む
- 個人に対する暴力、虐待、または身体的危害を扇動または促進することを意図したいかなるコンテンツ
- 他の人を意図的に欺瞞または誤解させること。これには、Llama 2を以下の関連で使用することが含まれます:
- 詐欺を生成、促進、またはさらに進めること、またはディスインフォメーションの作成または促進
- 中傷的なコンテンツを生成、促進、またはさらに進めること、中傷的な声明、画像、またはその他のコンテンツの作成を含む
- スパムを生成、促進、またはさらに配布すること
- 同意、許可、または法的権利なしに他人をなりすますこと
- Llama 2の使用または出力が人間によって生成されたものであると表現すること
- 偽のオンラインエンゲージメントを生成または容易にすること、偽のレビューおよびその他の偽のオンラインエンゲージメントの手段を含む
- あなたのAIシステムの既知の危険をエンドユーザーに適切に開示しないこと
このポリシーの違反、ソフトウェアの「バグ」、またはこのポリシーの違反につながる可能性のあるその他の問題は、以下のいずれかの方法で報告してください。 * モデルの問題を報告する:github.com/facebookresearch/llama * モデルによって生成された危険なコンテンツを報告する:developers.facebook.com/llama_output_feedback * バグとセキュリティの懸念を報告する:facebook.com/whitehat/info * 許容使用ポリシーの違反またはLlamaの無許可使用を報告する:LlamaUseReport@meta.com
追加情報
あなたが提供する情報は、Metaのプライバシーポリシーに従って収集、保存、処理、および共有されます。
必要な情報
項目 | 種類 |
---|---|
名 | テキスト |
姓 | テキスト |
生年月日 | 日付選択 |
国 | 国名 |
所属 | テキスト |
地理位置 | IP位置 |
「送信」をクリックすることで、あなたはライセンスの条件に同意し、あなたが提供する情報がMetaのプライバシーポリシーに従って収集、保存、処理、および共有されることを承認するものとします。
送信ボタン
送信



