Meta Llama 3 8B Instruct Q4 K M GGUF

🚀 noeljacob/Meta-Llama-3-8B-Instruct-Q4_K_M-GGUF

このモデルは、meta-llama/Meta-Llama-3-8B-Instruct から、llama.cpp を使用して ggml.ai の GGUF-my-repo スペースを通じて GGUF 形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。

🚀 クイックスタート

📦 インストール

llama.cpp を brew を通じてインストールします。

brew install ggerganov/ggerganov/llama.cpp

💻 使用例

基本的な使用法

CLI を使用する場合:

llama-cli --hf-repo noeljacob/Meta-Llama-3-8B-Instruct-Q4_K_M-GGUF --model meta-llama-3-8b-instruct.Q4_K_M.gguf -p "The meaning to life and the universe is"

サーバーを使用する場合:

llama-server --hf-repo noeljacob/Meta-Llama-3-8B-Instruct-Q4_K_M-GGUF --model meta-llama-3-8b-instruct.Q4_K_M.gguf -c 2048

高度な使用法

Llama.cpp リポジトリに記載されている 使用手順 を直接使用することもできます。

git clone https://github.com/ggerganov/llama.cpp &&             cd llama.cpp &&             make &&             ./main -m meta-llama-3-8b-instruct.Q4_K_M.gguf -n 128

📄 ライセンス

META LLAMA 3 コミュニティライセンス契約

Meta Llama 3 バージョンリリース日: 2024年4月18日 「契約」とは、本書に定める Llama 素材の使用、複製、配布、改変に関する条件を意味します。 「ドキュメント」とは、Meta が https://llama.meta.com/get-started/ で配布する Meta Llama 3 に付随する仕様書、マニュアル、およびドキュメントを意味します。 「ライセンシー」または「あなた」とは、あなた、またはあなたの雇用主、またはあなたがその者または団体の代理で本契約に入る場合はその他の個人または団体を意味し、適用される法律、規則、または規制に基づいて法的同意を与えるために必要な年齢であり、あなたが彼らの代理で本契約に入る場合はあなたの雇用主またはその他の者または団体を拘束する法的権限を有する者を意味します。 「Meta Llama 3」とは、Meta が https://llama.meta.com/llama-downloads で配布する基礎的な大規模言語モデル、ソフトウェア、およびアルゴリズムを意味し、機械学習モデルコード、学習済みモデルの重み、推論を可能にするコード、学習を可能にするコード、微調整を可能にするコード、および前述のその他の要素を含みます。 「Llama 素材」とは、総称して、本契約の下で利用可能にされる Meta の独自の Meta Llama 3 およびドキュメント（またはその一部）を意味します。 「Meta」または「私たち」とは、あなたが欧州経済地域（EEA）またはスイスに所在する場合、またはあなたが団体である場合はあなたの主たる事業場が EEA またはスイスにある場合は Meta Platforms Ireland Limited を意味し、あなたが EEA またはスイスの外に所在する場合は Meta Platforms, Inc. を意味します。

1. ライセンス権利と再配布 a. 権利の付与 あなたには、Llama 素材に具現化された Meta の知的財産権またはその他の権利の下で、非独占的、世界規模、非譲渡可能、無償の限定的ライセンスが付与され、Llama 素材を使用、複製、配布、コピー、派生作品を作成、および改変することができます。 b. 再配布と使用 i. あなたが Llama 素材（またはその派生作品）、またはそれらのいずれかを使用する製品またはサービス（別の AI モデルを含む）を配布または利用可能にする場合、あなたは（A）当該 Llama 素材とともに本契約のコピーを提供するものとし、（B）関連するウェブサイト、ユーザーインターフェイス、ブログ投稿、アバウトページ、または製品ドキュメントに「Built with Meta Llama 3」を目立つように表示するものとします。あなたが Llama 素材を使用して、配布または利用可能にされる AI モデルを作成、学習、微調整、またはその他の方法で改善する場合、あなたはまた、当該 AI モデル名の冒頭に「Llama 3」を含めるものとします。 ii. あなたが統合されたエンドユーザー製品の一部としてライセンシーから Llama 素材またはその派生作品を受け取った場合、本契約の第2条はあなたには適用されません。 iii. あなたが配布する Llama 素材のすべてのコピーにおいて、当該コピーの一部として配布される「Notice」テキストファイル内に以下の帰属表示を保持しなければなりません。「Meta Llama 3 is licensed under the Meta Llama 3 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.」 iv. あなたの Llama 素材の使用は、適用される法律および規制（貿易コンプライアンス法律および規制を含む）に準拠し、Llama 素材の許容使用ポリシー（https://llama.meta.com/llama3/use-policy で入手可能）に従わなければなりません。この許容使用ポリシーは、ここに引用することにより本契約に組み込まれます。 v. あなたは、Llama 素材または Llama 素材の出力または結果を使用して、他の大規模言語モデル（Meta Llama 3 またはその派生作品を除く）を改善してはなりません。
2. 追加の商業条件 Meta Llama 3 バージョンリリース日において、ライセンシーまたはライセンシーの関連会社によって提供される、または提供されるための製品またはサービスの月間アクティブユーザーが前の暦月において7億人を超える場合、あなたは Meta からライセンスを要求しなければなりません。Meta はその裁量によりあなたにライセンスを付与することができ、Meta が明示的にあなたにそのような権利を付与するまで、本契約の下でのいずれの権利も行使することはできません。
3. 保証の否認 適用される法律により要求されない限り、Llama 素材およびそれから得られるすべての出力および結果は、「現状有姿」で提供され、いかなる種類の保証もなく、Meta は明示または黙示を問わず、すべての種類の保証を否認します。これには、限定するものではないが、権利、非侵害、商品性、または特定の目的への適合性に関する保証が含まれます。あなたは、Llama 素材を使用または再配布する適切性を独自に判断し、Llama 素材の使用およびそれから得られるすべての出力および結果に関連するすべてのリスクを負います。
4. 責任の制限 いかなる責任理論に基づいても、契約、不法行為、過失、製品責任、またはその他の理由により、本契約に起因するいかなる損失利益または間接的、特殊、結果的、偶発的、模範的、または懲罰的損害についても、Meta またはその関連会社は責任を負いません。たとえ Meta またはその関連会社がそれらの可能性について通知されていたとしても同様です。
5. 知的財産 a. 本契約の下では商標ライセンスは付与されず、Llama 素材に関連して、Meta またはライセンシーは、相手方またはその関連会社が所有するまたは関連するいかなる名称または標章も使用してはなりません。ただし、Llama 素材を説明および再配布するための合理的かつ慣習的な使用に必要な場合、または本条5（a）に定める場合を除きます。Meta はここに、第1条b.i.の最後の文に準拠するために必要な限り、「Llama 3」（「標章」）を使用するライセンスをあなたに付与します。あなたは Meta のブランドガイドライン（現在は https://about.meta.com/brand/resources/meta/company-brand/ でアクセス可能）に準拠するものとします。あなたの標章の使用に起因するすべての信頼性は、Meta の利益に帰属します。 b. Meta の Llama 素材および Meta によってまたは Meta のために作成された派生作品の所有権に関して、あなたが作成した Llama 素材の派生作品および改変について、あなたと Meta の間で、あなたは当該派生作品および改変の所有者であり、かつ所有者であり続けるものとします。 c. あなたが Meta またはいかなる団体に対して訴訟またはその他の手続き（訴訟における交差請求または反訴を含む）を提起し、Llama 素材または Meta Llama 3 の出力または結果、またはそれらのいずれかの一部が、あなたが所有するまたはライセンスを取得できる知的財産権またはその他の権利の侵害を構成すると主張する場合、本契約の下であなたに付与されたすべてのライセンスは、当該訴訟または請求が提起された日に終了するものとします。あなたは、Llama 素材の使用または配布に起因するまたは関連するいかなる第三者の請求から Meta を補償し、免責するものとします。
6. 期間と終了 本契約の期間は、あなたが本契約を受諾するか、または Llama 素材にアクセスすることにより開始し、本契約の条件に従って終了するまで有効に続きます。あなたが本契約のいかなる条件にも違反した場合、Meta は本契約を終了することができます。本契約が終了した場合、あなたは Llama 素材を削除し、使用を停止しなければなりません。第3条、第4条、および第7条は、本契約の終了後も有効に続きます。
7. 準拠法と管轄権 本契約は、カリフォルニア州の法律に基づいて管轄され、解釈されます。法律選択の原則は考慮されません。また、国際商品売買契約に関する国際連合条約は本契約には適用されません。カリフォルニア州の裁判所は、本契約に起因するいかなる紛争についても排他的な管轄権を有します。

Meta Llama 3 許容使用ポリシー

Meta は、Meta Llama 3 を含むそのツールおよび機能の安全かつ公正な使用を促進することにコミットしています。あなたが Meta Llama 3 にアクセスまたは使用する場合、あなたはこの許容使用ポリシー（「ポリシー」）に同意するものとします。このポリシーの最新版は https://llama.meta.com/llama3/use-policy で確認できます。

禁止される使用

私たちは、誰もが Meta Llama 3 を安全かつ責任を持って使用することを望んでいます。あなたは、Meta Llama 3 を使用して、または他の人に使用させて、以下のことを行わないことに同意するものとします。

1. 法律または他人の権利を侵害すること。これには以下のことが含まれます。
   1. 違法または不法な活動またはコンテンツを行い、促進し、生成し、寄与し、助長し、計画し、扇動し、またはさらに進めること。例えば以下のようなことです。
      1. 暴力またはテロリズム
      2. 子供の搾取または危害。これには、子供の搾取的コンテンツの勧誘、作成、取得、または配布、または児童性虐待素材の報告の不履行が含まれます。
      3. 人身売買、搾取、および性的暴力
      4. 未成年者への情報または素材の違法な配布。これには、わいせつな素材が含まれ、または当該情報または素材に関連して法律で要求される年齢制限を設けないことが含まれます。
      5. 性的勧誘
      6. その他の犯罪活動
   2. 個人または個人のグループの嫌がらせ、虐待、脅迫、またはいじめを行い、促進し、扇動し、または助長すること。
   3. 雇用、雇用福利、信用、住宅、その他の経済的利益、またはその他の重要な商品およびサービスの提供における差別またはその他の不法または有害な行為を行い、促進し、扇動し、または助長すること。
   4. 金融、法律、医療/健康、または関連する専門職を含むがこれに限定されないいかなる職業の無許可または無免許の実践を行うこと。
   5. 適用される法律により必要な権利および同意なしに、個人に関する健康、人口統計、またはその他の敏感な個人情報または私的情報を収集、処理、開示、生成、または推論すること。
   6. いかなる第三者の権利を侵害し、盗用し、またはその他の方法で侵害するいかなる行動を行い、またはコンテンツを生成すること。これには、Llama 素材を使用するいかなる製品またはサービスの出力または結果も含まれます。
   7. 悪意のあるコード、マルウェア、コンピュータウイルスを作成、生成、または助長すること、またはウェブサイトまたはコンピュータシステムの適切な動作、整合性、操作、または外観を無効化、過負荷、妨害、または損なうことができるその他のことを行うこと。
2. 個人に対する死亡または身体的危害のリスクをもたらす活動の計画または開発を行い、促進し、扇動し、助長し、または支援すること。これには、以下のような Meta Llama 3 の使用が含まれます。
   1. 軍事、戦争、原子力産業または応用、諜報活動、米国国務省が維持する国際兵器輸出規制（ITAR）の対象となる素材または活動の使用。
   2. 銃器および違法武器（武器開発を含む）。
   3. 違法薬物および規制/管理物質。
   4. 重要インフラストラクチャ、輸送技術、または重機械の操作。
   5. 自傷行為または他人への危害。これには、自殺、切り傷、および摂食障害が含まれます。
   6. 個人に対する暴力、虐待、または身体的危害を扇動または促進することを意図したいかなるコンテンツ。
3. 他の人を意図的に欺瞞または誤解させること。これには、以下のような Meta Llama 3 の使用が含まれます。
   1. 詐欺を生成、促進、またはさらに進めること、または誤情報の作成または促進。
   2. 中傷的コンテンツを生成、促進、またはさらに進めること。これには、中傷的な声明、画像、またはその他のコンテンツの作成が含まれます。
   3. スパムを生成、促進、またはさらに配布すること。
   4. 同意、許可、または法的権利なしに他人をなりすますこと。
   5. Meta Llama 3 の使用または出力が人間によって生成されたものであると表現すること。
   6. 偽のオンラインエンゲージメントを生成または助長すること。これには、偽のレビューおよびその他の偽のオンラインエンゲージメント手段が含まれます。
4. あなたの AI システムの既知の危険性をエンドユーザーに適切に開示しないこと。

このポリシーの違反、ソフトウェアの「バグ」、またはこのポリシーの違反につながる可能性のあるその他の問題は、以下のいずれかの方法で報告してください。

• モデルの問題を報告する: https://github.com/meta-llama/llama3
• モデルによって生成された危険なコンテンツを報告する: developers.facebook.com/llama_output_feedback
• バグおよびセキュリティ上の懸念を報告する: facebook.com/whitehat/info
• 許容使用ポリシーの違反または Meta Llama 3 の無許可使用を報告する: LlamaUseReport@meta.com