Codellama 7b Hf GGUF

🚀 meta-llama/CodeLlama-7b-hf - GGUF

このリポジトリには、meta-llama/CodeLlama-7b-hf のGGUF形式のモデルファイルが含まれています。

これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b4011 以降の llama.cpp と互換性があります。

🚀 クイックスタート

ダウンロード手順

コマンドライン

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/CodeLlama-7b-hf-GGUF --include "CodeLlama-7b-hf-Q2_K.gguf" --local-dir MY_LOCAL_DIR

複数のモデルファイルをパターンでダウンロードする場合（例：*Q4_K*gguf）は、以下のコマンドを試してください。

huggingface-cli download tensorblock/CodeLlama-7b-hf-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

✨ 主な機能

関連プロジェクト

モデルファイル仕様

📚 ドキュメント

プロンプトテンプレート

アクセスに関する注意事項

このモデルにアクセスするには、Metaに連絡先情報を共有する必要があります。また、使用する際には、以下のライセンス契約書と使用ポリシーに同意する必要があります。

• LLAMA 2 COMMUNITY LICENSE AGREEMENT
• Llama 2 Acceptable Use Policy

報告方法

このポリシーの違反、ソフトウェアの「バグ」、またはこのポリシーの違反につながる可能性のあるその他の問題は、以下のいずれかの方法で報告してください。

• モデルの問題の報告: github.com/facebookresearch/llama
• モデルが生成した危険なコンテンツの報告: developers.facebook.com/llama_output_feedback
• バグとセキュリティの懸念の報告: facebook.com/whitehat/info
• 許容使用ポリシーの違反またはLlamaの無許可使用の報告: LlamaUseReport@meta.com

📄 ライセンス

このモデルは、llama2 ライセンスの下で提供されています。