C4ai Command R 08 2024

🚀 KimChen/c4ai-command-r-08-2024-GGUF

このモデルは、CohereForAI/c4ai-command-r-08-2024 から llama.cpp を使用してGGUF形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。

🚀 クイックスタート

📦 インストール

llama.cppをbrew経由でインストールします（MacとLinuxで動作します）。

brew install llama.cpp

💻 使用例

基本的な使用法

llama.cppのサーバーまたはCLIを起動します。

CLIの場合

llama-cli --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024.gguf -p "The meaning to life and the universe is"

サーバーの場合

llama-server --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024.gguf -c 2048

注: Llama.cppリポジトリに記載されている使用手順を直接使用することもできます。

高度な使用法

1. llama.cppをGitHubからクローンします。

git clone https://github.com/ggerganov/llama.cpp.git

2. llama.cppフォルダに移動し、LLAMA_CURL=1 フラグと他のハードウェア固有のフラグ（例: LinuxのNvidia GPUの場合は LLAMA_CUDA=1）でビルドします。

cd llama.cpp && LLAMA_CURL=1 make

3. メインバイナリを通じて推論を実行します。

./llama-cli --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024-GGUF.gguf -p "The meaning to life and the universe is"

または

./llama-server --hf-repo KimChen/c4ai-command-r-08-2024-GGUF --hf-file c4ai-command-r-08-2024-GGUF.gguf -c 2048

📄 ライセンス

このモデルのライセンスは cc-by-nc-4.0 です。

追加情報

• サポート言語: en, fr, de, es, it, pt, ja, ko, zh, ar
• パイプラインタグ: text-generation
• ベースモデル: CohereForAI/c4ai-command-r-08-2024
• 量子化: KimChen

⚠️ 重要提示

このフォームに記入することで、あなたはライセンス契約に同意し、提供する情報がCohereのプライバシーポリシーに従って収集、使用、共有されることを承認することになります。

💡 使用建议

モデルを使用する際は、非商用目的での使用のみを承諾する必要があります。