Mistral 7B Business F16 GGUF

🚀 rafaelldietrich/Mistral-7B-Business-F16-GGUF

このLoRAアダプターは、ggml.aiのGGUF-my-loraスペースを通じて、VijayRam1812/Mistral-7B-BusinessからGGUF形式に変換されました。詳細については、元のアダプターリポジトリを参照してください。

🚀 クイックスタート

llama.cppでの使用方法

# コマンドラインインターフェースでの使用
llama-cli -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...other args)

# サーバーでの使用
llama-server -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...other args)

llama.cppサーバーでのLoRAの使用方法の詳細については、llama.cppサーバーのドキュメントを参照してください。

📄 ライセンス

このモデルはapache-2.0ライセンスの下で提供されています。

📦 モデル情報