Mistral 7B Business F16 GGUF

🚀 rafaelldietrich/Mistral-7B-Business-F16-GGUF

這個LoRA適配器是通過ggml.ai的GGUF-my-lora空間，從VijayRam1812/Mistral-7B-Business轉換為GGUF格式的。更多詳細信息請參考原始適配器倉庫。

🚀 快速開始

✨ 主要特性

• 該項目將LoRA適配器轉換為GGUF格式，便於在特定環境下使用。
• 可與llama.cpp結合使用，提供了命令行和服務器兩種使用方式。

📦 安裝指南

文檔未提供具體安裝步驟，暫不展示。

💻 使用示例

與llama.cpp結合使用

# 使用命令行
llama-cli -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...other args)

# 使用服務器
llama-server -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...other args)

若想了解更多關於在llama.cpp服務器中使用LoRA的信息，請參考llama.cpp服務器文檔。

📚 詳細文檔

文檔未提供詳細說明，暫不展示。

🔧 技術細節

文檔未提供技術實現細節，暫不展示。

📄 許可證

本項目採用apache-2.0許可證。

信息表格