Orca Mini V6 8b

🚀 Llama 3 orca_mini_v6_8b

Llama 3 orca_mini_v6_8b 是使用各種SFT數據集訓練得到的模型，可用於文本生成任務。

“痴迷於生成式AI的潛力？我也是！讓我們一起創造吧🚀 https://www.linkedin.com/in/pankajam”

🚀 快速開始

授權聲明

在提供適當的引用和歸屬說明的情況下，你被允許將此模型作為基礎，進行進一步的全量微調、DPO、PPO或ORPO調優以及任何形式的合併。本版本旨在成為一個通用的綜合模型，我積極鼓勵用戶根據自身特定需求對模型進行定製和改進。快來開啟創新之旅吧！

評估

評估內容即將推出...

💻 使用示例

基礎用法

以下是ChatML提示格式：

<|im_start|>system
You are Orca Mini, a helpful AI assistant.<|im_end|>
<|im_start|>user
Hello Orca Mini, what can you do for me?<|im_end|>
<|im_start|>assistant

以下是使用該模型的代碼示例：

from transformers import AutoModel, AutoTokenizer
model_slug = "pankajmathur/orca_mini_v6_8b"
model = AutoModel.from_pretrained(model_slug)
tokenizer = AutoTokenizer.from_pretrained(model_slug)

messages = [
    {"role": "system", "content": "You are Orca Mini, a helpful AI assistant."},
    {"role": "user", "content": "Hello Orca Mini, what can you do for me?"}
]

gen_input = tokenizer.apply_chat_template(messages, return_tensors="pt")
model.generate(**gen_input)

本模型受 META LLAMA 3 COMMUNITY LICENSE AGREEMENT 許可協議的約束。

量化版本

• GGUF：即將推出
• AWQ：即將推出

📄 許可證

本模型使用的許可證為 llama3。