Orca Mini V5 8b Dpo

🚀 llama_3_orca_mini_v5_8b_dpo

llama_3_orca_mini_v5_8bは、様々なDPOデータセットを用いて訓練されたモデルで、汎用的な自然言語処理タスクに対応しています。

🚀 クイックスタート

適切なクレジットと帰属表示を行うことで、このモデルを基礎として、完全なファインチューニング、DPO、PPOまたはORPOのチューニング、およびあらゆる種類のマージを行うことが許可されます。このバージョンは包括的な汎用モデルとして設計されているため、ユーザーが特定のニーズに合わせてモデルをカスタマイズし、強化することを積極的に奨励します。是非、挑戦して革新してください！

✨ 主な機能

• 適切なクレジットと帰属表示を行えば、様々なチューニングやマージが可能。
• 汎用的な自然言語処理タスクに対応。

📚 ドキュメント

評価結果

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

💻 使用例

基本的な使用法

これはChatMLのプロンプトフォーマットです。

<|im_start|>system
You are Orca Mini, a helpful AI assistant.<|im_end|>
<|im_start|>user
Hello Orca Mini, what can you do for me?<|im_end|>
<|im_start|>assistant

以下はこのモデルを使用するコード例です。

from transformers import AutoModel, AutoTokenizer
model_slug = "pankajmathur/orca_mini_v5_8b_dpo"
model = AutoModel.from_pretrained(model_slug)
tokenizer = AutoTokenizer.from_pretrained(model_slug)

messages = [
    {"role": "system", "content": "You are Orca Mini, a helpful AI assistant."},
    {"role": "user", "content": "Hello Orca Mini, what can you do for me?"}
]

gen_input = tokenizer.apply_chat_template(messages, return_tensors="pt")
model.generate(**gen_input)

📄 ライセンス

このモデルはMETA LLAMA 3 COMMUNITY LICENSE AGREEMENTに基づいて管理されています。

量子化 GGUF : 近日公開予定 AWQ: 近日公開予定