Calme 3.1 Instruct 78b

🚀 MaziyarPanahi/calme-3.1-instruct-78b

このモデルは強力なQwen/Qwen2.5 - 72Bの高度なバージョンで、一般的なドメインでの能力を強化するために特別にファインチューニングされています。Qwen2.5 - 72Bベースモデルは自身とマージされ、より大きなモデルが作成されました。その後、カスタムデータセットでファインチューニングされました。

💡 使用アドバイス

これは実験的なモデルです。一部のプロンプトに対しては性能が良くない場合があり、ハイパーパラメータに敏感に反応する可能性があります。次のバージョンで問題を修正できるよう、フィードバックをいただけると幸いです。❤️

🚀 クイックスタート

このセクションでは、calme-3.1-instruct-78bモデルの基本的な使い方を説明します。

✨ 主な機能

• Qwen/Qwen2.5 - 72Bをベースに高度にファインチューニングされたモデルで、一般的なドメインでの性能が向上しています。
• 自身とマージされた大規模モデルで、カスタムデータセットでの学習を経ています。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

# Use a pipeline as a high-level helper
from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="MaziyarPanahi/calme-3.1-instruct-78b")
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/calme-3.1-instruct-78b")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/calme-3.1-instruct-78b")

📚 ドキュメント

⚡ Quantized GGUF

mradermacherに感謝します。calme-3.1-instruct-78b-GGUF

🏆 Open LLM Leaderboard Evaluation Results

詳細な結果はこちらで確認できます。

プロンプトテンプレート

このモデルはChatMLプロンプトテンプレートを使用します。

<|im_start|>system
{System}
<|im_end|>
<|im_start|>user
{User}
<|im_end|>
<|im_start|>assistant
{Assistant}

倫理的な考慮事項

他の大規模言語モデルと同様に、ユーザーは潜在的なバイアスと制限に注意する必要があります。このモデルを本番環境で展開する際には、適切なセキュリティ対策と人的監視を実装することをお勧めします。

📄 ライセンス

このモデルはqwenライセンスの下で提供されています。詳細はこちらを参照してください。