Calme 3.2 Instruct 78b

🚀 MaziyarPanahi/calme-3.2-instruct-78b

このモデルは強力なQwen/Qwen2.5-72Bの高度なバージョンで、一般的なドメインでの性能を向上させるためにファインチューニングされています。Qwen2.5-72Bベースモデルは自身とマージされ、より大きなモデルが作成されました。その後、カスタムデータセットでファインチューニングされました。

🚀 クイックスタート

このモデルは、一般的なドメインでの性能を向上させるために、強力なQwen/Qwen2.5-72Bをベースにファインチューニングされたものです。以下に、モデルの使用方法や関連情報を紹介します。

✨ 主な機能

• Qwen/Qwen2.5-72Bをベースに、一般的なドメインでの性能を向上させるためにファインチューニングされています。
• 独自のデータセットでファインチューニングされ、特定のタスクに対する性能が向上しています。

📦 インストール

このモデルはHugging Face Hub上で公開されており、transformersライブラリを使用して簡単にダウンロードして使用することができます。

💻 使用例

基本的な使用法

# Use a pipeline as a high-level helper
from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="MaziyarPanahi/calme-3.2-instruct-78b")
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/calme-3.2-instruct-78b")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/calme-3.2-instruct-78b")

📚 ドキュメント

プロンプトテンプレート

このモデルはChatMLプロンプトテンプレートを使用しています。

<|im_start|>system
{System}
<|im_end|>
<|im_start|>user
{User}
<|im_end|>
<|im_start|>assistant
{Assistant}

評価結果

このモデルの詳細な評価結果は、Open LLM Leaderboardで確認することができます。

量子化モデル

• GGUF形式：bartowskiによるGGUFモデルが利用可能です。calme-3.2-instruct-78b-GGUF
• EXL2形式：DavidCatalanoによるEXL2 4.5 bits per weight (bpw)モデルが利用可能です。DavidCatalano/calme-3.2-instruct-78b-exl2

🔧 技術詳細

このモデルは、Qwen/Qwen2.5-72Bをベースに、独自のデータセットでファインチューニングされています。ベースモデルは自身とマージされ、より大きなモデルが作成されました。その後、特定のタスクに対する性能を向上させるために、カスタムデータセットでファインチューニングされました。

📄 ライセンス

このモデルはqwenライセンスの下で公開されています。詳細はこちらを参照してください。

⚠️ 重要提示

これは実験的なモデルであり、一部のプロンプトに対しては性能が良くない場合があり、ハイパーパラメータに敏感に反応する可能性があります。何か問題があれば、フィードバックをいただけると幸いです。❤️

💡 使用建议

大規模言語モデルと同様に、潜在的なバイアスや制限に注意する必要があります。本番環境でこのモデルを展開する際には、適切なセーフガードと人的監視を導入することをお勧めします。