Chocolatine Fusion 14B

🚀 Chocolatine-Fusion-14B

FINGU-AI/Chocolatine-Fusion-14B は、jpacifico/Chocolatine-2-14B-Instruct-v2.0b3 と jpacifico/Chocolatine-2-14B-Instruct-v2.0b2 を融合したモデルです。このモデルは、Chocolatine の強みを維持しながら、最適化された融合により、推論能力と多ターン会話能力を向上させています。

🚀 クイックスタート

このモデルは、以下のコードを使って実行できます。

import transformers
from transformers import AutoTokenizer

# Format prompt
message = [
    {"role": "system", "content": "You are a helpful assistant chatbot."},
    {"role": "user", "content": "What is a Large Language Model?"}
]
tokenizer = AutoTokenizer.from_pretrained("FINGU-AI/Chocolatine-Fusion-14B")
prompt = tokenizer.apply_chat_template(message, add_generation_prompt=True, tokenize=False)

# Create pipeline
pipeline = transformers.pipeline(
    "text-generation",
    model="FINGU-AI/Chocolatine-Fusion-14B",
    tokenizer=tokenizer
)

# Generate text
sequences = pipeline(
    prompt,
    do_sample=True,
    temperature=0.7,
    top_p=0.9,
    num_return_sequences=1,
    max_length=200,
)
print(sequences[0]['generated_text'])

✨ 主な機能

• Chocolatine-Fusion-14B は、Chocolatine-2 シリーズの DPO微調整 に基づいており、sometimesanotion/Lamarck-14B-v0.7 の微調整バージョンから派生しています。
• このモデルは、フランス語と英語のRLHFデータセット（jpacifico/french-orca-dpo-pairs-revisedを含む）を使用して学習されており、バイリンガル能力が強化されています。
• 長文脈サポートは 128Kトークン まで拡張されており、最大 8Kトークン を生成することができます。

📚 ドキュメント

制限事項

Chocolatine-Fusion-14B は、独立した微調整モデルではなく、モデル融合技術のデモンストレーション です。

• 組み込みのモデレーションメカニズムは ありません。
• 応答は、対話やプロンプトのスタイルによって異なる場合があります。
• 高度な技術的またはドメイン固有のクエリ に対するパフォーマンスは、さらなる微調整が必要な場合があります。

開発情報

📄 ライセンス

このモデルは、Apache-2.0 ライセンスの下で提供されています。