Minueza 32M Chat

🚀 Minueza-32M-Chat: 3200万パラメータのチャットモデル

Minueza-32M-Chatは、3200万のパラメータを持つチャットモデルです。特定のベースモデルを使用し、様々なデータセットで学習されています。このモデルは、テキスト生成タスクに適しており、特定の推論パラメータを使用することで、良い結果を得ることができます。

🚀 クイックスタート

Minueza-32M-Chatを使用するには、以下の手順に従ってください。まず、推奨されるプロンプトフォーマットを使用して入力を作成し、次に推奨される推論パラメータを設定します。使用例のコードを参考に、モデルを実行することができます。

✨ 主な機能

• 多様なデータセットで学習: SFTとDPOの段階で、多数のデータセットを使用して学習されています。
• 複数のMLフォーマットで利用可能: GGUFとONNXのフォーマットで利用することができます。
• 特定の評価指標で評価: Open LLM Leaderboardで評価されており、各種タスクでの性能が公開されています。

📦 インストール

このセクションでは、具体的なインストール手順が提供されていないため、スキップします。

💻 使用例

基本的な使用法

from transformers import pipeline

generate = pipeline("text-generation", "Felladrin/Minueza-32M-Chat")

messages = [
    {
        "role": "system",
        "content": "You are a helpful assistant who answers the user's questions with details and curiosity.",
    },
    {
        "role": "user",
        "content": "What are some potential applications for quantum computing?",
    },
]

prompt = generate.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)

output = generate(
    prompt,
    max_new_tokens=256,
    do_sample=True,
    temperature=0.65,
    top_k=35,
    top_p=0.55,
    repetition_penalty=1.176,
)

print(output[0]["generated_text"])

📚 ドキュメント

推奨プロンプトフォーマット

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{user_message}<|im_end|>
<|im_start|>assistant

推奨推論パラメータ

do_sample: true
temperature: 0.65
top_p: 0.55
top_k: 35
repetition_penalty: 1.176

学習方法

このモデルは、SFT TrainerとDPO Trainerを使用して、複数のセッションで学習されています。以下は、学習時の設定です。

教師付き微調整 (SFT)

直接嗜好最適化 (DPO)

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

🔧 技術詳細

このセクションでは、具体的な技術詳細が提供されていないため、スキップします。

📄 ライセンス

このモデルは、Apache License 2.0のライセンスの下で提供されています。

関連情報

ベースモデル

• Felladrin/Minueza-32M-Base

使用されたデータセット

SFT時に使用されたデータセット

• [ChatML] databricks/databricks-dolly-15k
• [ChatML] euclaise/reddit-instruct-curated
• [ChatML] THUDM/webglm-qa
• [ChatML] starfishmedical/webGPT_x_dolly
• [ChatML] LDJnr/Capybara
• [ChatML] Open-Orca/SlimOrca-Dedup
• [ChatML] HuggingFaceH4/ultrachat_200k
• [ChatML] nvidia/HelpSteer
• [ChatML] sablo/oasst2_curated
• [ChatML] CohereForAI/aya_dataset

DPO時に使用されたデータセット

• [ChatML] argilla/distilabel-capybara-dpo-7k-binarized
• [ChatML] argilla/distilabel-intel-orca-dpo-pairs
• [ChatML] argilla/ultrafeedback-binarized-preferences
• [ChatML] sablo/oasst2_dpo_pairs_en
• [ChatML] NeuralNovel/Neural-DPO

他のMLフォーマットでの利用可能性

• GGUF: Felladrin/gguf-Minueza-32M-Chat
• ONNX: Felladrin/onnx-Minueza-32M-Chat