Minimaid L2

🚀 MiniMaid-L2

MiniMaid-L2は、MiniMaid-L1モデルをファインチューニングしたモデルです。より大規模で高品質なデータセットを使用してロールプレイング能力を生成しています。また、人気のロールプレイングモデルであるNoroMaid-7B-DPOから知識蒸留を行い、首尾一貫した良質なロールプレイング能力の不足部分を強化しています。

✨ 主な機能

MiniMaid-L2の概要

• MiniMaid-L2は、MiniMaid-L1モデルをベースに、大規模で高品質なデータセットを用いてロールプレイング能力を生成しています。また、人気のロールプレイングモデルであるNoroMaid-7B-DPOから知識蒸留を行い、首尾一貫した良質なロールプレイング能力の不足部分を強化しています。
• MiniMaid-L2は、賢い知識蒸留を用いてNoroMaidから知識を移し、MiniMaid-L1の上に構築してより良いAIモデルを生成します。わずかなトークン生成速度を犠牲にして、3bの代替モデルに匹敵するほぼ完璧なモデルを実現します！

MiniMaid-L1ベースモデルの手順

• MiniMaid-L1は、DPOと複合的な重いファインチューニングを行うことで良好なパフォーマンスを達成します。過学習を防ぐために、高いLR減衰を使用し、ランダム化技術を導入してAIが学習や暗記するのを防いでいます。ただし、Google Colabでこれをトレーニングするのは難しいため、モデルは特定のタスクでパフォーマンスが低下したり、過学習したりする可能性があります。ただし、私たちは最善を尽くしましたので、今後改善されることを期待してください！

MiniMaid-L2の性能

• MiniMaid-L2は、MiniMaid-L1の基礎をさらに発展させ、Hermes、Dolphin、DeepSeekなどの3Bモデルを上回り、より一貫性があり、出力が長く、没入感が大幅に向上します。
  • 💬 ロールプレイ評価 (v1)
  • 🧠 キャラクターの一貫性: 0.84
  • 🌊 没入感: 0.47
  • 🧮 全体的なロールプレイスコア: 0.76
  • ✏️ 長さスコア: 1.00
  • L2は、全体的にL1よりも0.25高いスコアを獲得し、主要なロールプレイ指標すべてでトップクラスの3Bモデルを上回っています。

効率的で賢い

• 推論時間: 54.2秒 — Hermesよりも3倍速い
• トークン/秒: 6.88 — 消費者向けGPUでほぼ即時
• BLEU/ROUGE-L: 3Bの競合モデルよりも強いn-gramの重複率

MiniMaid-L2の用途

• 高忠実度のロールプレイ生成
• 低レイテンシーのシステム
• カスタムのキャラクター主導のストーリーテリング

📦 インストール

注意事項

• 良好な体験を得るために、以下の設定を使用してください。
  • 低温1.5、min_p = 0.1、max_new_tokens = 128

詳細カード

• パラメータ

  • 10億のパラメータ
  • (1Bモデルを実行できるかどうかは、GPUベンダーに問い合わせてください)

• ファインチューニングツール

  • Unsloth AI
    • このllamaモデルは、UnslothとHuggingfaceのTRLライブラリを使用して2倍速でトレーニングされました。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

関連情報

• タグ: unsloth、Uncensored、text-generation-inference、transformers、unsloth、llama、trl、roleplay、conversational
• データセット:
  • iamketan25/roleplay-instructions-dataset
  • N-Bot-Int/Iris-Uncensored-R1
  • N-Bot-Int/Moshpit-Combined-R2-Uncensored
  • N-Bot-Int/Mushed-Dataset-Uncensored
  • N-Bot-Int/Muncher-R1-Uncensored
  • N-Bot-Int/Millia-R1_DPO
• 言語: en
• ベースモデル: N-Bot-Int/MiniMaid-L1
• パイプラインタグ: text-generation
• ライブラリ名: peft
• メトリクス: character