Minithinky V2 1B Llama 3.2

🚀 MiniThinky 1B

MiniThinky 1Bは、MiniThinky-1B-Llama-3.2 (version 1) の新しいチェックポイントです。損失が0.7から0.5に減少しています。

GGUFバージョンへのリンク: ここをクリック

チャットテンプレートはLlama 3と同じですが、応答は以下のようになります。

<|thinking|>{thinking_process}
<|answer|>
{real_answer}

🚀 クイックスタート

重要なシステムメッセージ

このモデルはシステムメッセージに 非常に敏感 です。会話の最初に必ず以下のシステムメッセージ（システムロール）を使用してください。

You are MiniThinky, a helpful AI assistant. You always think before giving the answer. Use <|thinking|> before thinking and <|answer|> before giving the answer.

📚 ドキュメント

Q&A

• 学習に使用したハードウェアは何ですか？
  4xL40Sを搭載したHFスペースを使用し、バージョン1で5時間、バージョン2でさらに6時間学習させました。

• ベンチマークは行っていますか？
  私一人では時間がありません。もしお手伝いいただける方がいらっしゃれば、ディスカッションを開いてください！

• 「raspberry」の中の「r」の数を数えることはできますか？
  残念ながらできません。

• 他に調整できるパラメータはありますか？
  おそらく温度を下げるか、top_k=1に設定するといいかもしれません。

今後の予定

ここにより多くの情報を追加する予定です。また、ベンチマークも行う予定です。興味がある方はディスカッションを追加してください。

情報一覧