Gemma 3 Glitter 12B

🚀 G3 Glitter 12B

G3 Glitter 12B 是一個基於 Gemma 3 12B IT 的創意寫作模型，它將兩個不同訓練方向的模型進行了 50/50 的融合，為創意寫作帶來更強大的支持。

✨ 主要特性

• 融合模型：該模型是兩個獨立訓練模型的 50/50 融合。
  • ToastyPigeon/g3-12b-rp-system-v0.1：約 1350 萬個與角色扮演（RP）相關的指令訓練令牌（人機比例 2:1），並使用系統提示進行示例訓練。
  • ToastyPigeon/g3-12b-storyteller-v0.2-textonly：約 2000 萬個用於長篇創意寫作的補全訓練令牌，其中 160 萬個來自 R1 的合成數據，其餘為人工創作。
• 視覺迴歸：最新更新中，模型恢復了視覺功能。
• 指令格式：使用 Gemma2/3 指令，並且經過訓練能夠識別可選的系統角色。

📚 詳細文檔

指令格式

使用 Gemma2/3 指令，但經過訓練可識別可選的系統角色，具體格式如下：

<start_of_turn>system
{可選的帶有提示的系統回合}<end_of_turn>
<start_of_turn>user
{用戶消息；也可以在此處放置系統提示以使用內置的 g3 訓練}<end_of_turn>
<start_of_turn>model
{模型響應}<end_of_turn>

模型信息