Gemma 3 Glitter 27B

🚀 ✨G3 Glitter 27B✨

這是一個基於Gemma 3 27B的創意寫作模型，能夠為用戶提供富有創意的文本內容，解決了在創意寫作場景下缺乏優質模型的問題，為創作者帶來了新的選擇。

🚀 快速開始

本模型使用了transformers庫，並且與mergekit相關。

✨ 主要特性

• 獨特的基礎模型：使用Columbidae/gemma-3-27b-half作為基礎模型，它是27B IT和27B PT的50/50融合。這一選擇借鑑了Starshine（同樣是IT和PT的50/50融合）的成功經驗。
• 弱化審查與猶豫：包含PT模型雖然會削弱指令能力，但也減少了對某些虛構故事的審查和猶豫，使模型在創作時更加自由。
• 自然的散文風格：減少IT模型的佔比後，生成的散文風格更加自然。
• 適合簡短提示：該模型更適合簡短直接的提示。長而詳細的系統提示往往會使模型困惑（經測試，1000 - 2000個標記的系統提示與100 - 500個標記的提示相比，效果不佳）。

📚 詳細文檔

指令格式

使用Gemma2/3的指令和上下文。與Glitter 12b類似，該模型在temp = 1, top-nsigma = 1.5的參數設置下效果良好。

<start_of_turn>user
{用戶消息；也可以在此處放置系統提示以使用內置的G3訓練}<end_of_turn>
<start_of_turn>model
{模型響應}<end_of_turn>

模型信息

⚠️ 重要提示

本模型更適合簡短直接的提示，長而詳細的系統提示可能會導致模型困惑。

💡 使用建議

建議在使用時將參數設置為temp = 1, top-nsigma = 1.5，以獲得更好的效果。