Gemma 2 9b Neogenesis Ita

🚀 Gemma 2 9B Neogenesis ITA

這是VAGOsolutions/SauerkrautLM - gemma - 2 - 9b - it的微調版本，針對意大利語進行了優化，以實現更好的性能。

🔍 模型信息

✨ 主要特性

• 該模型擁有92.4億個參數，性能出色。
• 支持8k的上下文長度。
• 提供GGUF量化版本。
• 如果需要更小的模型，可以嘗試gemma - 2 - 2b - neogenesis - ita。

🚀 快速開始

💬🇮🇹 在Hugging Face Spaces上試用該模型

💻 使用示例

基礎用法

import torch
from transformers import pipeline

model_id="anakin87/gemma-2-9b-neogenesis-ita"

pipe = pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device="cuda",
)

messages = [{"role": "user", "content": "Cos'è l'interesse composto? Spiega in maniera semplice e chiara."}]
outputs = pipe(messages, max_new_tokens=500)

print(outputs[0]["generated_text"][1]["content"])

🏆 評估結果

該模型已提交併在Open Ita LLM Leaderboard中進行了評估，這是意大利語言模型最受歡迎的排行榜。

這些結果表明，該模型是意大利語領域強大的9B模型，性能超過了13 - 14B的模型，甚至在某些方面超越了30 - 70B範圍的模型。

🔧 技術細節

該模型使用Hugging Face TRL進行微調，並應用了直接偏好優化（Direct Preference Optimization）。

採用了一種相對較新的參數高效學習技術：Spectrum。其思路是僅訓練模型中信噪比（SNR）較高的層，並❄️凍結其餘層。具體而言，訓練集中在最具信息量的前20%的層。

• 批量大小：16
• 學習率：1e - 6
• 訓練輪數：1

在單個NVIDIA A100 GPU（80GB VRAM）上，訓練過程大約需要12小時。

關於訓練代碼，請參閱此📓 Kaggle筆記本中的DPO部分，該部分已修改為使用不同的基礎模型、超參數，且不使用在線策略數據。

🗃️ 訓練數據

該模型主要在意大利語數據上進行訓練，同時包含少量英語數據。

用於直接偏好優化的數據：

• 意大利語數據
  • mii - llm/argilla - math - preferences - it
  • ruggsea/wsdm2024 - cot - dataset
  • anakin87/evol - dpo - ita - reranked
• 英語數據
  • mlabonne/orpo - dpo - mix - 40k

🙏 感謝這些數據集的作者提供數據。

🛡️ 安全性

雖然該模型沒有專門針對安全性進行微調，但使用Spectrum技術進行選擇性訓練有助於保留原始模型的某些安全特性。