Google Gemma 3 27b It Text

🚀 Gemma 3純文本模型

Gemma 3純文本模型是對谷歌原始多模態Gemma 3模型的改編，去除了圖像處理能力，保留了文本生成能力。該模型具有128K上下文窗口和140多種語言的多語言支持，適用於各種文本生成任務。

🚀 快速開始

安裝依賴

確保你已經安裝了transformers庫。如果沒有安裝，可以使用以下命令進行安裝：

pip install transformers

代碼示例

from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "your-username/gemma-3-27b-text" # 上傳後請替換為你的模型路徑
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

messages = [
    {"role": "system", "content": "You are an AI assistant that provides helpful and accurate information."},
    {"role": "user", "content": "Hello. How's the weather today?"}
]

inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
)

outputs = model.generate(
    inputs,
    max_new_tokens=512,
    temperature=0.2,
    do_sample=True
)

response = tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)
print(response)

✨ 主要特性

• 純文本版本：去除了圖像處理能力，僅保留文本生成能力，使模型更輕量級，適合只需要文本處理的環境或資源受限的場景。
• 大上下文窗口：具有128K上下文窗口，能夠處理更長的輸入文本。
• 多語言支持：支持超過140種語言，適用於各種多語言文本生成任務。
• 兼容性強：與標準的純文本推理管道兼容，可以使用常規的AutoModelForCausalLM進行推理，無需專門的多模態類。

📚 詳細文檔

模型信息

• 原始模型：由Google DeepMind開發的Gemma 3。
• 改編版本：純文本版本（去除了圖像處理能力）。

輸入和輸出

• 輸入：
  • 文本字符串，如問題、提示或待總結的文檔。
  • 對於27B規模的模型，總輸入上下文為128K個標記。
• 輸出：
  • 針對輸入生成的文本，如問題的答案或文檔的摘要。
  • 總輸出上下文為8192個標記。

改編細節

• 移除模型中的圖像處理組件。
• 保持相同的文本分詞和生成能力。
• 與標準的純文本推理管道兼容。
• 可以使用常規的AutoModelForCausalLM，而無需專門的多模態類。

📄 許可證

該模型的許可證為gemma。