Gemma 3 4b Reasoning

🚀 Gemma-3-4b 推論 R1 モデルカード

Gemma-3-4b Reasoningは、GRPO（Group Reward Policy Optimization）を用いて微調整された、DeepSeek-R1の手法を活用したTransformerベースの言語モデルです。このモデルカードは、推論タスクに特化して最適化された指示付きバージョンについて説明しています。

Gemma-3-4b Reasoningファミリー全体は、寛容なApache 2.0ライセンスの下で利用可能です。使用されたすべての学習スクリプトと設定は公開されています。

📚 ドキュメント

説明

Gemma-3-4b Reasoningは、構造化された論理的な問題解決や数学的推論に特化した微調整モデルです。GSM8Kデータセットを使用してGRPOで学習が行われ、モデルの段階的な推論能力と構造化された説明を提供する能力が強化されています。

学習データセット

想定される用途

直接的な使用

このモデルは、構造化された推論タスクに特化して設計されており、以下のタスクが含まれます。

• 数学的および論理的推論
• 多段階の問題解決
• 指示に基づく推論

想定外の使用

このモデルは、法的および倫理的基準に違反する非倫理的または悪意のある活動には使用しないでください。

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_name = "ericrisco/gemma-3-4b-reasoning"

prompt = "A cyclist travels 60 km in 3 hours at a constant speed. If he maintains the same speed, how many kilometers will he travel in 5 hours?"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name, device_map="auto", torch_dtype=torch.bfloat16
)

messages = [{"role": "user", "content": prompt}]

input_text = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)

inputs = tokenizer(input_text, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=200)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(response)

📊 パフォーマンス

Gemma-3-4b Reasoningモデルは、内部的な**Chain-of-Thought (CoT)**能力が強力で、推論タスク全体で詳細な説明と構造化された問題解決スキルを一貫して示しています。

🔧 技術的制限

このモデルは主に数値および構造化された推論に最適化されており、関連性のないタスクに適用した場合、精度が低くなったり、予期しない結果が得られる可能性があります。

📖 引用

• Gemma Multimodal Reasoning Model by Google
• GRPO Implementation by TRL

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。

👤 作者

Eric Risco