Ganymede Llama 3.3 3B Preview

🚀 ガニメデ・ラマ 3.3-3B プレビュー

ガニメデ・ラマ 3.3-3B プレビューは、Llama-3.2-3B-Instruct アーキテクチャに基づいており、高度な推論能力と数学的分析能力を備えています。このモデルは、複雑な推論タスクやテキスト生成に最適で、多言語対応も可能です。

✨ 主な機能

• 高度な推論能力の解放：多段階の問題解決、論理的な推論、文脈分析などの能力が強化されています。
• 数学的・分析的卓越性：数学問題の解決、定理の証明、複雑な数値分析などの能力が向上しています。
• 微調整された命令追従：構造化された応答（JSON、XML、Markdownなど）や長文テキスト（4Kトークン以上）を生成できます。
• 拡張された長文脈サポート：最大128Kトークンを扱うことができ、長い文章にわたってメモリの保持と一貫性が向上しています。
• 高度な適応性：ロールプレイ、多ターン対話、多様なシステムプロンプトに対応しています。
• 多言語能力：英語、中国語、フランス語、スペイン語、ポルトガル語、ドイツ語など、20以上の言語をサポートしています。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "prithivMLmods/Ganymede-Llama-3.3-3B-Preview"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "Explain the concept of logical reasoning in AI."
messages = [
    {"role": "system", "content": "You are an expert AI assistant specialized in reasoning, logic, and mathematical analysis."},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=256
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)

📚 ドキュメント

想定される用途

• 高度な論理的・分析的推論：多段階の問題解決、演繹的推論、認知タスクなどに設計されています。
• 強化された数学的計算：数値分析、定理の証明、記号的推論、複雑な計算などに優れています。
• コード生成とデバッグ：最適化されたコードを生成し、バグを検出し、プログラミングのワークフローを向上させます。
• 構造化データ処理：データ中心のアプリケーション向けに、テーブル、JSON、構造化フォーマットを扱います。
• 多言語推論と翻訳：20以上の言語に対応したグローバルなAIアプリケーションに適しています。
• 拡張されたテキスト生成：技術文書、研究論文、説明書、詳細なレポートなどの生成に最適です。

制限事項

1. 中程度の計算要件：最適な推論を行うには、中～ハイエンドのコンシューマーGPUが必要です。
2. 言語固有のばらつき：言語によって性能が異なる場合があり、特に低リソース言語では顕著です。
3. 潜在的なエラー蓄積：長文のテキスト生成では、長い出力にわたって一貫性が失われる可能性があります。
4. 限られた現実世界の認識：知識は学習データに限定されており、最近の世界の出来事を反映していない場合があります。
5. プロンプトの感度：応答の品質は、プロンプトの明確性と具体性に依存します。

📄 ライセンス

このモデルは llama3.2 ライセンスの下で提供されています。