Trillion 7B Preview AWQ

🚀 Trillion-7B-preview

我々は、多言語の拡張性とパフォーマンスの限界を破るために設計された最新の大規模言語モデルのプレビュー版、Trillion-7B-previewを紹介します。このモデルは、トレーニングに必要なFLOPsに対するパフォーマンスのバランスにおいて、競合モデルを上回り、少ない計算資源で高いパフォーマンスを達成します。

🚀 クイックスタート

以下は、apply_chat_templateを使用してトークナイザーとモデルをロードし、テキストを生成するコードスニペットです。

基本的な使用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "trillionlabs/Trillion-7B-preview"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "Tell me a hilarious knock knock joke."
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    model_inputs["input_ids"],
    attention_mask=model_inputs["attention_mask"],
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)

"""
Sure! Here's a classic knock-knock joke that's guaranteed to make you chuckle:
Knock, knock.
Who's there?
Lettuce.
Lettuce who?
Lettuce in, it's too cold out here!
"""

✨ 主な機能

Trillion-7B-previewは、多言語の拡張性とパフォーマンスに特化した大規模言語モデルです。トレーニングに必要なFLOPsに対するパフォーマンスのバランスにおいて、競合モデルを上回り、少ない計算資源で高いパフォーマンスを達成します。

• タイプ: 因果言語モデル
• トレーニング段階: 事前トレーニングと事後トレーニング
• アーキテクチャ: RoPE、SwiGLU、RMSNormを備えたTransformerデコーダー
• パラメータ数: 77.6億
• レイヤー数: 32
• アテンションヘッド数: 32
• コンテキスト長: 4,096
• 見たトークン数: 2T
• 語彙サイズ: 128,128

📚 ドキュメント

評価

我々は、一般的な推論、知識の想起、コーディング能力、数学的推論、および指示に従う能力を評価する幅広いベンチマークを選択しました。Trillion-7B-previewをいくつかの同規模の主要な大規模言語モデルとともに評価しました。当モデルは、特に韓国語のベンチマークで強いパフォーマンスを示します。

ベンチマーク結果

• Trillion-7B-preview
• LGAI-EXAONE/EXAONE-3.5-7.8B-Instruct
• google/gemma-2-9b-it
• meta-llama/Llama-3.1-8B-Instruct
• Qwen/Qwen2.5-7B-Instruct
• upstage/SOLAR-10.7B-Instruct-v1.0
• mistralai/Mistral-7B-Instruct-v0.3

一般的な推論と事実性

コーディング

数学的推論

指示に従う能力とチャット

🔧 技術詳細

Trillion-7B-previewは、多言語の拡張性とパフォーマンスを向上させるために設計された大規模言語モデルです。トレーニングに必要なFLOPsに対するパフォーマンスのバランスにおいて、競合モデルを上回り、少ない計算資源で高いパフォーマンスを達成します。

📄 ライセンス

このモデルのリポジトリは、Apache-2.0ライセンスの下で提供されています。

引用

@article{trillion7Bpreview,
  title={Trillion-7B-preview},
  author={trillionlabs},
  year={2025},
  url={https://huggingface.co/trillionlabs/Trillion-7B-preview}
}

問い合わせ

問い合わせは、info@trillionlabs.coにお寄せください。