Turkish Gemma 9b V0.1

🚀 トルコ語版Gemma-9b-v0.1

このモデルは、Gemma-2-9bをベースに、継続的事前学習、教師付き微調整（SFT）、直接嗜好最適化（DPO）、およびモデルマージを組み合わせて開発されたトルコ語用のテキスト生成モデルです。トルコ語のテキスト生成タスクに適しており、首尾一貫した文脈に沿った続きや回答を提供します。ただし、大規模な事前学習コーパス、命令微調整データ、および人間の嗜好データを含む多様な学習データの性質上、バイアスが生じる可能性があります。ユーザーはこれを認識し、責任を持ってモデルを展開する必要があります。

🚀 クイックスタート

このモデルのデモは近日公開予定です。以下のリンクからデモを試すことができます。 https://cosmos.yildiz.edu.tr/cosmosllm

モデルの性能評価のため、多様なカテゴリの1,450の質問からなるデータセットを作成しました。各質問は18人の人間のアノテーターによってレビューされ、複数のモデル間で信頼性の高い比較が可能になりました。

✨ 主な機能

🏆 モデル比較: 勝率

投票方法

質問と2つの異なるモデルからの回答を人間の審査員に提示し、審査員は自分の好みに基づいてより良い回答を選択しました。例えば、以下の質問では、審査員は右側の回答を選択しました。

📊 トルコ語評価ベンチマーク結果 (via malhajar17/lm-evaluation-harness_turkish)

💻 使用例

基本的な使用法

import transformers
import torch
model_id = "ytu-ce-cosmos/Turkish-Gemma-9b-v0.1"
pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)
messages = [
    {"role": "user", "content": "İsmi RD olan bir fonksiyon ona verilen sayının çarpmaya göre tersini döndürmektedir. Örneğin RD(3)=1/3. Buna göre RD(X)=X ifadesini doğru yapan kaç X değeri vardır?"}
]

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<end_of_turn>")
]

outputs = pipeline(
    messages,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.6,
    top_p=0.9,
)
print(outputs[0]["generated_text"][-1])
# RD(X) = X ifadesi, bir sayının çarpmaya göre tersinin kendisiyle eşit olması anlamına gelir. Yani, X ile 1/X aynı olmalıdır. Bu durum yalnızca X'in karesi 1 olduğunda gerçekleşir:

# X² = 1

# Bu denklemin çözümleri:

# X = 1 ve X = -1

# Dolayısıyla, RD(X) = X eşitliğini sağlayan *iki* X değeri vardır: *1* ve *-1*.

高度な使用法

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "ytu-ce-cosmos/Turkish-Gemma-9b-v0.1"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

messages = [
    {"role": "user", "content": "İsmi RD olan bir fonksiyon ona verilen sayının çarpmaya göre tersini döndürmektedir. Örneğin RD(3)=1/3. Buna göre RD(X)=X ifadesini doğru yapan kaç X değeri vardır?"}
]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<end_of_turn>")
]

outputs = model.generate(
    input_ids,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=False,
)
response = outputs[0][input_ids.shape[-1]:]
print(tokenizer.decode(response, skip_special_tokens=True))
# RD(X) = X ifadesi, bir sayının çarpmaya göre tersinin kendisiyle eşit olması anlamına gelir. Yani, X ile 1/X aynı olmalıdır. Bu durum yalnızca X'in karesi 1 olduğunda gerçekleşir:

# X² = 1

# Bu denklemin çözümleri:

# X = 1 ve X = -1

# Dolayısıyla, RD(X) = X eşitliğini sağlayan *iki* X değeri vardır: *1* ve *-1*.

📚 ドキュメント

謝辞

• Hugging Faceチームの寛大な支援により、彼らのS3ストレージからモデルをダウンロードすることができました 🤗
• この研究で使用されたコンピューティングリソースは、トルコの国立高性能コンピューティングセンター（UHeM）から助成金番号1016912023および1018512024で提供されました。

連絡先

COSMOS AI Research Group, Yildiz Technical University Computer Engineering Department
https://cosmos.yildiz.edu.tr/
cosmos@yildiz.edu.tr

📄 ライセンス

gemma2