Wiroai Turkish Llm 9b

🚀 WiroAI/wiroai-turkish-llm-9b

這是一款強大的語言模型，為土耳其語言和文化提供了更豐富的支持！

🚀 快速開始

WiroAI/wiroai-turkish-llm-9b 是谷歌創新的 Gemma 模型家族中講土耳其語的成員。該模型在精心策劃的高質量土耳其語指令上使用監督微調（SFT）進行了訓練，在土耳其語處理任務中表現出色。

✨ 主要特性

• 使用 500,000 多條高質量土耳其語指令進行微調。
• 微調時使用 LoRA 方法，未進行量化。
• 適應土耳其文化和當地語境。
• 基於谷歌前沿的 Gemma 架構構建。

📚 詳細文檔

📝 模型詳情

該模型是谷歌創新的 Gemma 模型家族中講土耳其語的成員。此模型在精心挑選的高質量土耳其語指令上使用監督微調（SFT）進行了訓練，在土耳其語處理任務中展現出卓越的性能。

🔧 技術規格

💡 使用場景

• 文本生成與編輯
• 問答
• 摘要
• 分析與推理
• 內容轉換
• 土耳其語自然語言處理任務
• 土耳其文化相關任務

🚀 優勢

• 本地理解：能夠理解土耳其文化、習語和時事。
• 資源高效：即使在硬件資源有限的情況下也能有效運行。
• 靈活部署：可在桌面、筆記本電腦或自定義雲基礎設施上使用。
• 開放模型：架構透明且可定製。

🌍 關於谷歌 Gemma 2

Gemma 是谷歌的一系列輕量級、最先進的開放模型，使用與創建 Gemini 模型相同的研究和技術開發。這些模型旨在可在資源有限的環境中部署，使人工智能技術人人可用。

📈 性能與侷限性

雖然該模型在土耳其語任務中表現出色，但用戶應考慮以下幾點：

⚠️ 重要提示

• 使用清晰且結構化的指令以獲得最佳效果。
• 對於關鍵應用，請驗證模型輸出。
• 部署前評估資源需求。
• 請注意，以下基準測試是在特定條件下進行的，結果可以復現。條件選擇在表格下方進行解釋。

基準測試分數

模型基準測試使用以下命令進行：

lm_eval --model_args pretrained=<model_path> --tasks mmlu_tr_v0.2,arc_tr-v0.2,gsm8k_tr-v0.2,hellaswag_tr-v0.2,truthfulqa_v0.2,winogrande_tr-v0.2

請參閱 https://github.com/malhajar17/lm-evaluation-harness_turkish，並注意我們採用默認的語言推理方式，這與 OpenLLMLeaderboard v2.0 中的方法相同。

💻 使用示例

基礎用法

import transformers
import torch


model_id = "WiroAI/wiroai-turkish-llm-9b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()
instruction = "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"

messages = [
    {"role": "user", "content": f"{instruction}"}
]

prompt = pipeline.tokenizer.apply_chat_template(
    messages, 
    tokenize=False, 
    add_generation_prompt=True
)

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<end_of_turn>")
]

outputs = pipeline(
    prompt,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][len(prompt):])

示例輸出

İstanbul'un büyüsüne kapılın! :city_sunset:
Halk arasında "dünyanın masalı şehri" olarak bilinen İstanbul, her köşesinde tarih, kültür ve modern yaşamın bir araya geldiği eşsiz bir şehir.
Yüzyıllardır farklı medeniyetlerin izlerini taşıyan İstanbul, tarihi mekanlarından, müzelerinden, çarşılarından ve restoranlarından oluşan zengin kültürel mirasa sahiptir.
Boğaz'ın eşsiz manzarasında tekne turu yapmak, Topkapı Sarayı'nı ziyaret etmek, Grand Bazaar'da alışveriş yapmak, Mısır Çarşısı'nın canlı atmosferinde kaybolmak, Galata Kulesi'nden muhteşem bir manzara deneyimlemek veya Beyoğlu'nun hareketli sokaklarında yürüyüş yapmak İstanbul'da unutulmaz anılar yaratmak için fırsatlar sunar.
İstanbul'un büyülü atmosferini kendiniz yaşamak için hemen planınızı yapın! :flag-tr: #İstanbul #Türkiye #Seyahat #Tarih #Kültür #Gezi

📄 許可證

此模型遵循谷歌的 Gemma 許可證。使用前請查看並接受許可條款。

📫 聯繫與支持

如有問題、建議或反饋，請在 HuggingFace 上創建一個問題，或直接通過我們的網站聯繫我們。

引用

@article{WiroAI,
  title={WiroAI/wiroai-turkish-llm-9b},
  author={Abdullah Bezir, Furkan Burhan Türkay, Cengiz Asmazoğlu},
  year={2024},
  url={https://huggingface.co/WiroAI/wiroai-turkish-llm-9b}
}

@article{gemma_2024,
    title={Gemma},
    url={https://www.kaggle.com/m/3301},
    DOI={10.34740/KAGGLE/M/3301},
    publisher={Kaggle},
    author={Gemma Team},
    year={2024}
}