Wiroai Turkish Llm 8b

🚀 WiroAI/wiroai-turkish-llm-8b

這是一款強大的語言模型，為土耳其語及相關文化提供了更豐富的支持！它能夠更好地理解土耳其文化、習語和時事，在處理土耳其語相關的自然語言任務時表現出色。

🚀 快速開始

本模型可通過transformers庫輕鬆調用，以下是使用transformers管道的示例代碼：

import transformers
import torch

model_id = "WiroAI/wiroai-turkish-llm-8b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()

messages = [
    {"role": "system", "content": "Sen Wiro AI tarafından eğitilmiş Türkçe konuşan bir dil modelisin."},
    {"role": "user", "content": "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"
  },
]

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = pipeline(
    messages,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][-1]['content'])

✨ 主要特性

• 基於500,000多條高質量土耳其語指令進行微調。
• 微調時採用LoRA方法，未進行量化。
• 適配土耳其文化和當地語境。
• 基於谷歌前沿的LLaMA架構構建。

本模型是Meta創新的LLaMA模型家族中支持土耳其語的成員。它通過監督微調（SFT）在精心挑選的高質量土耳其語指令上進行訓練，在土耳其語處理任務中表現卓越。

🔧 技術細節

💡 使用場景

• 文本生成與編輯
• 問答
• 文本摘要
• 分析與推理
• 內容轉換
• 土耳其語自然語言處理任務
• 土耳其文化相關內容處理

🚀 優勢

• 本地化理解：能夠理解土耳其文化、習語和時事。
• 資源高效：即使在硬件資源有限的情況下也能有效運行。
• 靈活部署：可在桌面、筆記本電腦或自定義雲基礎設施上使用。
• 開放模型：架構透明且可定製。

📈 性能與侷限性

雖然該模型在土耳其語任務中表現出色，但用戶在使用時應考慮以下幾點：

⚠️ 重要提示

• 為獲得最佳效果，請使用清晰、結構化的指令。
• 對於關鍵應用，請驗證模型輸出。
• 在部署前評估資源需求。
• 請注意，以下基準測試是在特定條件下進行的，結果可以復現。條件選擇在表格下方有說明。

基準測試分數

模型基準測試使用以下代碼進行：

lm_eval --model_args pretrained=<model_path> --tasks mmlu_tr_v0.2,arc_tr-v0.2,gsm8k_tr-v0.2,hellaswag_tr-v0.2,truthfulqa_v0.2,winogrande_tr-v0.2

請參考https://github.com/malhajar17/lm-evaluation-harness_turkish ，並注意我們採用默認的語言推理方式，這與OpenLLMLeaderboard v2.0的方法相同。

💻 使用示例

基礎用法

import transformers
import torch

model_id = "WiroAI/wiroai-turkish-llm-8b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()

messages = [
    {"role": "system", "content": "Sen Wiro AI tarafından eğitilmiş Türkçe konuşan bir dil modelisin."},
    {"role": "user", "content": "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"
  },
]

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = pipeline(
    messages,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][-1]['content'])

高級用法

İstanbul'un büyüsüne kapılın! :city_sunset:
Halk arasında "dünyanın masalı şehri" olarak bilinen İstanbul, her köşesinde tarih, kültür ve modern yaşamın bir araya geldiği eşsiz bir şehir.
Yüzyıllardır farklı medeniyetlerin izlerini taşıyan İstanbul, tarihi mekanlarından, müzelerinden, çarşılarından ve restoranlarından oluşan zengin kültürel mirasa sahiptir.
Boğaz'ın eşsiz manzarasında tekne turu yapmak, Topkapı Sarayı'nı ziyaret etmek, Grand Bazaar'da alışveriş yapmak, Mısır Çarşısı'nın canlı atmosferinde kaybolmak, Galata Kulesi'nden muhteşem bir manzara deneyimlemek veya Beyoğlu'nun hareketli sokaklarında yürüyüş yapmak İstanbul'da unutulmaz anılar yaratmak için fırsatlar sunar.
İstanbul'un büyülü atmosferini kendiniz yaşamak için hemen planınızı yapın! :flag-tr: #İstanbul #Türkiye #Seyahat #Tarih #Kültür #Gezi

🤝 許可證

本模型採用Apache 2.0許可證。在使用前，請仔細閱讀並接受許可條款。

📫 聯繫與支持

如有問題、建議或反饋，請在HuggingFace上提出問題，或直接通過我們的網站與我們聯繫。

引用

@article{WiroAI,
  title={WiroAI/wiroai-turkish-llm-8b},
  author={Abdullah Bezir, Furkan Burhan Türkay, Cengiz Asmazoğlu},
  year={2024},
  url={https://huggingface.co/WiroAI/wiroai-turkish-llm-8b}
}