Wiroai Turkish Llm 8b

🚀 WiroAI/wiroai-turkish-llm-8b

这是一款强大的语言模型，为土耳其语及相关文化提供了更丰富的支持！它能够更好地理解土耳其文化、习语和时事，在处理土耳其语相关的自然语言任务时表现出色。

🚀 快速开始

本模型可通过transformers库轻松调用，以下是使用transformers管道的示例代码：

import transformers
import torch

model_id = "WiroAI/wiroai-turkish-llm-8b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()

messages = [
    {"role": "system", "content": "Sen Wiro AI tarafından eğitilmiş Türkçe konuşan bir dil modelisin."},
    {"role": "user", "content": "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"
  },
]

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = pipeline(
    messages,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][-1]['content'])

✨ 主要特性

• 基于500,000多条高质量土耳其语指令进行微调。
• 微调时采用LoRA方法，未进行量化。
• 适配土耳其文化和当地语境。
• 基于谷歌前沿的LLaMA架构构建。

本模型是Meta创新的LLaMA模型家族中支持土耳其语的成员。它通过监督微调（SFT）在精心挑选的高质量土耳其语指令上进行训练，在土耳其语处理任务中表现卓越。

🔧 技术细节

💡 使用场景

• 文本生成与编辑
• 问答
• 文本摘要
• 分析与推理
• 内容转换
• 土耳其语自然语言处理任务
• 土耳其文化相关内容处理

🚀 优势

• 本地化理解：能够理解土耳其文化、习语和时事。
• 资源高效：即使在硬件资源有限的情况下也能有效运行。
• 灵活部署：可在桌面、笔记本电脑或自定义云基础设施上使用。
• 开放模型：架构透明且可定制。

📈 性能与局限性

虽然该模型在土耳其语任务中表现出色，但用户在使用时应考虑以下几点：

⚠️ 重要提示

• 为获得最佳效果，请使用清晰、结构化的指令。
• 对于关键应用，请验证模型输出。
• 在部署前评估资源需求。
• 请注意，以下基准测试是在特定条件下进行的，结果可以复现。条件选择在表格下方有说明。

基准测试分数

模型基准测试使用以下代码进行：

lm_eval --model_args pretrained=<model_path> --tasks mmlu_tr_v0.2,arc_tr-v0.2,gsm8k_tr-v0.2,hellaswag_tr-v0.2,truthfulqa_v0.2,winogrande_tr-v0.2

请参考https://github.com/malhajar17/lm-evaluation-harness_turkish ，并注意我们采用默认的语言推理方式，这与OpenLLMLeaderboard v2.0的方法相同。

💻 使用示例

基础用法

import transformers
import torch

model_id = "WiroAI/wiroai-turkish-llm-8b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()

messages = [
    {"role": "system", "content": "Sen Wiro AI tarafından eğitilmiş Türkçe konuşan bir dil modelisin."},
    {"role": "user", "content": "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"
  },
]

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = pipeline(
    messages,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][-1]['content'])

高级用法

İstanbul'un büyüsüne kapılın! :city_sunset:
Halk arasında "dünyanın masalı şehri" olarak bilinen İstanbul, her köşesinde tarih, kültür ve modern yaşamın bir araya geldiği eşsiz bir şehir.
Yüzyıllardır farklı medeniyetlerin izlerini taşıyan İstanbul, tarihi mekanlarından, müzelerinden, çarşılarından ve restoranlarından oluşan zengin kültürel mirasa sahiptir.
Boğaz'ın eşsiz manzarasında tekne turu yapmak, Topkapı Sarayı'nı ziyaret etmek, Grand Bazaar'da alışveriş yapmak, Mısır Çarşısı'nın canlı atmosferinde kaybolmak, Galata Kulesi'nden muhteşem bir manzara deneyimlemek veya Beyoğlu'nun hareketli sokaklarında yürüyüş yapmak İstanbul'da unutulmaz anılar yaratmak için fırsatlar sunar.
İstanbul'un büyülü atmosferini kendiniz yaşamak için hemen planınızı yapın! :flag-tr: #İstanbul #Türkiye #Seyahat #Tarih #Kültür #Gezi

🤝 许可证

本模型采用Apache 2.0许可证。在使用前，请仔细阅读并接受许可条款。

📫 联系与支持

如有问题、建议或反馈，请在HuggingFace上提出问题，或直接通过我们的网站与我们联系。

引用

@article{WiroAI,
  title={WiroAI/wiroai-turkish-llm-8b},
  author={Abdullah Bezir, Furkan Burhan Türkay, Cengiz Asmazoğlu},
  year={2024},
  url={https://huggingface.co/WiroAI/wiroai-turkish-llm-8b}
}