Wiroai Turkish Llm 9b

🚀 WiroAI/wiroai-turkish-llm-9b

这是一款强大的语言模型，为土耳其语言和文化提供了更丰富的支持！

🚀 快速开始

WiroAI/wiroai-turkish-llm-9b 是谷歌创新的 Gemma 模型家族中讲土耳其语的成员。该模型在精心策划的高质量土耳其语指令上使用监督微调（SFT）进行了训练，在土耳其语处理任务中表现出色。

✨ 主要特性

• 使用 500,000 多条高质量土耳其语指令进行微调。
• 微调时使用 LoRA 方法，未进行量化。
• 适应土耳其文化和当地语境。
• 基于谷歌前沿的 Gemma 架构构建。

📚 详细文档

📝 模型详情

该模型是谷歌创新的 Gemma 模型家族中讲土耳其语的成员。此模型在精心挑选的高质量土耳其语指令上使用监督微调（SFT）进行了训练，在土耳其语处理任务中展现出卓越的性能。

🔧 技术规格

💡 使用场景

• 文本生成与编辑
• 问答
• 摘要
• 分析与推理
• 内容转换
• 土耳其语自然语言处理任务
• 土耳其文化相关任务

🚀 优势

• 本地理解：能够理解土耳其文化、习语和时事。
• 资源高效：即使在硬件资源有限的情况下也能有效运行。
• 灵活部署：可在桌面、笔记本电脑或自定义云基础设施上使用。
• 开放模型：架构透明且可定制。

🌍 关于谷歌 Gemma 2

Gemma 是谷歌的一系列轻量级、最先进的开放模型，使用与创建 Gemini 模型相同的研究和技术开发。这些模型旨在可在资源有限的环境中部署，使人工智能技术人人可用。

📈 性能与局限性

虽然该模型在土耳其语任务中表现出色，但用户应考虑以下几点：

⚠️ 重要提示

• 使用清晰且结构化的指令以获得最佳效果。
• 对于关键应用，请验证模型输出。
• 部署前评估资源需求。
• 请注意，以下基准测试是在特定条件下进行的，结果可以复现。条件选择在表格下方进行解释。

基准测试分数

模型基准测试使用以下命令进行：

lm_eval --model_args pretrained=<model_path> --tasks mmlu_tr_v0.2,arc_tr-v0.2,gsm8k_tr-v0.2,hellaswag_tr-v0.2,truthfulqa_v0.2,winogrande_tr-v0.2

请参阅 https://github.com/malhajar17/lm-evaluation-harness_turkish，并注意我们采用默认的语言推理方式，这与 OpenLLMLeaderboard v2.0 中的方法相同。

💻 使用示例

基础用法

import transformers
import torch


model_id = "WiroAI/wiroai-turkish-llm-9b"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

pipeline.model.eval()
instruction = "Bana İstanbul ile alakalı bir sosyal medya postu hazırlar mısın?"

messages = [
    {"role": "user", "content": f"{instruction}"}
]

prompt = pipeline.tokenizer.apply_chat_template(
    messages, 
    tokenize=False, 
    add_generation_prompt=True
)

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<end_of_turn>")
]

outputs = pipeline(
    prompt,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.9,
)

print(outputs[0]["generated_text"][len(prompt):])

示例输出

İstanbul'un büyüsüne kapılın! :city_sunset:
Halk arasında "dünyanın masalı şehri" olarak bilinen İstanbul, her köşesinde tarih, kültür ve modern yaşamın bir araya geldiği eşsiz bir şehir.
Yüzyıllardır farklı medeniyetlerin izlerini taşıyan İstanbul, tarihi mekanlarından, müzelerinden, çarşılarından ve restoranlarından oluşan zengin kültürel mirasa sahiptir.
Boğaz'ın eşsiz manzarasında tekne turu yapmak, Topkapı Sarayı'nı ziyaret etmek, Grand Bazaar'da alışveriş yapmak, Mısır Çarşısı'nın canlı atmosferinde kaybolmak, Galata Kulesi'nden muhteşem bir manzara deneyimlemek veya Beyoğlu'nun hareketli sokaklarında yürüyüş yapmak İstanbul'da unutulmaz anılar yaratmak için fırsatlar sunar.
İstanbul'un büyülü atmosferini kendiniz yaşamak için hemen planınızı yapın! :flag-tr: #İstanbul #Türkiye #Seyahat #Tarih #Kültür #Gezi

📄 许可证

此模型遵循谷歌的 Gemma 许可证。使用前请查看并接受许可条款。

📫 联系与支持

如有问题、建议或反馈，请在 HuggingFace 上创建一个问题，或直接通过我们的网站联系我们。

引用

@article{WiroAI,
  title={WiroAI/wiroai-turkish-llm-9b},
  author={Abdullah Bezir, Furkan Burhan Türkay, Cengiz Asmazoğlu},
  year={2024},
  url={https://huggingface.co/WiroAI/wiroai-turkish-llm-9b}
}

@article{gemma_2024,
    title={Gemma},
    url={https://www.kaggle.com/m/3301},
    DOI={10.34740/KAGGLE/M/3301},
    publisher={Kaggle},
    author={Gemma Team},
    year={2024}
}