Lughaat 1.0 8B Instruct

🚀 Lughaat-1.0-8B-Instruct

Lughaat-1.0-8B-Instruct 是由 Muhammad Noman 开发的乌尔都语模型，基于 Llama 3.1 8B 架构构建。该模型在乌尔都语任务上表现出色，能有效完成问答、文本生成等多种任务。

🚀 快速开始

Lughaat-1.0-8B-Instruct 模型可在 Hugging Face 上获取，以下为你介绍几种使用方式：

💻 使用示例

基础用法

使用 Unsloth 进行优化推理：

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "muhammadnoman76/Lughaat-1.0-8B-Instruct", 
    max_seq_length = max_seq_length,
    dtype = dtype,
    load_in_4bit = load_in_4bit,
)

FastLanguageModel.for_inference(model)

# Define the prompt template for Urdu instructions
lughaat_prompt = """نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
{}
### Input:
{}
### Response:
{}"""

# Example usage
inputs = tokenizer(
[
    lughaat_prompt.format(
        "قائد اعظم کون ہے؟", 
        "", 
        "", 
    )
], return_tensors = "pt").to("cuda")

# Generate response with streaming
from transformers import TextStreamer
text_streamer = TextStreamer(tokenizer)
outputs = model.generate(**inputs, streamer = text_streamer, max_new_tokens = 128)

高级用法

使用 Hugging Face Pipeline：

from transformers import pipeline

pipe = pipeline("text-generation", model="muhammadnoman76/Lughaat-1.0-8B-Instruct")
result = pipe("نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں\n### Instruction: قائد اعظم کون ہے؟\n### Input:\n### Response:")

直接使用 Transformers 加载：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("muhammadnoman76/Lughaat-1.0-8B-Instruct")
model = AutoModelForCausalLM.from_pretrained("muhammadnoman76/Lughaat-1.0-8B-Instruct")

# Process input
prompt = """نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
قائد اعظم کون ہے؟
### Input:

### Response:
"""

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=128)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

✨ 主要特性

• 乌尔都语处理能力强：专门针对乌尔都语任务进行训练，可完成问答、文本生成、摘要提取、翻译、内容创作以及乌尔都语对话式 AI 等多种任务。
• 性能优越：在乌尔都语任务上，性能优于同规模的竞争对手，如 Qwen-2.5-7b、Mistral 7B、Alif 8B 等。

📦 安装指南

该模型可直接从 Hugging Face 获取，按照上述使用示例中的代码进行安装和调用即可。

📚 详细文档

提示格式

为获得最佳效果，请使用以下提示格式：

نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
[你的乌尔都语指令]
### Input:
[额外的上下文或输入 - 可以为空]
### Response:

模型信息

硬件要求

• 为获得最佳性能，建议使用支持 CUDA 的 GPU。
• 全精度推理时，至少需要 16GB VRAM。
• 使用 4 位量化时，需要 8GB VRAM。

🔧 技术细节

性能基准

Lughaat-1.0-8B-Instruct 在乌尔都语任务上的性能优于同规模的竞争对手，以下是具体的基准测试结果：

关键发现

• Lughaat-1.0-8B-Instruct 在所有评估类别中均取得了最高分，平均性能达到 91.4%，展示了其在乌尔都语理解和生成方面的卓越能力。
• 该模型在翻译（94.2%）和生成（93.5%）任务中表现尤为出色，分别比之前的最佳模型（Alif）高出 4.2 和 3.5 个百分点。
• 在伦理和推理类别中，Lughaat 也领先于竞争对手，显示了其在不同语言任务上的平衡性能。
• 与 Gemma-2-9b-it 等较大模型相比，尽管参数数量相似或更少，但 Lughaat-1.0-8B-Instruct 仍能提供更好的结果，证明了专门训练数据集和方法的有效性。
• 与 Llama-3-8b-Instruct 等通用模型相比，性能差距最为显著，凸显了特定语言优化的优势。

性能评估

注意：这是根据数据创建的实际图表图像的占位符。

📄 许可证

请参考 Hugging Face 上的模型卡片以获取最新的许可证信息。

引用

如果你在研究或应用中使用了该模型，请按以下方式引用：

@misc{noman2025lughaat,
  author = {Muhammad Noman},
  title = {Lughaat-1.0-8B-Instruct: An Advanced Urdu Language Model},
  year = {2025},
  publisher = {Hugging Face},
  journal = {Hugging Face Model Hub},
  howpublished = {\url{https://huggingface.co/muhammadnoman76/Lughaat-1.0-8B-Instruct}}
}

致谢

特别感谢 Muhammad Noman 开发了该模型并整理了强大的乌尔都语数据集。

联系与支持

如有问题、反馈或合作机会，请通过以下方式联系：

• 邮箱：muhammadnomanshafiq76@gmail.com
• LinkedIn：https://www.linkedin.com/in/muhammad-noman76/