Lughaat 1.0 8B Instruct

🚀 Lughaat-1.0-8B-Instruct

Lughaat-1.0-8B-Instruct 是由 Muhammad Noman 開發的烏爾都語模型，基於 Llama 3.1 8B 架構構建。該模型在烏爾都語任務上表現出色，能有效完成問答、文本生成等多種任務。

🚀 快速開始

Lughaat-1.0-8B-Instruct 模型可在 Hugging Face 上獲取，以下為你介紹幾種使用方式：

💻 使用示例

基礎用法

使用 Unsloth 進行優化推理：

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "muhammadnoman76/Lughaat-1.0-8B-Instruct", 
    max_seq_length = max_seq_length,
    dtype = dtype,
    load_in_4bit = load_in_4bit,
)

FastLanguageModel.for_inference(model)

# Define the prompt template for Urdu instructions
lughaat_prompt = """نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
{}
### Input:
{}
### Response:
{}"""

# Example usage
inputs = tokenizer(
[
    lughaat_prompt.format(
        "قائد اعظم کون ہے؟", 
        "", 
        "", 
    )
], return_tensors = "pt").to("cuda")

# Generate response with streaming
from transformers import TextStreamer
text_streamer = TextStreamer(tokenizer)
outputs = model.generate(**inputs, streamer = text_streamer, max_new_tokens = 128)

高級用法

使用 Hugging Face Pipeline：

from transformers import pipeline

pipe = pipeline("text-generation", model="muhammadnoman76/Lughaat-1.0-8B-Instruct")
result = pipe("نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں\n### Instruction: قائد اعظم کون ہے؟\n### Input:\n### Response:")

直接使用 Transformers 加載：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("muhammadnoman76/Lughaat-1.0-8B-Instruct")
model = AutoModelForCausalLM.from_pretrained("muhammadnoman76/Lughaat-1.0-8B-Instruct")

# Process input
prompt = """نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
قائد اعظم کون ہے؟
### Input:

### Response:
"""

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=128)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

✨ 主要特性

• 烏爾都語處理能力強：專門針對烏爾都語任務進行訓練，可完成問答、文本生成、摘要提取、翻譯、內容創作以及烏爾都語對話式 AI 等多種任務。
• 性能優越：在烏爾都語任務上，性能優於同規模的競爭對手，如 Qwen-2.5-7b、Mistral 7B、Alif 8B 等。

📦 安裝指南

該模型可直接從 Hugging Face 獲取，按照上述使用示例中的代碼進行安裝和調用即可。

📚 詳細文檔

提示格式

為獲得最佳效果，請使用以下提示格式：

نیچے ایک ہدایت ہے جو کسی کام کی تفصیل بیان کرتی ہے، جس کے ساتھ ایک ان پٹ دیا گیا ہے جو مزید سندات فراہم کرتا ہے۔ تھوڑا وقت لیکر ایک جواب لکھیں جو درست طریقے سے درخواست مکمل کریں
### Instruction:
[你的烏爾都語指令]
### Input:
[額外的上下文或輸入 - 可以為空]
### Response:

模型信息

硬件要求

• 為獲得最佳性能，建議使用支持 CUDA 的 GPU。
• 全精度推理時，至少需要 16GB VRAM。
• 使用 4 位量化時，需要 8GB VRAM。

🔧 技術細節

性能基準

Lughaat-1.0-8B-Instruct 在烏爾都語任務上的性能優於同規模的競爭對手，以下是具體的基準測試結果：

關鍵發現

• Lughaat-1.0-8B-Instruct 在所有評估類別中均取得了最高分，平均性能達到 91.4%，展示了其在烏爾都語理解和生成方面的卓越能力。
• 該模型在翻譯（94.2%）和生成（93.5%）任務中表現尤為出色，分別比之前的最佳模型（Alif）高出 4.2 和 3.5 個百分點。
• 在倫理和推理類別中，Lughaat 也領先於競爭對手，顯示了其在不同語言任務上的平衡性能。
• 與 Gemma-2-9b-it 等較大模型相比，儘管參數數量相似或更少，但 Lughaat-1.0-8B-Instruct 仍能提供更好的結果，證明了專門訓練數據集和方法的有效性。
• 與 Llama-3-8b-Instruct 等通用模型相比，性能差距最為顯著，凸顯了特定語言優化的優勢。

性能評估

注意：這是根據數據創建的實際圖表圖像的佔位符。

📄 許可證

請參考 Hugging Face 上的模型卡片以獲取最新的許可證信息。

引用

如果你在研究或應用中使用了該模型，請按以下方式引用：

@misc{noman2025lughaat,
  author = {Muhammad Noman},
  title = {Lughaat-1.0-8B-Instruct: An Advanced Urdu Language Model},
  year = {2025},
  publisher = {Hugging Face},
  journal = {Hugging Face Model Hub},
  howpublished = {\url{https://huggingface.co/muhammadnoman76/Lughaat-1.0-8B-Instruct}}
}

致謝

特別感謝 Muhammad Noman 開發了該模型並整理了強大的烏爾都語數據集。

聯繫與支持

如有問題、反饋或合作機會，請通過以下方式聯繫：

• 郵箱：muhammadnomanshafiq76@gmail.com
• LinkedIn：https://www.linkedin.com/in/muhammad-noman76/