Samastam It V1

🚀 薩馬斯塔姆指令模型 (v1)

薩馬斯塔姆指令模型 (v1) 是薩爾瓦姆 - 1 模型的早期指令變體。它使用了來自 Alpaca - cleaned 數據集的 12800 個樣本進行微調。目前，該模型對指令的響應表現良好，後續可能會使用更多數據集繼續進行微調。

🚀 快速開始

本模型是薩爾瓦姆 - 1 模型的早期指令變體，當前使用 Alpaca - cleaned 數據集中的 12800 個樣本進行了微調。現階段，薩馬斯塔姆對指令的響應效果不錯，後續可能會用更多數據集持續微調。

✨ 主要特性

• 多語言支持：支持印地語（hi）、英語（en）、卡納達語（kn）和孟加拉語（bn）。
• 基於transformers庫：使用 transformers 庫進行開發。
• 文本生成推理：具備文本生成推理能力。

💻 使用示例

基礎用法

from transformers import pipeline
import torch

def format_prompt(user_input: str) -> str:
    template = (        
        "### Instruction:\n"
        f"{user_input}\n\n"
        "### Response:\n"
    )
    return template

pipe = pipeline(
    "text-generation",
    model="hathibelagal/samastam-it-v1",
    torch_dtype=torch.float16,
    device_map="auto",
)

output = pipe(
    format_prompt("ರಾಜಸ್ಥಾನದ ರಾಜಧಾನಿ ಯಾವುದು?"),
    pad_token_id=pipe.tokenizer.eos_token_id,
    max_new_tokens=25,
    do_sample=True,
)

print(output[0]["generated_text"])

# Output:
# ### Instruction:
# ರಾಜಸ್ಥಾನದ ರಾಜಧಾನಿ ಯಾವುದು?

# ### Response:
# ರಾಜಸ್ಥಾನದ ರಾಜಧಾನಿ ಜೈಪುರ.