Synatra 10.7B V0.4

🚀 Synatra-10.7B-v0.4🐧

Synatra-10.7B-v0.4是基於特定基礎模型訓練的模型，可用於非商業用途。它遵循特定指令格式，在相關基準測試中有一定表現，還提供了使用的代碼示例。

🚀 快速開始

你可以通過以下步驟快速使用Synatra-10.7B-v0.4模型：

1. 加入我們的Discord社區獲取更多信息：Server Link
2. 參考下面的代碼示例進行模型調用。

✨ 主要特性

• 開源許可：模型基於cc-by-sa-4.0許可，可用於非商業用途。
• 基礎模型優秀：基於upstage/SOLAR-10.7B-v1.0模型訓練。
• 遵循特定格式：遵循Alpaca指令格式。

📦 安裝指南

文檔未提供具體安裝步驟，你可以參考Hugging Face上的相關文檔進行模型的安裝。

💻 使用示例

基礎用法

from transformers import AutoModelForCausalLM, AutoTokenizer

device = "cuda" # the device to load the model onto

model = AutoModelForCausalLM.from_pretrained("maywell/Synatra-10.7B-v0.4")
tokenizer = AutoTokenizer.from_pretrained("maywell/Synatra-10.7B-v0.4")

messages = [
    {"role": "user", "content": "바나나는 원래 하얀색이야?"},
]

encodeds = tokenizer.apply_chat_template(messages, return_tensors="pt")

model_inputs = encodeds.to(device)
model.to(device)

generated_ids = model.generate(model_inputs, max_new_tokens=1000, do_sample=True)
decoded = tokenizer.batch_decode(generated_ids)
print(decoded[0])

📚 詳細文檔

模型信息

模型基準測試

Ko-LLM-Leaderboard

正在進行基準測試...

📄 許可證

該“模型”（即基礎模型、衍生模型、合併/混合模型）完全免費供非商業用途使用，只要任何父倉庫中包含cc-by-sa-4.0許可證，並且非商業使用規定仍然有效，無論其他模型的許可證如何。