Mistral 7b Wiki

🚀 mistral-7b-wiki模型卡片

mistral-7b-wiki是在Mistral-7B模型基礎上使用韓語進行微調的模型，可用於文本生成任務。

🚀 快速開始

直接加載模型

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("shleeeee/mistral-7b-wiki")
model = AutoModelForCausalLM.from_pretrained("shleeeee/mistral-7b-wiki")

使用pipeline進行輔助

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="shleeeee/mistral-7b-wiki")

✨ 主要特性

• 基於Mistral-7B-v0.1模型進行微調，適用於韓語文本生成。
• 明確指定了Lora目標模塊，包括q_proj、k_proj、v_proj、o_proj、gate_proj。

📚 詳細文檔

模型詳情

數據集

使用韓語自定義數據集進行訓練。

提示模板：Mistral

<s>[INST]{['instruction']}[/INST]{['output']}</s>

評估