Deepseek R1 Distill Qwen 7B Japanese

🚀 lightblue/DeepSeek-R1-Distill-Qwen-7B-Japanese

Deepseek的R1模型是優秀的、最先進的推理模型，它們經過訓練可以同時處理英語和中文。然而，這些模型在輸出語言上並不一致，當使用日語進行提示時，它們常常會輸出中文或英語。因此，我們開發了lightblue/DeepSeek-R1-Distill-Qwen-7B-Japanese，作為R1模型的日語版本。

該模型是deepseek-ai/DeepSeek-R1-Distill-Qwen-7B在我們的lightblue/distilabel-reasoning-R1-Llama-70B數據集上進行日語微調的版本，它能夠可靠且準確地以日語響應提示。

此模型在阿里雲的8 x L20實例（ecs.gn8is-8x.32xlarge）上訓練了不到10分鐘。

🚀 快速開始

使用建議

當使用這些模型時，我們建議將採樣溫度設置在0.5 - 0.7之間，正如原始的蒸餾R1模型所建議的那樣。

此外，我們觀察到該模型有時比原始的R1模型更容易出現重複內容的情況。因此，如果模型在處理你的提示時出現重複內容，我們建議將repetition_penalty設置為1.1或更高。

代碼示例

我們提供了在vLLM中使用此模型的腳本：

基礎用法

from vllm import LLM, SamplingParams

llm = LLM(
    model="lightblue/DeepSeek-R1-Distill-Qwen-7B-Japanese",
    max_model_len=8_000
)

sampling_params = SamplingParams(
    temperature=0.5, 
    max_tokens=8_000,
    repetition_penalty=1.1
)

prompts = [
    """學校には1クラスにつき20人の生徒がおり、クラスは合計3つあります。
學校全體では男子と女子がそれぞれ50%ずついます。
1つ目のクラスには女子が15人、2つ目のクラスには女子が12人います。
3つ目のクラスには何人の男子がいますか？"""
]

conversations = [
    [{"role": "user", "content": x}] for x in prompts
]

outputs = llm.chat(conversations, sampling_params=sampling_params)

for output in outputs:
    print(output.outputs[0].text)

<think>
# まず、學校の総生徒數を算出します。各クラスに20人の生徒があり、クラスは3つあるため、総生徒數は60人です。

# 次に、學校全體で男子と女子は同じ人數で分佈しています。したがって、男子と女子各有30人。
...
# したがって、3つ目のクラスの男子數は20 - 3 = 17人です。
# </think>

# **解答：**

# 學校の総生徒數を算出します。
...
# **最終的な答え：**
# \[
# \boxed{17}
# \]

📚 詳細文檔

評估

我們使用gsm8k-ja-test_250-1319數據集的前50行，對該模型的輸出準確性和有效日語<think>部分的比例進行了評估。

我們將其與原始的R1模型進行了比較，並在重複懲罰係數分別為1.0和1.1的兩種情況下進行了測試：

SakanaAI/gsm8k-ja-test_250-1319評估的代碼可以在這裡找到。

我們進一步使用DeL-TaiseiOzaki/Tengentoppa-sft-reasoning-ja的前50個提示，評估了模型響應中有效日語<think>部分的比例。這個基準測試包含了更多樣化和複雜的提示，這意味著它能更真實地評估該模型輸出日語的可靠性。

DeL-TaiseiOzaki/Tengentoppa-sft-reasoning-ja評估的代碼可以在這裡找到。

模型製作過程

我們通過以下步驟為該模型創建了數據：

1. 從argilla/distilabel-reasoning-prompts中採樣英語推理風格的提示。
2. 使用基於BAAI/bge-m3嵌入的文本相似度，去除相似的提示。
3. 使用gpt-4o-mini-2024-07-18將英語提示翻譯成日語。
4. 使用deepseek-ai/DeepSeek-R1-Distill-Llama-70B生成提示的答案。
5. 過濾掉不滿足以下條件的響應：
   • 在2048個標記內完成。
   • 包含有效的<think>部分。
   • <think>部分用日語書寫。

我們使用這些數據在LLaMA-Factory上通過監督微調訓練了我們的模型，使用的是ecs.gn8is-8x.32xlarge實例。

訓練詳情

### model
model_name_or_path: deepseek-ai/DeepSeek-R1-Distill-Qwen-7B

### method
stage: sft
do_train: true
finetuning_type: full
deepspeed: /root/LLaMA-Factory/examples/deepspeed/ds_z2_config.json

### dataset
dataset: distilabel-reasoning-R1-Llama-70B-ja-train
template: qwen
cutoff_len: 4500
overwrite_cache: true
preprocessing_num_workers: 16
packing: true

### output
output_dir: /root/train_outputs/DeepSeek-R1-Distill-Qwen-7B/distilabel-reasoning-R1-Llama-70B-ja-train
logging_steps: 1
save_steps: 0.99999
plot_loss: true
overwrite_output_dir: true

### train
per_device_train_batch_size: 1
gradient_accumulation_steps: 1
learning_rate: 1.0e-5
num_train_epochs: 1.0
lr_scheduler_type: cosine
warmup_ratio: 0.01
bf16: true
ddp_timeout: 180000000

### eval
val_size: 0.01
per_device_eval_batch_size: 1
eval_strategy: steps
eval_steps: 0.1

echo '{
"distilabel-reasoning-R1-Llama-70B-ja-train": {
  "hf_hub_url": "lightblue/distilabel-reasoning-R1-Llama-70B-ja-train",
  "formatting": "sharegpt"
}
}' > /root/LLaMA-Factory/data/dataset_info.json

cd /root/LLaMA-Factory && llamafactory-cli train /root/reasoning_train.yaml

rm -r /root/train_outputs/DeepSeek-R1-Distill-Qwen-7B/distilabel-reasoning-R1-Llama-70B-ja-train/checkpoint*
huggingface-cli upload lightblue/DeepSeek-R1-Distill-Qwen-7B-Japanese /root/train_outputs/DeepSeek-R1-Distill-Qwen-7B/distilabel-reasoning-R1-Llama-70B-ja-train

📄 許可證

我們根據Apache 2.0許可證共享此模型。

開發者信息

該模型由Peter Devine（ptrdvn）為Lightblue訓練。