Deepseek Math 7b Rl

🚀 DeepSeek Math

DeepSeek Mathは、数学的な問題解決に特化したモデルです。高度な数学的推論能力を備え、様々な数学問題に対応できます。

🚀 クイックスタート

このセクションでは、DeepSeek Mathモデルの基本的な使い方を説明します。

モデルの概要

詳細については、Introductionを参照してください。

使い方

ここでは、モデルの使用例をいくつか紹介します。

チャットコンプリーション

❗❗❗ DeepSeekMath-InstructとDeepSeekMath-RLをテストする際には、思考連鎖プロンプトを使用してください。

• 英語の質問: {question}\nPlease reason step by step, and put your final answer within \boxed{}.
• 中国語の質問: {question}\n请通过逐步推理来解答问题，并把最终答案放置于\boxed{}中。

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig

model_name = "deepseek-ai/deepseek-math-7b-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")
model.generation_config = GenerationConfig.from_pretrained(model_name)
model.generation_config.pad_token_id = model.generation_config.eos_token_id

messages = [
    {"role": "user", "content": "what is the integral of x^2 from 0 to 2?\nPlease reason step by step, and put your final answer within \\boxed{}."}
]
input_tensor = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt")
outputs = model.generate(input_tensor.to(model.device), max_new_tokens=100)

result = tokenizer.decode(outputs[0][input_tensor.shape[1]:], skip_special_tokens=True)
print(result)

提供されている関数apply_chat_templateを使用せずに、サンプルテンプレートに従ってモデルと対話することもできます。ただし、messagesは入力内容に置き換えてください。

User: {messages[0]['content']}

Assistant: {messages[1]['content']}<｜end▁of▁sentence｜>User: {messages[2]['content']}

Assistant:

注意: デフォルトでは(add_special_tokens=True)、トークナイザーは入力テキストの前にbos_token (<｜begin▁of▁sentence｜>) を自動的に追加します。また、システムプロンプトはこのバージョンのモデルと互換性がないため、入力にシステムプロンプトを含めることはお勧めしません。

📄 ライセンス

このコードリポジトリはMITライセンスの下でライセンスされています。DeepSeekMathモデルの使用は、モデルライセンスに従います。DeepSeekMathは商用利用が可能です。

詳細については、LICENSE-MODELを参照してください。

📞 お問い合わせ

ご質問がある場合は、イシューを立てるか、service@deepseek.comまでご連絡ください。

[🏠Homepage] | [🤖 Chat with DeepSeek LLM] | [Discord] | [Wechat(微信)]

Paper Link👁️