Xwin LM 13B V0.2

🚀 Xwin-LM: 強力で安定した再現可能な大規模言語モデルのアライメント

Xwin-LMは、大規模言語モデルのアライメント技術を開発し、オープンソース化することを目指しています。これには、教師付き微調整（SFT）、報酬モデル（RM）、棄却サンプリング、人間のフィードバックによる強化学習（RLHF）などが含まれます。初回リリースはLlama2ベースモデルをベースに構築され、AlpacaEvalで1位にランクインしました。特筆すべきは、このベンチマークで初めてGPT - 4を上回ったことです。本プロジェクトは継続的に更新されます。

🚀 クイックスタート

Xwin-LMを使って大規模言語モデルのアライメントを強化しましょう！

✨ 主な機能

• 大規模言語モデルのアライメント技術の開発とオープンソース化。
• Llama2ベースモデルを使用した高性能モデルの提供。
• AlpacaEvalでの高い勝率を達成。

📚 ドキュメント

ニュース

• 💥 [2023年10月12日] Xwin-LM - 7B - V0.2とXwin-LM - 13B - V0.2がリリースされ、比較データとRLトレーニング（PPO）が改善されました。GPT - 4に対する勝率は大幅に向上し、それぞれ59.83%（7Bモデル）と70.36%（13Bモデル）に達しました。70Bモデルは近日リリース予定です。
• 💥 [2023年9月] Xwin-LM - 70B - V0.1をリリースしました。このモデルはAlpacaEvalベンチマークでDavinci - 003に対する勝率95.57%を達成し、AlpacaEvalで1位にランクインしました。AlpacaEvalで初めてGPT - 4を上回ったモデルであり、GPT - 4に対する勝率は60.61です。
• 🔍 [2023年9月] RLHFはXwin - LM - V0.1リリースの高いパフォーマンスにおいて重要な役割を果たしています！
• 💥 [2023年9月] Xwin-LM - 13B - V0.1をリリースしました。このモデルはAlpacaEvalで91.76%の勝率を達成し、すべての13Bモデルの中で1位にランクインしました。
• 💥 [2023年9月] Xwin-LM - 7B - V0.1をリリースしました。このモデルはAlpacaEvalで87.82%の勝率を達成し、すべての7Bモデルの中で1位にランクインしました。

モデルカード

ベンチマーク

AlpacaEvalでのXwin-LMのパフォーマンス

以下の表は、AlpacaEvalでのXwin-LMのパフォーマンスを示しています。このベンチマークでは、805の質問にわたってText - Davinci - 003に対する勝率が評価されます。包括的な評価のため、初めてChatGPTとGPT - 4に対する勝率も提示しています。Xwin-LMモデルファミリーは、すべての指標で新たな最先端のパフォーマンスを確立しています。特に、Xwin-LM - 70B - V0.1は初めてGPT - 4を上回り、Text - Davinci - 003に対して95.57%、GPT - 4に対して**60.61%**の印象的な勝率を達成しています。

AlpacaEvalのケーススタディ

NLP基礎タスクでのXwin-LMのパフォーマンス

次の表は、Open LLM LeaderboardのNLP基礎タスクにおけるXwin-LMsと他の大規模言語モデルの比較を提供しています。

💻 使用例

基本的な使用法

会話テンプレート

望ましい結果を得るために、推論にモデルを使用する際は、会話テンプレートに厳密に従ってください。当社のモデルはVicunaが確立したプロンプト形式を採用しており、複数ターンの会話をサポートしています。

A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions. USER: Hi! ASSISTANT: Hello.</s>USER: Who are you? ASSISTANT: I am Xwin-LM.</s>......

HuggingFaceの例

from transformers import AutoTokenizer, AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained("Xwin-LM/Xwin-LM-7B-V0.1")
tokenizer = AutoTokenizer.from_pretrained("Xwin-LM/Xwin-LM-7B-V0.1")
(
    prompt := "A chat between a curious user and an artificial intelligence assistant. "
            "The assistant gives helpful, detailed, and polite answers to the user's questions. "
            "USER: Hello, can you help me? "
            "ASSISTANT:"
)
inputs = tokenizer(prompt, return_tensors="pt")
samples = model.generate(**inputs, max_new_tokens=4096, temperature=0.7)
output = tokenizer.decode(samples[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True)
print(output) 
# Of course! I'm here to help. Please feel free to ask your question or describe the issue you're having, and I'll do my best to assist you.

vLLMの例

Xwin-LMはLlama2をベースにしているため、vLLMを使用した高速推論もサポートしています。詳細なインストール手順については、vLLMを参照してください。

from vllm import LLM, SamplingParams
(
    prompt := "A chat between a curious user and an artificial intelligence assistant. "
            "The assistant gives helpful, detailed, and polite answers to the user's questions. "
            "USER: Hello, can you help me? "
            "ASSISTANT:"
)
sampling_params = SamplingParams(temperature=0.7, max_tokens=4096)
llm = LLM(model="Xwin-LM/Xwin-LM-7B-V0.1")
outputs = llm.generate([prompt,], sampling_params)

for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    print(generated_text)

今後の予定

• [ ] ソースコードを公開する。
• [ ] 数学、推論などのより多くの機能を公開する。

引用

このリポジトリのデータまたはコードを使用する場合は、以下のように引用してください。

@software{xwin-lm,
  title = {Xwin-LM},
  author = {Xwin-LM Team},
  url = {https://github.com/Xwin-LM/Xwin-LM},
  version = {pre-release},
  year = {2023},
  month = {9},
}

謝辞

Llama 2、FastChat、AlpacaFarm、およびvLLMに感謝します。

📄 ライセンス

Llama2ライセンス