Xwin LM 13B V0.1

🚀 Xwin-LM: 強力で安定した再現可能な大規模言語モデルのアライメント

Xwin-LMは、大規模言語モデルのアライメント技術を開発・オープンソース化することを目指しています。これには、教師付き微調整（SFT）、報酬モデル（RM）、棄却サンプリング、人間のフィードバックによる強化学習（RLHF）などが含まれます。初回リリースのモデルはLlama2ベースモデルをベースに構築され、AlpacaEvalで1位を獲得しました。特に、このベンチマークで初めてGPT-4を上回ったという画期的な成果を収めています。本プロジェクトは継続的に更新されます。

🚀 クイックスタート

Xwin-LMで大規模言語モデルのアライメントを強化しましょう！

✨ 主な機能

• 大規模言語モデルのアライメント技術の開発とオープンソース化
• 教師付き微調整（SFT）、報酬モデル（RM）、棄却サンプリング、人間のフィードバックによる強化学習（RLHF）などの技術を含む
• Llama2ベースモデルをベースに構築され、AlpacaEvalベンチマークで1位を獲得し、初めてGPT-4を上回った

📚 ドキュメント

ニュース

• 💥 [2023年9月] Xwin-LM-70B-V0.1をリリースしました。このモデルはAlpacaEvalベンチマークでText-Davinci-003に対する勝率が95.57% 、GPT-4に対する勝率が60.61% を達成し、AlpacaEvalで1位にランクインしました。また、これはAlpacaEvalで初めてGPT-4を上回ったモデルです。
• 🔍 [2023年9月] RLHFがXwin-LM-V0.1リリースの高い性能に重要な役割を果たしています！
• 💥 [2023年9月] Xwin-LM-13B-V0.1をリリースしました。このモデルはAlpacaEvalで91.76% の勝率を達成し、全13Bモデルの中で1位にランクインしました。
• 💥 [2023年9月] Xwin-LM-7B-V0.1をリリースしました。このモデルはAlpacaEvalで87.82% の勝率を達成し、全7Bモデルの中で1位にランクインしました。

モデルカード

ベンチマーク

Xwin-LMのAlpacaEvalでの性能

以下の表は、Xwin-LMのAlpacaEvalでの性能を示しています。このベンチマークでは、805の質問に対するText-Davinci-003との勝率が評価されます。また、初めてChatGPTおよびGPT-4との勝率も提示しています。Xwin-LMモデルファミリーは、すべての指標で新たな最先端性能を達成しています。特に、Xwin-LM-70B-V0.1は初めてGPT-4を上回り、Text-Davinci-003に対する勝率は95.57% 、GPT-4に対する勝率は60.61% を達成しています。

AlpacaEvalのケーススタディ

Xwin-LMの自然言語処理基礎タスクでの性能

以下の表は、Open LLM Leaderboardにおける自然言語処理基礎タスクでのXwin-LMと他の大規模言語モデルの比較を提供しています。

💻 使用例

会話テンプレート

推論にモデルを利用する際には、所望の結果を得るために会話テンプレートに厳密に従ってください。当社のモデルはVicunaが確立したプロンプト形式を採用しており、複数ターンの会話をサポートしています。

好奇心旺盛なユーザーと人工知能アシスタントの会話。アシスタントは、ユーザーの質問に役立つ、詳細な、礼儀正しい回答を提供します。ユーザー: こんにちは！ アシスタント: こんにちは。</s>ユーザー: あなたは誰ですか？ アシスタント: 私はXwin-LMです。</s>......

HuggingFaceの例

from transformers import AutoTokenizer, AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained("Xwin-LM/Xwin-LM-7B-V0.1")
tokenizer = AutoTokenizer.from_pretrained("Xwin-LM/Xwin-LM-7B-V0.1")
(
    prompt := "好奇心旺盛なユーザーと人工知能アシスタントの会話。 "
            "アシスタントは、ユーザーの質問に役立つ、詳細な、礼儀正しい回答を提供します。 "
            "ユーザー: こんにちは、助けてくれますか？ "
            "アシスタント:"
)
inputs = tokenizer(prompt, return_tensors="pt")
samples = model.generate(**inputs, max_new_tokens=4096, temperature=0.7)
output = tokenizer.decode(samples[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True)
print(output) 
# もちろんです！お手伝いできます。質問をどうぞ、または抱えている問題を説明してください。できる限りお力になります。

vllmの例

Xwin-LMはLlama2をベースにしているため、vllmを使用した高速推論もサポートしています。詳細なインストール手順については、vllmを参照してください。

from vllm import LLM, SamplingParams
(
    prompt := "好奇心旺盛なユーザーと人工知能アシスタントの会話。 "
            "アシスタントは、ユーザーの質問に役立つ、詳細な、礼儀正しい回答を提供します。 "
            "ユーザー: こんにちは、助けてくれますか？ "
            "アシスタント:"
)
sampling_params = SamplingParams(temperature=0.7, max_tokens=4096)
llm = LLM(model="Xwin-LM/Xwin-LM-7B-V0.1")
outputs = llm.generate([prompt,], sampling_params)

for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    print(generated_text)

今後の予定

• [ ] ソースコードを公開する
• [ ] 数学、推論などのさらなる機能を公開する

引用

このリポジトリのデータまたはコードを使用する場合は、以下のように引用してください。

@software{xwin-lm,
  title = {Xwin-LM},
  author = {Xwin-LM Team},
  url = {https://github.com/Xwin-LM/Xwin-LM},
  version = {pre-release},
  year = {2023},
  month = {9},
}

謝辞

Llama 2、FastChat、AlpacaFarm、およびvllmに感謝します。

📄 ライセンス

本プロジェクトはLlama2ライセンスの下で提供されています。詳細については、Llama 2ライセンスを参照してください。