Blenderbot 400M Distill

🚀 オープンドメインチャットボットモデル

このプロジェクトは、オープンドメインのチャットボットを構築するための手法を提供します。適切なトレーニングデータと生成戦略を用いることで、大規模モデルが会話スキルを学習できることを示しています。

🚀 クイックスタート

本READMEを読むことで、このオープンドメインチャットボットモデルの概要と関連情報を把握できます。

📚 ドキュメント

モデルの説明

• 論文: Recipes for building an open-domain chatbot
• オリジナルのPARLAIコード

概要

オープンドメインのチャットボットを構築することは、機械学習研究において挑戦的な分野です。過去の研究では、ニューラルモデルのパラメータ数とトレーニングデータの規模を拡大することで結果が改善されることが示されていますが、本研究では、高性能なチャットボットには他の要素も重要であることを示しています。良い会話には、熟練した会話者が自然に組み合わせるいくつかのスキルが必要です。つまり、魅力的な話題を提供し、相手の話を傾聴し、質問をすると同時に答え、状況に応じて適切に知識、共感、個性を示すことです。我々は、適切なトレーニングデータと生成戦略を与えることで、大規模モデルがこれらのスキルを学習できることを示しました。我々は、90M、2.7B、9.4Bのパラメータを持つニューラルモデルを用いてこれらの手法のバリエーションを構築し、モデルとコードを公開しています。人間による評価では、我々の最良のモデルは、多ターン対話において、魅力と人間性の測定において既存のアプローチよりも優れていることが示されています。その後、我々はモデルの失敗ケースを分析することで、この研究の限界について議論しています。

📄 ライセンス

このプロジェクトは、Apache 2.0ライセンスの下で公開されています。