ADELIE DPO 1.5B

🚀 ADELIE - DPO - 1.5Bのモデルカード

ADELIE（Aligning large language moDELs on Information Extraction）は、クローズドIE、オープンIE、オンデマンドIEを含む様々な情報抽出（IE）タスクを効果的に解決するアラインメントされた大規模言語モデル（LLM）です。まず、IE用の高品質なアラインメントコーパスIEInstructを収集・構築しました。そして、IEInstructを使って命令微調整（instruction tuning）でADELIE_SFTを訓練します。さらに、直接嗜好最適化（DPO）の目的でADELIE_SFTを訓練し、ADELIE_DPOを得ます。様々なIEデータセットでの広範な実験により、当社のモデル（ADELIE_SFTとADELIE_DPO）がオープンソースモデルの中で最先端（SoTA）の性能を達成していることが示されています。また、ADELIEの一般的な能力も調査し、実験結果からそれらの一般的な能力に顕著な低下は見られないことが明らかになりました。

• 📄 論文: ADELIE: Aligning Large Language Models on Information Extraction
• 🌐 GitHub: THU/ADELIE

📊 モデルの性能

以下の表は、ADELIEモデルのクローズドIE、オープンIE、オンデマンドIEタスクにおける平均F1スコア（%）と、一般的なベンチマークでの全体的な性能（%）を示しています。データセットの詳細については、論文を参照してください。

📚 モデルの詳細

データセット

• ACE05
• conll2003
• conll2012_ontonotesv5
• rams
• tacred
• fewrel
• maven

言語

• en

評価指標

• f1

パイプラインタグ

• text - generation

タグ

• text - generation - inference
• Information Extraction
• IE
• Named Entity Recogniton
• Event Extraction
• Relation Extraction
• LLaMA