Distilbart Ftn Wiki Lingua

🚀 事前学習済みBARTモデルのWikiLinguaデータセットでのファインチューニング

このリポジトリは、wiki_linguaデータセット（英語）を使用してファインチューニングされたBARTモデル（sshleiferによる）に関するものです。このモデルは、研究目的でファインチューニングされたモデルの性能を調査するために使用されます。

🚀 クイックスタート

このリポジトリは、wiki_linguaデータセット（英語）を使用してファインチューニングされたBARTモデル（sshleiferによる）に関するものです。

✨ 主な機能

• 研究目的でのファインチューニングされたモデルの性能調査
• WikiLinguaデータセットを使用したBARTモデルのファインチューニング

📚 ドキュメント

目的

研究目的でファインチューニングされたモデルの性能を調査することです。

観察結果

• 事前学習モデルはXSumデータセットで学習されており、それはそれほど長くないドキュメントを一行の要約にまとめます。
• WikiLinguaの要約も短いため、このモデルをWikiLinguaでファインチューニングするのは適切です。
• しかし、最終的には、モデルはあまり明確な要点を捉えることができず、主に冒頭文を抽出する傾向があります。
• いくつかのデータ前処理とモデルのハイパーパラメータも、より適切に調整する必要があります。

📄 ライセンス

このプロジェクトはMITライセンスの下で提供されています。