Inclusively Reformulation It5

🚀 インクルーシブリライトモデル

このモデルは、イタリア語の文章をよりインクルーシブな表現に書き換えるタスクで、IT5-large からファインチューニングされたシーケンス-to-シーケンスモデルです。

イタリア語の文章を分析し、必要に応じてよりインクルーシブな文章に書き換えるように学習されています。

例えば、I professori devono essere preparati（教授たちは準備が必要です）という文章は、Il personale docente deve essere preparato（教職員は準備が必要です）と書き換えられます。

📦 訓練データ

このモデルは、合計4705組の文章ペアを含むデータセットで訓練されています。各ペアには、インクルーシブな文章と非インクルーシブな文章が含まれています。データセットは以下のように分割されています。

• 訓練セット: 3764組
• 検証セット: 470組
• テストセット: 471組

また、テストセットでのモデルの性能を向上させるために、一連のルールを使用して生成された少量の合成データも利用しています。 訓練は合計3764 + 75 = 3839組のデータで行われています。

データ収集は、インクルーシブ言語の分野の専門家によって手動でアノテーション付けされています（データセットはまだ公開されていません）。

🔧 訓練手順

このモデルは、イタリア語のBERTモデル から以下のハイパーパラメータを使用してファインチューニングされています。

• max_length: 128
• batch_size: 8
• learning_rate: 5e-5
• warmup_steps: 500
• epochs: 25（検証用の BLEU スコアに基づいて最適なモデルが選択されます）
• optimizer: AdamW

📊 評価結果

このモデルはテストセットで評価され、以下の結果を得ました。

指標の (L) は「値が低いほど良い」ことを示しています。 合成データを使用しない同じバージョンのモデルとの比較から、合成データがテストセットでのモデルの性能向上に役立つことがわかります。 他の比較は論文で確認できます。

📖 引用

このモデルを使用する場合は、以下の論文を引用してください。

メイン論文:

@article{10.1145/3729237,
author = {Greco, Salvatore and La Quatra, Moreno and Cagliero, Luca and Cerquitelli, Tania},
title = {Towards AI-Assisted Inclusive Language Writing in Italian Formal Communications},
year = {2025},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {2157-6904},
url = {https://doi.org/10.1145/3729237},
doi = {10.1145/3729237},
note = {Just Accepted},
journal = {ACM Trans. Intell. Syst. Technol.},
month = apr,
}

デモ論文:

@InProceedings{PKDD23_inclusively,
author="La Quatra, Moreno
and Greco, Salvatore
and Cagliero, Luca
and Cerquitelli, Tania",
title="Inclusively: An AI-Based Assistant for Inclusive Writing",
booktitle="Machine Learning and Knowledge Discovery in Databases: Applied Data Science and Demo Track",
year="2023",
publisher="Springer Nature Switzerland",
address="Cham",
pages="361--365",
isbn="978-3-031-43430-3",
doi="10.1007/978-3-031-43430-3_31"
}

📄 ライセンス

このモデルは、CC BY-NC-SA 4.0ライセンスの下で提供されています。