Multilingual Cpv Sector Classifier

🚀 多言語CPVセクター分類器

このモデルは、bert-base-multilingual-cased を Tenders Economic Daily Public Procurement Data でファインチューニングしたバージョンです。 評価セットでは以下の結果を達成しています。

• F1スコア: 0.686

✨ 主な機能

このモデルは、104言語 のいずれかで書かれた調達説明を受け取り、CPV(Common Procurement Vocabulary) コードで表される45のセクタークラスに分類します。

🔧 技術詳細

想定される用途と制限

• 入力説明は、104言語 のいずれかで記述する必要があります。
• このモデルは22言語でのみ評価されているため、他の言語でのパフォーマンスに関する情報はありません。
• ドメインは欧州連合の調達公告説明に制限されており、全文書テキストで評価するとパフォーマンスが変わる可能性があります。

訓練と評価データ

• 全データは744,360行で構成されており、80%/20%の比率で訓練セットと検証セットに分割されています。
• 各説明は、2011年から2018年の間に契約された一意の契約公告説明を表しています。
• 訓練データと検証データの両方に、22の欧州言語で書かれた契約公告説明が含まれています。(マルタ語とアイルランド語は全体のデータと比較して少ないため除外されています)

訓練手順

訓練手順はGoogle Cloud V3 - 8 TPUで完了しました。Google がCloud TPUへのアクセスを提供してくれたことに感謝します。

訓練ハイパーパラメータ

訓練中に以下のハイパーパラメータが使用されました。

• 学習率: 2e - 05
• エポック数: 3
• 勾配累積ステップ数: 8
• デバイスごとのバッチサイズ: 4
• 総訓練バッチサイズ: 32

訓練結果

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。