Bert Multilingual Pt Archive

🚀 葡萄牙語檔案檢索輔助模型

該模型是基於預訓練模型進行微調的成果，主要用於檔案檢索相關的任務，在評估集上展現出了較高的準確率，能為檔案信息的分類和識別提供有效的支持。

🚀 快速開始

此模型是 bert-base-multilingual-cased 在未知數據集上的微調版本。它在評估集上取得了以下成績：

• 損失值：0.1812
• 精確率：0.8624
• 召回率：0.9557
• F1值：0.9067
• 準確率：0.9618

✨ 主要特性

• 微調優化：基於多語言BERT模型進行微調，適配特定的檔案檢索任務。
• 高準確率：在評估集上達到了0.9618的準確率。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：16
• 評估批次大小：16
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 訓練輪數：3

訓練結果

框架版本

• Transformers 4.10.0.dev0
• Pytorch 1.9.0 + cu111
• Datasets 1.10.2
• Tokenizers 0.10.3

📄 許可證

本模型採用 Apache - 2.0 許可證。