extended_distilBERTオープンソースモデル - 無料デプロイで履歴書段落の正確な分類タスクを支援

Extended Distilbert Finetuned Resumes Sections

has-abiによって開発

このモデルはGeotrend/distilbert-base-en-fr-casedを未知のデータセットでファインチューニングしたバージョンで、主に履歴書の段落分類タスクに使用されます。

ダウンロード数 187

リリース時間 : 9/9/2022

モデル概要

これはファインチューニングされたDistilBERTモデルで、履歴書テキストの分類タスクに特化しています。評価セットで優れた性能を発揮し、F1値は0.9735に達しました。

効率的なファインチューニング

DistilBERTアーキテクチャに基づき、性能を維持しながらモデルサイズと計算要件を削減

多言語サポート

英語とフランス語のテキスト処理をサポート

高精度

評価セットで0.9715の精度と0.9735のF1値を達成

履歴書テキスト分類

多言語テキスト処理

効率的な推論

人事

履歴書自動分類

履歴書の異なる段落（教育背景、職務経歴など）を自動識別・分類

分類精度97.15%を達成

ドキュメント処理

構造化ドキュメント解析

非構造化の履歴書テキストを構造化データに変換

このモデルは、未知のデータセットでGeotrend/distilbert-base-en-fr-casedをファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

このモデルは、特定のタスクに対して事前学習されたモデルをファインチューニングしたものです。使用する際には、適切なデータセットとタスクに合わせて調整する必要があります。

訓練中に使用されたハイパーパラメータは以下の通りです。

訓練損失	エポック	ステップ	検証損失	F1	Roc Auc	正解率
0.0283	1.0	2213	0.0247	0.9610	0.9763	0.9539
0.0153	2.0	4426	0.0223	0.9634	0.9789	0.9593
0.01	3.0	6639	0.0199	0.9702	0.9835	0.9675
0.0073	4.0	8852	0.0218	0.9710	0.9838	0.9690
0.0063	5.0	11065	0.0244	0.9706	0.9835	0.9684
0.0037	6.0	13278	0.0251	0.9700	0.9833	0.9684
0.004	7.0	15491	0.0273	0.9712	0.9837	0.9693
0.003	8.0	17704	0.0266	0.9719	0.9841	0.9695
0.0027	9.0	19917	0.0294	0.9697	0.9831	0.9679
0.0014	10.0	22130	0.0275	0.9714	0.9844	0.9690
0.0016	11.0	24343	0.0299	0.9714	0.9839	0.9697
0.0013	12.0	26556	0.0297	0.9719	0.9852	0.9697
0.0006	13.0	28769	0.0312	0.9711	0.9843	0.9697
0.0004	14.0	30982	0.0305	0.9731	0.9849	0.9720
0.0004	15.0	33195	0.0312	0.9723	0.9845	0.9704
0.0005	16.0	35408	0.0331	0.9716	0.9843	0.9697
0.0006	17.0	37621	0.0321	0.9735	0.9850	0.9715
0.0004	18.0	39834	0.0322	0.9731	0.9850	0.9711
0.0003	19.0	42047	0.0332	0.9722	0.9847	0.9706
0.0004	20.0	44260	0.0334	0.9720	0.9846	0.9704