Distilbert Srb Ner

D

Distilbert Srb Ner

Developed by Aleksandar

DistilBERTアーキテクチャに基づく軽量モデルで、セルビア語の固有表現認識タスク専用に設計され、wikiannデータセットでトレーニングされました。

シーケンスラベリング

Other#セルビア語NER #高精度固有表現認識 #DistilBERT最適化

Downloads 16

Release Time : 3/2/2022

Model Overview

このモデルはセルビア語に最適化された固有表現認識(NER)モデルで、テキスト内の人名、地名、組織名などのエンティティを識別できます。

Model Features

効率的で軽量

DistilBERTアーキテクチャを採用し、高い性能を維持しながらモデルサイズと計算要件を削減

セルビア語最適化

セルビア語専用にトレーニングされ、この言語特有の文法と語彙特徴を効果的に処理

高精度

wikiann評価セットで95.77%の精度と89.84%のF1値を達成

Model Capabilities

セルビア語テキスト処理

固有表現認識

エンティティ分類

Use Cases

自然言語処理

情報抽出

セルビア語テキストから人名、地名などのキー情報を抽出

各種エンティティを正確に識別

ドキュメント分析

セルビア語ドキュメント内のエンティティ分布と関係を分析

🚀 distilbert-srb-ner

このモデルは、wikiannデータセットを使用してゼロから学習されました。評価セットでは以下の結果を達成しています。

損失: 0.2972
適合率: 0.8871
再現率: 0.9100
F1値: 0.8984
正解率: 0.9577

📚 ドキュメント

モデルの説明

詳細情報は後日提供予定です。

想定される用途と制限

詳細情報は後日提供予定です。

学習と評価データ

詳細情報は後日提供予定です。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

学習率: 2e-05
学習バッチサイズ: 32
評価バッチサイズ: 8
乱数シード: 42
オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
学習率スケジューラーの種類: 線形
エポック数: 20

学習結果

学習損失	エポック	ステップ	検証損失	適合率	再現率	F1値	正解率
0.3818	1.0	625	0.2175	0.8175	0.8370	0.8272	0.9306
0.198	2.0	1250	0.1766	0.8551	0.8732	0.8640	0.9458
0.1423	3.0	1875	0.1702	0.8597	0.8763	0.8679	0.9473
0.079	4.0	2500	0.1774	0.8674	0.8875	0.8773	0.9515
0.0531	5.0	3125	0.2011	0.8688	0.8965	0.8825	0.9522
0.0429	6.0	3750	0.2082	0.8769	0.8970	0.8868	0.9538
0.032	7.0	4375	0.2268	0.8764	0.8916	0.8839	0.9528
0.0204	8.0	5000	0.2423	0.8726	0.8959	0.8841	0.9529
0.0148	9.0	5625	0.2522	0.8774	0.8991	0.8881	0.9538
0.0125	10.0	6250	0.2544	0.8823	0.9024	0.8922	0.9559
0.0108	11.0	6875	0.2592	0.8780	0.9041	0.8909	0.9553
0.007	12.0	7500	0.2672	0.8877	0.9056	0.8965	0.9571
0.0048	13.0	8125	0.2714	0.8879	0.9089	0.8982	0.9583
0.0049	14.0	8750	0.2872	0.8873	0.9068	0.8970	0.9573
0.0034	15.0	9375	0.2915	0.8883	0.9114	0.8997	0.9577
0.0027	16.0	10000	0.2890	0.8865	0.9103	0.8983	0.9581
0.0028	17.0	10625	0.2885	0.8877	0.9085	0.8980	0.9576
0.0014	18.0	11250	0.2928	0.8860	0.9073	0.8965	0.9577
0.0013	19.0	11875	0.2963	0.8856	0.9099	0.8976	0.9576
0.001	20.0	12500	0.2972	0.8871	0.9100	0.8984	0.9577

フレームワークのバージョン

Transformers 4.9.2
Pytorch 1.9.0
Datasets 1.11.0
Tokenizers 0.10.1

Featured Recommended AI Models

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers Supports Multiple Languages

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers English

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム Chinese

AIbase

Empowering the Future, Your AI Solution Knowledge Base

English 简体中文繁體中文にほんご

© 2025AIbase