AIbase
JA
ホーム
Distilbert Mlm 250k
D

Distilbert Mlm 250k

vocab-transformersによって開発
DistilBERTはBERTの軽量蒸留版で、BERTの大部分の性能を保持しながら、パラメータ数が少なく、推論速度が速い。
大規模言語モデル
Transformers
#軽量BERT#マルチドメイン事前学習#効率的なテキスト理解
ダウンロード数 17
リリース時間 : 4/2/2022

モデル概要

DistilBERTはBERTベースの軽量言語モデルで、知識蒸留技術で訓練されている。テキスト分類、質問応答、固有表現認識など、様々な自然言語処理タスクに適している。

モデル特徴

軽量で効率的
DistilBERTは知識蒸留技術によりパラメータ数を削減しつつ、BERTの大部分の性能を保持し、推論速度が向上している。
マルチタスク対応
テキスト分類、質問応答、固有表現認識など、様々な自然言語処理タスクに対応。
事前学習モデル
複数の大規模データセット（C4、MSMARCO、Wikipedia、S2ORC、ニュースデータセット）で事前学習済み。

モデル能力

テキスト分類
質問応答システム
固有表現認識
テキスト類似度計算

使用事例

テキスト分類
感情分析
テキストの感情傾向を分析し、ポジティブ、ネガティブ、またはニュートラルかを判断。
複数の感情分析データセットで良好な性能を示す。
質問応答システム
オープンドメインQA
ユーザーの様々な質問に回答。カスタマーサービスボットやスマートアシスタントに適している。
MSMARCOなどのQAデータセットで良好な性能を示す。
固有表現認識
エンティティ抽出
テキストから人名、地名、組織名などの固有表現を識別・分類。
CoNLL-2003などのデータセットで良好な性能を示す。
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル Transformers 複数言語対応
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。
対話システム Transformers 英語
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
English简体中文繁體中文にほんご
© 2025AIbase