Bert Medium Arabic
約82億語のアラビア語テキストリソースを基に訓練された事前学習済みのアラビア語BERT中型言語モデル
ダウンロード数 66
リリース時間 : 3/2/2022
モデル概要
このモデルは事前学習済みのアラビア語BERT中型言語モデルで、主に自然言語処理タスク、例えばテキスト分類、固有表現認識などに使用されます。
モデル特徴
多ソース訓練データ
OSCARアラビア語版やウィキペディアなどの多ソースのアラビア語テキストリソースを基に訓練され、合計約95GBです。
方言対応
現代標準アラビア語だけでなく、一部の方言アラビア語も含まれています。
最適化訓練
訓練パラメータの調整:総ステップ数300万(バッチサイズ=128)で、オリジナルのBERTの100万ステップ(バッチサイズ=256)ではなくなりました。
モデル能力
テキスト分類
固有表現認識
テキスト生成
言語理解
使用事例
ソーシャルメディア分析
侮辱的な発言の識別
ソーシャルメディア上の侮辱的な発言を識別するために使用されます。
SemEval - 2020タスク12で良好な結果を示しました。
自然言語処理
テキスト分類
アラビア語テキストの分類タスクに使用されます。
固有表現認識
アラビア語テキスト中の固有表現を識別するために使用されます。
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98