kobart-base-v2オープンソース韓国語言語モデル - 韓国語テキストの特徴抽出と生成を無料でサポート

ホーム

Kobart Base V2

gogamzaによって開発

KoBARTはBARTアーキテクチャに基づく韓国語エンコーダ-デコーダ言語モデルで、テキスト充填ノイズ関数で訓練され、韓国語テキストの特徴抽出と生成タスクをサポートします。

大規模言語モデル

Transformers

韓国語オープンソースライセンス:MIT #韓国語テキスト生成 #自己符号化言語モデル #テキスト充填ノイズ除去

ダウンロード数 5,937

リリース時間 : 3/2/2022

モデル概要

韓国語BARTモデルで、自己符号化器形式で訓練され、韓国語テキストの特徴抽出と生成タスクに適しています。

モデル特徴

韓国語最適化

韓国語に特化して訓練され、韓国語ウィキペディアやその他の多様な韓国語コーパスを含みます

絵文字サポート

語彙に高頻度使用される絵文字を特別に追加し、絵文字認識能力を向上させています

効率的なトークン化

文字レベルのBPEトークナイザーを使用して訓練され、トークン化効率が高い

モデル能力

韓国語テキスト特徴抽出

韓国語テキスト生成

テキスト充填

テキスト要約

使用事例

テキスト処理

感情分析

韓国語テキストの感情分類に使用

NSMCデータセットで90.24%の精度を達成

テキスト類似度計算

韓国語文章間の意味的類似度を計算

KorSTSデータセットでスピアマン係数81.66を達成

質問ペアリング

2つの韓国語質問が意味的に同じかどうかを判断

94.34%の精度を達成

🚀 kobart-base-v2 モデルカード

BART(双方向および自己回帰型トランスフォーマー)は、入力テキストの一部にノイズを追加し、それを元のテキストに戻す オートエンコーダ の形式で学習されます。韓国語版のBART(以下 KoBART)は、論文で使用された Text Infilling ノイズ関数を使用して、40GB以上の韓国語テキストに対して学習された韓国語の エンコーダ - デコーダ 言語モデルです。これにより導き出された KoBART-base を公開します。

🚀 クイックスタート

以下のコードを使用して、モデルを開始できます。

クリックして展開

from transformers import PreTrainedTokenizerFast, BartModel

tokenizer = PreTrainedTokenizerFast.from_pretrained('gogamza/kobart-base-v2')
model = BartModel.from_pretrained('gogamza/kobart-base-v2')

✨ 主な機能

このモデルは、特徴抽出タスクに使用できます。

📦 インストール

ドキュメントにインストール手順は記載されていません。

📚 ドキュメント

モデルの詳細

開発者: 詳細情報が必要です
共有者 [オプション]: Heewon(Haven) Jeon
モデルタイプ: 特徴抽出
言語 (NLP): 韓国語
ライセンス: MIT
親モデル: BART
詳細情報のリソース:
- GitHubリポジトリ
- モデルデモスペース

使用方法

直接使用

このモデルは、特徴抽出タスクに使用できます。

下流の使用 [オプション]

詳細情報が必要です。

範囲外の使用

このモデルは、人々に敵対的または疎外感を与える環境を意図的に作り出すために使用してはいけません。

バイアス、リスク、制限事項

多くの研究が、言語モデルのバイアスと公平性の問題を調査しています(例えば、Sheng et al. (2021) および Bender et al. (2021) を参照)。このモデルによって生成される予測には、保護されたクラス、アイデンティティ特性、および敏感な社会的および職業的グループにまたがる不快で有害なステレオタイプが含まれる可能性があります。