Codeswitch Hineng Lid Lince

🚀 コードスイッチ - ヒンディー語 - 英語言語識別モデル (codeswitch-hineng-lid-lince)

このモデルは、LinCE から取得した ヒンディー語 - 英語 のコード混合データの 言語識別 用に事前学習されたモデルです。このモデルは、以下のリポジトリのために学習されています。

https://github.com/sagorbrur/codeswitch

🚀 クイックスタート

📦 インストール

codeswitch をインストールするには、以下のコマンドを実行します。

pip install codeswitch

💻 使用例

基本的な使用法

方法1

from transformers import AutoTokenizer, AutoModelForTokenClassification, pipeline

tokenizer = AutoTokenizer.from_pretrained("sagorsarker/codeswitch-hineng-lid-lince")

model = AutoModelForTokenClassification.from_pretrained("sagorsarker/codeswitch-hineng-lid-lince")
lid_model = pipeline('ner', model=model, tokenizer=tokenizer)

lid_model("put any hindi english code-mixed sentence")

方法2

from codeswitch.codeswitch import LanguageIdentification
lid = LanguageIdentification('hin-eng') 
text = "" # your code-mixed sentence 
result = lid.identify(text)
print(result)

📄 ライセンス

このプロジェクトは MIT ライセンスの下で公開されています。