Zero Shot Implicit Binary Bert

🚀 Zero-shot Implicit Binary BERT

このモデルは、ACL'23の論文「Label Agnostic Pre-training for Zero-shot Text Classification」（著者: Christopher Clarke, Yuzhao Heng, Yiping Kang, Krisztian Flautner, Lingjia Tang, Jason Mars）で紹介されたBERTモデルです。このモデルの学習と評価のコードはこちらで確認できます。

🚀 クイックスタート

このセクションでは、Zero-shot Implicit Binary BERTモデルの基本的な使い方を説明します。

✨ 主な機能

• ゼロショットテキスト分類に特化したモデルです。
• アスペクト正規化されたUTCDデータセットを使用して、二値分類フレームワークの下で暗黙的な学習を行っています。

📦 インストール

まず、Pythonパッケージをインストールします。

pip install zeroshot-classifier

💻 使用例

基本的な使用法

>>> from zeroshot_classifier.models import BinaryBertCrossEncoder
>>> model = BinaryBertCrossEncoder(model_name='claritylab/zero-shot-implicit-binary-bert')

>>> text = "I'd like to have this track onto my Classical Relaxations playlist."
>>> labels = [
>>>     'Add To Playlist', 'Book Restaurant', 'Get Weather', 'Play Music', 'Rate Book', 'Search Creative Work',
>>>     'Search Screening Event'
>>> ]
>>> aspect = 'intent'
>>> aspect_sep_token = model.tokenizer.additional_special_tokens[0]
>>> text = f'{aspect} {aspect_sep_token} {text}'

>>> query = [[text, lb] for lb in labels]
>>> logits = model.predict(query, apply_softmax=True)
>>> print(logits)

[[7.3497969e-04 9.9926502e-01]
 [9.9988127e-01 1.1870124e-04]
 [9.9988961e-01 1.1033980e-04]
 [1.9227572e-03 9.9807727e-01]
 [9.9985313e-01 1.4685343e-04]
 [9.9938977e-01 6.1021477e-04]
 [9.9838030e-01 1.6197052e-03]]

📚 ドキュメント

モデルの説明

このモデルは、ゼロショットテキスト分類を目的としています。アスペクト正規化されたUTCDデータセットを使用して、二値分類フレームワークの下で暗黙的な学習を行っています。

• ファインチューニング元のモデル: bert-base-uncased

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。