Zero Shot Vanilla Binary Bert

🚀 Zero-shot Vanilla Binary BERT

このモデルは、ACL'23 Paperの Label Agnostic Pre-training for Zero-shot Text Classification で紹介されたBERTモデルです。著者は Christopher Clarke, Yuzhao Heng, Yiping Kang, Krisztian Flautner, Lingjia Tang and Jason Mars です。このモデルの学習と評価のコードはこちらで確認できます。

🚀 クイックスタート

このモデルは、ゼロショットテキスト分類に使用されます。バイナリ分類フレームワークの下、アスペクト正規化されたUTCDデータセットを使用してベースラインとして学習されました。

✨ 主な機能

• ゼロショットテキスト分類に特化したモデルです。
• バイナリ分類フレームワークを用いて学習されています。

📦 インストール

まず、Pythonパッケージをインストールします。

pip install zeroshot-classifier

💻 使用例

基本的な使用法

>>> from zeroshot_classifier.models import BinaryBertCrossEncoder
>>> model = BinaryBertCrossEncoder(model_name='claritylab/zero-shot-vanilla-binary-bert')

>>> text = "I'd like to have this track onto my Classical Relaxations playlist."
>>> labels = [
>>>     'Add To Playlist', 'Book Restaurant', 'Get Weather', 'Play Music', 'Rate Book', 'Search Creative Work',
>>>     'Search Screening Event'
>>> ]

>>> query = [[text, lb] for lb in labels]
>>> logits = model.predict(query, apply_softmax=True)
>>> print(logits)

[[1.1909954e-04 9.9988091e-01]
 [9.9997509e-01 2.4927122e-05]
 [9.9997497e-01 2.5082643e-05]
 [2.4483365e-04 9.9975520e-01]
 [9.9996781e-01 3.2211588e-05]
 [9.9985993e-01 1.4002046e-04]
 [9.9976152e-01 2.3845369e-04]]

📚 ドキュメント

• 微調整元のモデル: bert-base-uncased

📄 ライセンス

このモデルはMITライセンスの下で提供されています。