Twitter4sse

🚀 Twitter4SSE

このモデルは、テキストを768次元の密な埋め込みに変換し、意味的な類似性をエンコードします。 これは、Twitterデータセット上でMultiple Negatives Ranking Loss (MNRL) を使用して学習されました。 BERTweet から初期化され、Sentence-transformers を使用して学習されました。

🚀 クイックスタート

このモデルは、sentence-transformers ライブラリを使うと簡単に利用できます。

📦 インストール

pip install -U sentence-transformers

💻 使用例

基本的な使用法

from sentence_transformers import SentenceTransformer
sentences = ["This is the first tweet", "This is the second tweet"]

model = SentenceTransformer('digio/Twitter4SSE')
embeddings = model.encode(sentences)
print(embeddings)

sentence-transformers ライブラリを使用しない場合、Huggingface上でSentence Transformersを使用する詳細な手順については、このリポジトリ を参照してください。

📚 ドキュメント

引用と著者

公式論文 Exploiting Twitter as Source of Large Corpora of Weakly Similar Pairs for Semantic Sentence Embeddings は、EMNLP 2021で発表されます。詳細は近日公開されます。

@inproceedings{di-giovanni-brambilla-2021-exploiting,
    title = "Exploiting {T}witter as Source of Large Corpora of Weakly Similar Pairs for Semantic Sentence Embeddings",
    author = "Di Giovanni, Marco  and
      Brambilla, Marco",
    booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
    month = nov,
    year = "2021",
    address = "Online and Punta Cana, Dominican Republic",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.emnlp-main.780",
    pages = "9902--9910",
}

公式コードは GitHub で入手できます。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。