🚀 HindSBERT
HindSBERT是一個在NLI數據集上訓練的HindBERT模型(l3cube - pune/hindi - bert - v2)。它是MahaNLP項目的一部分,項目鏈接:https://github.com/l3cube-pune/MarathiNLP 。該模型的多語言版本支持主要的印度語言和跨語言能力,可在此處查看 indic - sentence - bert - nli 。
一個更好的句子相似度模型(此模型的微調版本)可在此處查看:https://huggingface.co/l3cube-pune/hindi-sentence-similarity-sbert 。
有關數據集、模型和基線結果的更多詳細信息,請參閱我們的 論文 。
🚀 快速開始
模型信息
屬性 |
詳情 |
模型類型 |
句子相似度模型 |
訓練數據 |
NLI數據集 |
許可證 |
CC - BY - 4.0 |
使用示例
示例1
- 源句子:"एक आदमी एक रस्सी पर चढ़ रहा है"
- 對比句子:
- "एक आदमी एक रस्सी पर चढ़ता है"
- "एक आदमी एक दीवार पर चढ़ रहा है"
- "एक आदमी बांसुरी बजाता है"
示例2
- 源句子:"कुछ लोग गा रहे हैं"
- 對比句子:
- "लोगों का एक समूह गाता है"
- "बिल्ली दूध पी रही है"
- "दो आदमी लड़ रहे हैं"
示例3
- 源句子:"फेडरर ने 7वां विंबलडन खिताब जीत लिया है"
- 對比句子:
- "फेडरर अपने करियर में कुल 20 ग्रैंडस्लैम खिताब जीत चुके है "
- "फेडरर ने सितंबर में अपने निवृत्ति की घोषणा की"
- "एक आदमी कुछ खाना पकाने का तेल एक बर्तन में डालता है"
📦 安裝指南
如果你安裝了 sentence - transformers ,使用此模型會很容易:
pip install -U sentence-transformers
💻 使用示例
基礎用法(Sentence - Transformers)
from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]
model = SentenceTransformer('{MODEL_NAME}')
embeddings = model.encode(sentences)
print(embeddings)
基礎用法(HuggingFace Transformers)
如果沒有安裝 sentence - transformers ,可以按以下方式使用該模型:首先,將輸入傳遞給transformer模型,然後對上下文詞嵌入應用正確的池化操作。
from transformers import AutoTokenizer, AutoModel
import torch
def cls_pooling(model_output, attention_mask):
return model_output[0][:,0]
sentences = ['This is an example sentence', 'Each sentence is converted']
tokenizer = AutoTokenizer.from_pretrained('{MODEL_NAME}')
model = AutoModel.from_pretrained('{MODEL_NAME}')
encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')
with torch.no_grad():
model_output = model(**encoded_input)
sentence_embeddings = cls_pooling(model_output, encoded_input['attention_mask'])
print("Sentence embeddings:")
print(sentence_embeddings)
📚 詳細文檔
相關論文
其他單語言印度句子BERT模型
其他單語言相似度模型
📄 許可證
本模型使用的許可證為CC - BY - 4.0。
BibTeX引用
@article{joshi2022l3cubemahasbert,
title={L3Cube-MahaSBERT and HindSBERT: Sentence BERT Models and Benchmarking BERT Sentence Representations for Hindi and Marathi},
author={Joshi, Ananya and Kajale, Aditi and Gadre, Janhavi and Deode, Samruddhi and Joshi, Raviraj},
journal={arXiv preprint arXiv:2211.11187},
year={2022}
}