Paraphrase Spanish Distilroberta

🚀 paraphrase-spanish-distilroberta

このモデルはsentence-transformersを使用したもので、文章や段落を768次元の密ベクトル空間にマッピングし、クラスタリングや意味検索などのタスクに使用できます。

私たちは、並列の英語 - スペイン語の文章ペアを用いて、教師 - 学生の転移学習アプローチに従ってbertin-roberta-base-spanishモデルを訓練しています。

🚀 クイックスタート

📦 インストール

sentence-transformersをインストールすると、このモデルを簡単に使用できます。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

from sentence_transformers import SentenceTransformer
sentences = ["Este es un ejemplo", "Cada oración es transformada"]

model = SentenceTransformer('hackathon-pln-es/paraphrase-spanish-distilroberta')
embeddings = model.encode(sentences)
print(embeddings)

高度な使用法

sentence-transformersを使用せずに、以下のようにモデルを使用できます。まず、入力をトランスフォーマーモデルに通し、その後、文脈化された単語埋め込みに対して適切なプーリング操作を適用する必要があります。

from transformers import AutoTokenizer, AutoModel
import torch
import torch.nn.functional as F

#Mean Pooling - Take attention mask into account for correct averaging
def mean_pooling(model_output, attention_mask):
    token_embeddings = model_output[0] #First element of model_output contains all token embeddings
    input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
    return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)


# Sentences we want sentence embeddings for
sentences = ['Este es un ejemplo", "Cada oración es transformada']

# Load model from HuggingFace Hub
tokenizer = AutoTokenizer.from_pretrained('hackathon-pln-es/paraphrase-spanish-distilroberta')
model = AutoModel.from_pretrained('hackathon-pln-es/paraphrase-spanish-distilroberta')

# Tokenize sentences
encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')

# Compute token embeddings
with torch.no_grad():
    model_output = model(**encoded_input)

# Perform pooling
sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])

# Normalize embeddings
sentence_embeddings = F.normalize(sentence_embeddings, p=2, dim=1)

print("Sentence embeddings:")
print(sentence_embeddings)

📚 詳細ドキュメント

モデルアーキテクチャ

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False})
)

評価結果

STS-2017.es-en.txtとSTS-2017.es-es.txt（評価目的で手動翻訳）における類似性評価を行いました。異なる言語の文章ペア間の意味的な文章類似性（STS）を測定しました。

ES - ES

ES - EN

想定される用途

このモデルは、文章や短い段落のエンコーダとして使用することを想定しています。入力テキストが与えられると、意味情報を捉えたベクトルを出力します。この文章ベクトルは、情報検索、クラスタリング、文章類似性タスクに使用できます。

背景

このモデルは、論文Making Monolingual Sentence Embeddings Multilingual using Knowledge DistillationとそのPythonパッケージに付属するドキュメントの指示に従って訓練された、バイリンガル（スペイン語 - 英語）のモデルです。最も強力な事前学習済みの英語バイエンコーダ（paraphrase-mpnet-base-v2）を教師モデルとして、事前学習済みのスペイン語のBERTINを学生モデルとして使用しています。

このモデルは、Hackathon 2022 NLP - Spanish（hackathon-pln-es Organizationによって主催された）の間に開発されました。

訓練データ

複数の文章ペア（EN - ES）のデータセットを連結して使用しています。訓練時に使用されたデータセットはparallel-sentencesを参照できます。

作成者

• Anibal Pérez
• Emilio Tomás Ariza
• Lautaro Gesuelli Pinto
• Mauricio Mazuecos