Full Sentence Distillroberta3

🚀 モデル名（未設定）

このモデルは文の類似度を計算するためのものですが、詳細な説明は未提供です。

🚀 クイックスタート

このモデルは、文の類似度を計算するために使用できます。以下に、異なるライブラリを使用した使用方法を示します。

✨ 主な機能

• ベースのTransformerタイプはRobertaModelです。
• プーリング方法として平均プーリングを使用しています。

📦 インストール

sentence-transformersをインストールすることで、このモデルの使用が便利になります。以下のコマンドを実行してインストールしてください。

pip install -U sentence-transformers

💻 使用例

基本的な使用法（Sentence-Transformers）

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence"]

model = SentenceTransformer(TODO)
embeddings = model.encode(sentences)
print(embeddings)

高度な使用法（HuggingFace Transformers）

from transformers import AutoTokenizer, AutoModel
import torch

# 次のステップは、独自のプーリング関数を使用する場合にオプションです。
# 最大プーリング - すべての次元に対して時間の最大値を取得します。 
def max_pooling(model_output, attention_mask):
    token_embeddings = model_output[0] #First element of model_output contains all token embeddings
    input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
    token_embeddings[input_mask_expanded == 0] = -1e9  # Set padding tokens to large negative value
    max_over_time = torch.max(token_embeddings, 1)[0]
    return max_over_time

# 文の埋め込みを取得したい文
sentences = ['This is an example sentence']

# HuggingFace Hubからモデルをロード
tokenizer = AutoTokenizer.from_pretrained(TODO)
model = AutoModel.from_pretrained(TODO)

# 文をトークナイズ
encoded_input = tokenizer(sentences, padding=True, truncation=True, max_length=128, return_tensors='pt')

# トークンの埋め込みを計算
with torch.no_grad():
    model_output = model(**encoded_input)

# プーリングを実行。この場合は最大プーリング。
sentence_embeddings = max_pooling(model_output, encoded_input['attention_mask'])

print("Sentence embeddings:")
print(sentence_embeddings)

📚 詳細ドキュメント

モデルの詳細

• ベースのTransformerタイプ: RobertaModel
• プーリング方法: 平均プーリング

📄 ライセンス

このモデルはcc-by-sa-4.0ライセンスの下で提供されています。