Just A Test

🚀 モデル名（未設定）

このモデルは文の類似度を計算するためのもので、Sentence TransformersやHuggingFace Transformersを用いて使用できます。

🚀 クイックスタート

このモデルは、文の類似度を計算するために使用されます。以下に、Sentence TransformersとHuggingFace Transformersを使用した場合の使い方を示します。

✨ 主な機能

• ベースのTransformerタイプはRobertaModelです。
• プーリング方法として平均プーリングを使用しています。

📦 インストール

sentence-transformersをインストールすることで、このモデルの使用がより便利になります。以下のコマンドを実行してインストールしてください。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

Sentence Transformersを使用する場合

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence"]

model = SentenceTransformer(TODO)
embeddings = model.encode(sentences)
print(embeddings)

HuggingFace Transformersを使用する場合

from transformers import AutoTokenizer, AutoModel
import torch

# 次のステップは、独自のプーリング関数を使用する場合にオプションです。
# 最大プーリング - 各次元について時間軸で最大値を取ります。 
def max_pooling(model_output, attention_mask):
    token_embeddings = model_output[0] # モデル出力の最初の要素にはすべてのトークン埋め込みが含まれています。
    input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
    token_embeddings[input_mask_expanded == 0] = -1e9  # パディングトークンを大きな負の値に設定します。
    max_over_time = torch.max(token_embeddings, 1)[0]
    return max_over_time

# 文の埋め込みを取得したい文
sentences = ['This is an example sentence']

# HuggingFace Hubからモデルをロード
tokenizer = AutoTokenizer.from_pretrained(TODO)
model = AutoModel.from_pretrained(TODO)

# 文をトークン化
encoded_input = tokenizer(sentences, padding=True, truncation=True, max_length=128, return_tensors='pt')

# トークン埋め込みを計算
with torch.no_grad():
    model_output = model(**encoded_input)

# プーリングを実行。この場合は最大プーリング。
sentence_embeddings = max_pooling(model_output, encoded_input['attention_mask'])

print("Sentence embeddings:")
print(sentence_embeddings)

📄 ライセンス

このモデルはcc-by-sa-4.0ライセンスの下で提供されています。