Ruri Large V2

🚀 瑠璃（Ruri）：日本語汎用テキスト埋め込みモデル

このモデルは、日本語の文章の類似度計算や特徴抽出に特化しており、高い精度と性能を提供します。

🚀 クイックスタート

注意: v3モデルがリリースされました！
今後は以下のv3モデルの使用をおすすめします。

✨ 主な機能

• 文章の類似度計算に特化したSentence Transformerモデル。
• 日本語の文章に対して高精度な特徴抽出が可能。

📦 インストール

まず、Sentence Transformersライブラリをインストールします。

pip install -U sentence-transformers fugashi sentencepiece unidic-lite

💻 使用例

基本的な使用法

import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("cl-nagoya/ruri-large-v2")

# Don't forget to add the prefix "クエリ: " for query-side or "文章: " for passage-side texts.
sentences = [
    "クエリ: 瑠璃色はどんな色？",
    "文章: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略号 dp-pB）と定義している[1][2]。",
    "クエリ: ワシやタカのように、鋭いくちばしと爪を持った大型の鳥類を総称して「何類」というでしょう?",
    "文章: ワシ、タカ、ハゲワシ、ハヤブサ、コンドル、フクロウが代表的である。これらの猛禽類はリンネ前後の時代(17~18世紀)には鷲類・鷹類・隼類及び梟類に分類された。ちなみにリンネは狩りをする鳥を単一の目(もく)にまとめ、vultur(コンドル、ハゲワシ)、falco(ワシ、タカ、ハヤブサなど)、strix(フクロウ)、lanius(モズ)の4属を含めている。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [4, 1024]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
# [[1.0000, 0.9525, 0.6462, 0.6736],
#  [0.9525, 1.0000, 0.6442, 0.6690],
#  [0.6462, 0.6442, 1.0000, 0.9046],
#  [0.6736, 0.6690, 0.9046, 1.0000]]

📚 ドキュメント

JMTEBベンチマーク

JMTEBで評価された結果です。

モデル詳細

モデル説明

完全なモデルアーキテクチャ

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

フレームワークバージョン

• Python: 3.10.13
• Sentence Transformers: 3.0.0
• Transformers: 4.41.2
• PyTorch: 2.3.1+cu118
• Accelerate: 0.30.1
• Datasets: 2.19.1
• Tokenizers: 0.19.1

🔧 技術詳細

このモデルは、Sentence Transformerをベースに構築されており、日本語の文章に対して高精度な特徴抽出が可能です。モデルの学習には、cl-nagoya/ruri-dataset-v2-ft データセットが使用されています。

📄 ライセンス

このモデルは、Apache License, Version 2.0の下で公開されています。

📚 引用

@misc{
  Ruri,
  title={{Ruri: Japanese General Text Embeddings}}, 
  author={Hayato Tsukagoshi and Ryohei Sasano},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}