Ruri V3 Pt 30m

🚀 瑠璃（Ruri）：日語通用文本嵌入模型

瑠璃（Ruri） 是基於 ModernBERT-Ja 構建的通用日語文本嵌入模型，可用於句子相似度計算和特徵提取等任務。

⚠️ 重要提示

此模型為預訓練版本，尚未進行微調。如需微調版本，請使用 cl-nagoya/ruri-v3-30m！

✨ 主要特性

• 多模型尺寸：提供多種不同大小的模型，以滿足不同場景的需求。
• 廣泛應用：適用於句子相似度計算、特徵提取等自然語言處理任務。

📦 安裝指南

你可以使用 transformers 庫 v4.48.0 或更高版本直接使用我們的模型：

pip install -U "transformers>=4.48.0" sentence-transformers

此外，如果你的 GPU 支持 Flash Attention 2，我們建議使用 Flash Attention 2 運行模型：

pip install flash-attn --no-build-isolation

💻 使用示例

基礎用法

import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
model = SentenceTransformer("cl-nagoya/ruri-v3-pt-30m")

# Ruri v3 採用 1+3 前綴方案來區分不同類型的文本輸入：
# ""（空字符串）用於編碼語義信息。
# "トピック: " 用於分類、聚類和編碼主題信息。
# "検索クエリ: " 用於檢索任務中的查詢。
# "検索文書: " 用於待檢索的文檔。
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略號 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 256]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)

📚 詳細文檔

微調模型系列

Ruri v3 是基於 ModernBERT-Ja 構建的通用日語文本嵌入模型。我們提供了不同大小的 Ruri-v3 模型，以下是各模型的概要：

📄 許可證

此模型根據 Apache 許可證 2.0 版 發佈。

📖 引用

如果你使用了該模型，請引用以下 BibTeX：

@misc{
  Ruri,
  title={{Ruri: Japanese General Text Embeddings}}, 
  author={Hayato Tsukagoshi and Ryohei Sasano},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}