Ruri V3 310m

🚀 Ruri：日語通用文本嵌入模型

Ruri v3 是一個基於 ModernBERT-Ja 構建的通用日語文本嵌入模型。它為日語文本嵌入任務提供了先進的技術解決方案，具有以下顯著優勢：

• 卓越性能：在日語文本嵌入任務中表現出色。
• 長序列支持：支持長達 8192 個標記的序列長度，而之前的 Ruri 版本（v1、v2）僅支持 512 個標記。
• 豐富詞彙：擁有 100K 標記的擴展詞彙表，相比 v1 和 v2 的 32K 有顯著提升，使輸入序列更短，提高了效率。
• 快速推理：集成了 FlashAttention，遵循 ModernBERT 架構，實現了更快的推理和微調。
• 高效分詞：僅基於 SentencePiece 的分詞器，無需外部分詞工具，與之前依賴特定日語 BERT 分詞器的版本不同。

🚀 快速開始

你可以使用 transformers 庫（版本 4.48.0 或更高）直接使用我們的模型。

pip install -U "transformers>=4.48.0" sentence-transformers

此外，如果你的 GPU 支持 Flash Attention 2，我們建議使用它來加速模型推理和微調。

pip install flash-attn --no-build-isolation

然後，你可以加載模型並進行推理。

import torch
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
device = "cuda" if torch.cuda.is_available() else "cpu"
model = SentenceTransformer("cl-nagoya/ruri-v3-310m", device=device)

# Ruri v3 採用 1+3 前綴方案來區分不同類型的文本輸入：
# ""（空字符串）用於編碼語義含義。
# "トピック: " 用於分類、聚類和編碼主題信息。
# "検索クエリ: " 用於檢索任務中的查詢。
# "検索文書: " 用於待檢索的文檔。
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略號 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 768]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
# [[1.0000, 0.9603, 0.8157, 0.7074, 0.6916],
#  [0.9603, 1.0000, 0.8192, 0.7014, 0.6819],
#  [0.8157, 0.8192, 1.0000, 0.8701, 0.8470],
#  [0.7074, 0.7014, 0.8701, 1.0000, 0.9746],
#  [0.6916, 0.6819, 0.8470, 0.9746, 1.0000]]

✨ 主要特性

• 最先進的性能：在日語文本嵌入任務中表現卓越。
• 長序列支持：支持長達 8192 個標記的序列長度。
• 擴展詞彙表：擁有 100K 標記的詞彙表，提高了效率。
• 集成 FlashAttention：實現更快的推理和微調。
• 僅使用 SentencePiece 分詞器：無需外部分詞工具。

📦 安裝指南

安裝依賴庫

pip install -U "transformers>=4.48.0" sentence-transformers

安裝 Flash Attention 2（可選）

pip install flash-attn --no-build-isolation

💻 使用示例

基礎用法

import torch
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
device = "cuda" if torch.cuda.is_available() else "cpu"
model = SentenceTransformer("cl-nagoya/ruri-v3-310m", device=device)

# Ruri v3 採用 1+3 前綴方案來區分不同類型的文本輸入：
# ""（空字符串）用於編碼語義含義。
# "トピック: " 用於分類、聚類和編碼主題信息。
# "検索クエリ: " 用於檢索任務中的查詢。
# "検索文書: " 用於待檢索的文檔。
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略號 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 768]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
# [[1.0000, 0.9603, 0.8157, 0.7074, 0.6916],
#  [0.9603, 1.0000, 0.8192, 0.7014, 0.6819],
#  [0.8157, 0.8192, 1.0000, 0.8701, 0.8470],
#  [0.7074, 0.7014, 0.8701, 1.0000, 0.9746],
#  [0.6916, 0.6819, 0.8470, 0.9746, 1.0000]]

📚 詳細文檔

模型系列

我們提供了不同大小的 Ruri-v3 模型。以下是每個模型的摘要：

基準測試

JMTEB

使用 JMTEB 進行評估。

模型詳情

模型描述

完整模型架構

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

🔧 技術細節

Ruri v3 基於 ModernBERT-Ja 構建，具有以下技術優勢：

• 長序列支持：支持長達 8192 個標記的序列長度，相比之前的版本有顯著提升。
• 擴展詞彙表：擁有 100K 標記的詞彙表，使輸入序列更短，提高了效率。
• 集成 FlashAttention：遵循 ModernBERT 的架構，實現了更快的推理和微調。
• 僅使用 SentencePiece 分詞器：無需外部分詞工具，簡化了輸入處理流程。

📄 許可證

本模型根據 Apache 許可證 2.0 版 發佈。

引用

@misc{
  Ruri,
  title={{Ruri: Japanese General Text Embeddings}}, 
  author={Hayato Tsukagoshi and Ryohei Sasano},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}