🚀 瑠璃(Ruri):日语通用文本嵌入模型
瑠璃(Ruri)是用于日语通用文本嵌入的模型,可进行句子相似度计算和特征提取。它有不同参数规模的版本可供选择,在JMTEB基准测试中表现出色。
🚀 快速开始
安装依赖
首先,你需要安装Sentence Transformers
库及其相关依赖:
pip install -U sentence-transformers fugashi sentencepiece unidic-lite
加载模型并进行推理
安装完成后,你可以加载模型并进行推理:
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("cl-nagoya/ruri-large")
sentences = [
"クエリ: 瑠璃色はどんな色?",
"文章: 瑠璃色(るりいろ)は、紫みを帯びた濃い青。名は、半貴石の瑠璃(ラピスラズリ、英: lapis lazuli)による。JIS慣用色名では「こい紫みの青」(略号 dp-pB)と定義している[1][2]。",
"クエリ: ワシやタカのように、鋭いくちばしと爪を持った大型の鳥類を総称して「何類」というでしょう?",
"文章: ワシ、タカ、ハゲワシ、ハヤブサ、コンドル、フクロウが代表的である。これらの猛禽類はリンネ前後の時代(17~18世紀)には鷲類・鷹類・隼類及び梟類に分類された。ちなみにリンネは狩りをする鳥を単一の目(もく)にまとめ、vultur(コンドル、ハゲワシ)、falco(ワシ、タカ、ハヤブサなど)、strix(フクロウ)、lanius(モズ)の4属を含めている。",
]
embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
✨ 主要特性
多版本可选
目前已经发布了v3版本的模型,推荐使用以下v3模型:
基准测试表现出色
在JMTEB基准测试中,Ruri模型在多个指标上表现优异:
📚 详细文档
模型详情
属性 |
详情 |
模型类型 |
Sentence Transformer |
基础模型 |
cl-nagoya/ruri-pt-large |
最大序列长度 |
512 tokens |
输出维度 |
1024 |
相似度函数 |
余弦相似度 |
语言 |
日语 |
许可证 |
Apache 2.0 |
论文 |
https://arxiv.org/abs/2409.07737 |
完整模型架构
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)
框架版本
- Python: 3.10.13
- Sentence Transformers: 3.0.0
- Transformers: 4.41.2
- PyTorch: 2.3.1+cu118
- Accelerate: 0.30.1
- Datasets: 2.19.1
- Tokenizers: 0.19.1
📄 许可证
本模型基于 Apache License, Version 2.0 许可协议发布。
📖 引用
如果你使用了本模型,请引用以下论文:
@misc{
Ruri,
title={{Ruri: Japanese General Text Embeddings}},
author={Hayato Tsukagoshi and Ryohei Sasano},
year={2024},
eprint={2409.07737},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2409.07737},
}