Gte Multilingual Base V2.1 Similarity

🚀 基于BookingCare/gte-multilingual-base-v2.1的句子转换器

这是一个基于sentence-transformers的模型，它在训练和测试数据集上对BookingCare/gte-multilingual-base-v2.1进行了微调。该模型可以将句子和段落映射到一个768维的密集向量空间，可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等任务。

✨ 主要特性

• 基于BookingCare/gte-multilingual-base-v2.1模型进行微调，适用于多语言场景。
• 能够将文本转换为768维的向量，方便进行语义相似度计算。
• 在Triplet任务上表现出色，余弦准确率达到0.969。

📦 安装指南

首先，安装Sentence Transformers库：

pip install -U sentence-transformers

💻 使用示例

基础用法

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载模型
model = SentenceTransformer("BookingCare/gte-multilingual-base-v2.1-similarity")
# 运行推理
sentences = [
    'Tôi muốn tìm hiểu về dịch vụ khám chữa bệnh tại phòng khám đa khoa Cầu Giấy.',
    'Cho tôi biết thông tin về phòng khám đa khoa Cầu Giấy, cụ thể là dịch vụ khám chữa bệnh.',
    'Những dịch vụ y tế nào được cung cấp tại bệnh viện Đa khoa Hà Nội?',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

📚 详细文档

模型详情

模型描述

模型来源

• 文档：Sentence Transformers Documentation
• 仓库：Sentence Transformers on GitHub
• Hugging Face：Sentence Transformers on Hugging Face

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: NewModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

评估

指标

训练详情

训练数据集

• train：

  • 数据集：train at 54473e6
  • 大小：46,571个训练样本
  • 列：query、answer和negative
  • 基于前1000个样本的近似统计信息：

    	查询	答案	负样本
    类型	字符串	字符串	字符串
    详情	最小：3个标记 平均：19.92个标记 最大：72个标记	最小：9个标记 平均：21.43个标记 最大：75个标记	最小：9个标记 平均：20.46个标记 最大：58个标记

  • 样本：

    查询	答案	负样本
    Các bác sĩ đã đề nghị phẫu thuật để điều trị bệnh nhân bị ung thư gan giai đoạn cuối.	Bệnh nhân bị ung thư gan giai đoạn cuối đã được bác sĩ đề nghị phẫu thuật.	Bệnh nhân được chẩn đoán mắc bệnh ung thư giai đoạn cuối, và cơ hội phục hồi là rất thấp.
    Cơn đau đầu của tôi bắt đầu vào sáng nay và đã trở nên tồi tệ hơn trong suốt cả ngày.	Tôi đã phải chịu đựng cơn đau đầu dữ dội suốt cả ngày, bắt đầu từ sáng sớm.	Tôi bị đau đầu nghiêm trọng, nên làm gì?
    Mẹ tôi phải nhập viện vì bệnh tim.	Mẹ tôi bị bệnh tim và phải nhập viện để điều trị.	Bệnh nhân đã được chẩn đoán mắc bệnh tim trước đây.

  • 损失函数：TripletLoss，参数如下：

    {
        "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
        "triplet_margin": 5
    }
    

• test：

  • 数据集：test at 54473e6
  • 大小：46,571个训练样本
  • 列：query、answer和negative
  • 基于前1000个样本的近似统计信息：

    	查询	答案	负样本
    类型	字符串	字符串	字符串
    详情	最小：3个标记 平均：20.12个标记 最大：62个标记	最小：9个标记 平均：21.51个标记 最大：54个标记	最小：9个标记 平均：20.19个标记 最大：56个标记

  • 样本：

    查询	答案	负样本
    Tôi cần tìm hiểu về bệnh u nang buồng trứng, triệu chứng, phương pháp điều trị và những lưu ý	Cho tôi biết thông tin về bệnh u nang buồng trứng, bao gồm các triệu chứng, cách điều trị và những điểm cần chú ý	Cho tôi thông tin về bệnh ung thư vú
    Tôi muốn tìm hiểu về các loại thuốc trị bệnh dạ dày	Cho tôi biết thông tin về thuốc điều trị bệnh dạ dày	Làm ơn cho tôi biết về các loại thuốc điều trị bệnh tiểu đường
    Viêm khớp tâm bình có thể bị thu hồi hoàn toàn không?	Liệu viêm khớp tâm bình có thể khỏi hẳn hay không?	Viêm khớp dạng thấp có khả năng chữa khỏi hoàn toàn hay không?

  • 损失函数：TripletLoss，参数如下：

    {
        "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
        "triplet_margin": 5
    }
    

评估数据集

• sts-hard-negatives：
  • 数据集：sts-hard-negatives at 54473e6
  • 大小：46,571个评估样本
  • 列：query、answer和negative
  • 基于前1000个样本的近似统计信息：

    	查询	答案	负样本
    类型	字符串	字符串	字符串
    详情	最小：3个标记 平均：20.12个标记 最大：62个标记	最小：9个标记 平均：21.51个标记 最大：54个标记	最小：9个标记 平均：20.19个标记 最大：56个标记

  • 样本：

    查询	答案	负样本
    Tôi cần tìm hiểu về bệnh u nang buồng trứng, triệu chứng, phương pháp điều trị và những lưu ý	Cho tôi biết thông tin về bệnh u nang buồng trứng, bao gồm các triệu chứng, cách điều trị và những điểm cần chú ý	Cho tôi thông tin về bệnh ung thư vú
    Tôi muốn tìm hiểu về các loại thuốc trị bệnh dạ dày	Cho tôi biết thông tin về thuốc điều trị bệnh dạ dày	Làm ơn cho tôi biết về các loại thuốc điều trị bệnh tiểu đường
    Viêm khớp tâm bình có thể bị thu hồi hoàn toàn không?	Liệu viêm khớp tâm bình có thể khỏi hẳn hay không?	Viêm khớp dạng thấp có khả năng chữa khỏi hoàn toàn hay không?

  • 损失函数：TripletLoss，参数如下：

    {
        "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
        "triplet_margin": 5
    }
    

训练超参数

• 非默认超参数：
  • eval_strategy: steps
  • per_device_train_batch_size: 16
  • per_device_eval_batch_size: 16
  • num_train_epochs: 4
  • warmup_ratio: 0.1
  • fp16: True

所有超参数

训练日志

框架版本

• Python: 3.11.11
• Sentence Transformers: 3.4.1
• Transformers: 4.48.3
• PyTorch: 2.5.1+cu124
• Accelerate: 1.3.0
• Datasets: 3.3.1
• Tokenizers: 0.21.0

📄 许可证

文档中未提及相关许可证信息。

📖 引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

TripletLoss

@misc{hermans2017defense,
    title={In Defense of the Triplet Loss for Person Re-Identification},
    author={Alexander Hermans and Lucas Beyer and Bastian Leibe},
    year={2017},
    eprint={1703.07737},
    archivePrefix={arXiv},
    primaryClass={cs.CV}
}