Roberta Amharic Embed Medium

🚀 阿姆哈拉语中等文本嵌入RoBERTa模型

本模型基于 sentence-transformers 框架，在JSON数据集上对 rasyosef/roberta-medium-amharic 进行微调。它能够将句子和段落映射到512维的密集向量空间，可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等任务。

✨ 主要特性

• 多任务支持：可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等多种自然语言处理任务。
• 高效映射：能将句子和段落高效映射到512维的密集向量空间。
• 微调优化：在JSON数据集上对基础模型进行微调，提升了模型在特定任务上的性能。

📦 安装指南

首先，安装Sentence Transformers库：

pip install -U sentence-transformers

💻 使用示例

基础用法

安装完成后，你可以加载该模型并进行推理：

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载模型
model = SentenceTransformer("yosefw/roberta-amharic-embed-medium")
# 进行推理
sentences = [
    'አቶ ደመቀ መኮንን ከፕሬዚዳንት ዩዌሪ ሙሴቬኒ ጋር ተወያዩ',
    'የኡጋንዳው ፕሬዚ ዳንት ዩዌሪ ካጉታ ሙሴቬኒ ኢንቴቤ ከተማ በሚገኘው ጽሕፈት ቤታቸው ምክትል ጠቅላይ ሚኒስትር አቶ ደመቀ መኮንንን ተቀብለው በቀጣናዊ ትብብር እና በሁለትዮሽ ግንኙነት ዙሪያ አነጋግረዋል። አቶ ደመቀ እና ፕሬዚዳንት ሙሴቬኒ ውይይታቸው በቀጣናዊ ትብብር እና በሁለትዮሽ ግንኙነት ዙሪያ ያተኮረ እንደነበር ከምክትል ጠቅላይ ሚኒስትር ጽሕፈት ቤት የተገኘው መረጃ ያመለክታል። በተለያዩ መስኮች ለረጅም ዓመታት የዘለቀው የኢትዮጵያ እና የዑጋንዳ የሁለትዮሽ ግንኙነት የበለጠ ተጠናክሮ እንዲቀጥል መግባባት ላይ መድረሳቸውም መረጃው ጠቁሟል፡፡ ሁለቱ አገራት በቀጣናው በሚስተዋሉ ወቅታዊ ጉዳዮች ላይም የተወያዩ ሲሆን በቀጣይ በቀጣናው ትብብራቸውን ለማጥበቅ በሚችሉበት አግባብ ዙሪያም ተስማምተዋል። በመጨረሻም ከኢፌዴሪ ጠቅላይ ሚኒስትር ዶክተር አብይ አህመድ የተላከውን የትብብር መልዕክት ፕሬዚዳንት ሙሴቬኒ ከምክትል ጠቅ ላይ ሚኒስትር አቶ ደመቀ እጅ ተቀብለዋል።አዲስ ዘመን ግንቦት 7/2011',
    '. በአምስት ክፍለ ከተሞች 121 ሚሊዮን 365ሺ 398 ብር ጉድለት ተመዝግቧልአዲስ አበባ፡- በተጠናቀቀው በጀት ዓመት የመጀመሪያው ስድስት ወራት የሂሳብ ጉድለት ከነበረባቸው\n59 ተቋማት ውስጥ 32ቱ 66 ነጥብ 7ሚሊዮን ብር ለአስተዳደሩ ተመላሽ ማድረግ አቶ ደመቀ መኮንን ከፕሬዚዳንት ዩዌሪ ሙሴቬኒ ጋር ተወያዩ',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 512]

# 获取嵌入向量的相似度得分
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

📚 详细文档

模型详情

模型描述

模型来源

• 文档：Sentence Transformers文档
• 仓库：GitHub上的Sentence Transformers
• Hugging Face：Hugging Face上的Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 510, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 512, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

评估指标

信息检索

• 数据集：dim_512、dim_256 和 dim_128
• 使用 InformationRetrievalEvaluator 进行评估

训练详情

训练数据集

json

• 数据集：json
• 大小：54,900个训练样本
• 列：anchor 和 positive
• 基于前1000个样本的近似统计信息：

  	anchor	positive
  类型	字符串	字符串
  详情	最小：4个标记 平均：16.66个标记 最大：73个标记	最小：34个标记 平均：321.89个标记 最大：510个标记

• 样本：

  anchor	positive
  የተመድ ልማት ፕሮግራም ኃላፊ ‹‹ርካሽ ጉልበት›› ብዝበዛ ማለት አይደለም ሲሉ አሳሰቡ	ዓመታዊው የተባበሩት መንግሥታት ድርጅት (ተመድ) የሰብዓዊ ልማት ሪፖርትን ለመላው ዓለም ከኢትዮጵያ ይፋ ለማድረግ በአፍሪካ ኢኮኖሚክ ኮሚሽን አዳራሽ ለጋዜጠኞች በሰጡት መግለጫ፣ አገሮች ርካሽ ጉልበትን እንደ መልካም የኢንቨስትመንት ዕድል ሲያስተዋውቁ የጉልበት ብዝበዛ እንዳይፈጸም መጠንቀቅ እንዳለባቸው የፕሮግራሙ ኃላፊ አሳሰቡ፡፡ በተመድ የልማት ፕሮግራም አድሚንስትሬተር ሔለን ክላርክ በአዲስ አበባ ተገኝተው ከጠቅላይ ሚኒስትር ኃይለ ማርያም ደሳለኝ ጋር በመሆን፣ እ.ኤ.አ. የ2015 የሰብዓዊ ልማት ሪፖርትን ይፋ አድርገዋል፡፡ ሪፖርቱን በ25ኛ ዓመቱ መባቻ ላይ ‹‹ሥራ›› ላይ ያተኮረው የተመድ ልማት ፕሮግራም፣ እንደ ኢትዮጵያ ያሉ አገሮች የውጭ ኢንቨስትመንትን ለመሳብ በማለት ርካሽ ጉልበትን መስህብ ሲያደርጉት ይታያል ብሏል፡፡ የኢትዮጵያ ኢንቨስትመንት ኮሚሽን ደግሞ በወር ከሃምሳ ዶላር ያልበለጠ ደመወዝ እየተከፈላቸው የሚሠሩ ሠራተኞች ያሉባት አገር በመሆኗ፣ ለኢንቨስትመንት ምቹ ከሚያደርጓት መካከል አንዱ እንደሆነ ይገልጻል፡፡በአንፃሩ የተመድ የሰብዓዊ ልማት ‹‹ሥራ ለሰብዓዊ ልማት›› በሚል ርዕስ ይፋ ባደረገው ሪፖርት ለሰው ልጅ ተስማሚ የኑሮ ከባቢ ሁኔታ ለመፍጠር የሚያስችል ሥራ የደመወዝ ክፍያ እንዲከፈል የሚያሳስበው የተመድ የልማት ፕሮግራም፣ በቀን ከሁለት ዶላር በታች የሚያገኙ ሰዎች ከ830 ሚሊዮን በላይ እንደሆኑ፣ 200 ሚሊዮን ሰዎች (74 ሚሊዮን ወጣቶችን ጨምሮ) ሥራ አጥ እንደሆኑና 21 ሚሊዮን ሰዎች በመላው ዓለም በግዳጅ ጉልበታቸው እየተበዘበዘ እንደሚሠሩ በሪፖርቱ ጠቁሟል፡፡ሔለን ክላርክ ከሪፖርተር ለቀረበላቸው ጥያቄ በሰጡት ማብራሪያ፣ እንደ ኢትዮጵያ ያሉ አገሮች ለልማት ካላቸው ፍላጎትና ዓላማ በመነሳት፣ ሀብታቸውን በመጠቀም ለማደግ የሚያደርጉት እ...
  ሦስት የወጣት ማዕከላትለወረዳ አስተዳደር ቢሮነት እያገለገሉ ነው	፡- በአዲስ አበባ የሚገኙ የሦስት ወረዳዎች የወጣት ማዕከላት ለወረዳ አስተዳደር ቢሮነት በመዋላቸው ለወጣቱ ተገቢውን አገልግሎት እየሰጡ አለመሆኑ ተገለጸ። በአዲስ አበባ ከተማ የወጣቶችና በጎ ፈቃድ ማስተባበሪያ ቢሮ የወጣት ማዕከላት አገልግሎት ማስተባበሪያ ክትትል ቡድን መሪ አቶ ጤናዬ ታምሩ ለጋዜጣው ሪፖርተር እንዳሉት፤ የካ ክፍለከተማ ወረዳ አራት፣ ቦሌ ክፍለከተማ ወረዳ ዘጠኝ እና ኮልፌ ቀራንዮ ክፍለከተማ ወረዳ ሁለት የሚገኙ ወጣት ማዕከላት ለወረዳ አስተዳደሩ ቢሮነት እያለገሉ ይገኛሉ። በዚህም ለወጣቱ የተፈለገውን አገልግሎት እየሰጡ አይደለም። እንደ አቶ ጤናዬ ገለፃ፤ ወረዳዎቹ የሥልጠና፣ የሥራና የቢሮ ጥበት ሲኖር ወጣት ማዕከል ውስጥ የሚገኙ ክፍሎችን ይወስዳሉ።ችግሩን ለመፍታት ለወረዳ አስተዳደሮቹ ደብዳቤ በመፃፍና በአካል ተገናኝቶ ውይይት ተደርጓል። ወረዳዎቹ እድሳት ላይ ስላለን ታገሱን የሚል መልስ ብቻ በመስጠት እስካሁን ሊለቁ አልቻሉም። በኮልፌ ቀራንዮ ወረዳ ሁለት ወጣት ማዕከሉን የወረዳው አስተዳደር ለቢሮነት እየተጠቀመበት ይገኛል። እንዲወጡ ሲጠየቁ አዲስ ሕንፃ እያስገነባን በመሆኑ እስኪያልቅ ጠብቁ የሚል ምላሽ ሰጥተዋል። እነዚህ ችግሮች ወጣት ማዕከላቱ ቀልጣፋ አገልግሎት እንዳይሰጡ አድርጓቸው። ወጣት ማዕከላት ሲገነቡ በዋነኛነት ለወጣቱ አገልግሎት ለመስጠት ነው የሚሉት አቶ ጤናዬ፤ ነገር ግን ከባለሙያ እጥረትና በግብዓት ችግር ምክንያት በአግባቡ አገልግሎት የማይሰጥባቸው አካባቢዎች እንዳሉ አመልክተዋል። ማዕከላቱ ሲመሰረቱ ለወጣቱ አገልግሎት ለመስጠት ታስቦ በመሆኑ ባላቸው ሀብት አገልግሎት እየሰጡ መሆናቸውን ተናግረዋል። እንደ አቶ ጤናዬ አባባል፤ ወጣት ማዕከላት መዝናኛ ቦታዎች አይደሉም። በማዕከላቱ የሚሰጡ አገልግሎቶች የወጣቱን ሰብዕና የሚገነቡ፣ ክ...
  ፍርድ ቤቱ አቃቤ ህግ በአቶ እስክንድር ነጋ፣ ስንታየሁ ቸኮልና ቀለብ ስዩም ላይ በ15 ቀናት ውስጥ ክስ እንዲመሰርት ብይን ሰጠ	አዲስ አበባ ፣ ነሀሴ 12 ፣ 2012 (ኤፍ.ቢ.ሲ) በፌደራል የመጀመሪያ ደረጃ ፍርድ ቤት አራዳ ምድብ የጊዜ ቀጠሮ ተረኛ ችሎት አቃቤ ህግ በአቶ እስክንድር ነጋ፣ ስንታየሁ ቸኮልና ቀለብ ስዩም ላይ በ15 ቀናት ውስጥ ክስ እንዲመሰርት ቤት ክስ እስከምመሰርት ድረስም ተጠርጣሪዎች በማረፊያ ቤት ይቆዩልኝ ብሎ አቃቤ ህግ ፍርድ ቤቱን ጠይቋል። ተጠርጣሪዎች በበኩላቸው ክስ እስከሚመሰረትብን ድረስ በዋስ ወጥተን በውጭ እንከታተል ሲሉ ያመለከቱ ሲሆን አቃቤ ህግ ተጠርጣሪዎቹ ስልጣን ባለው ፍርድ ቤት ክስ ሲመሰረት የተጠረጠሩበት ወንጀል ዋስትና የሚያስከለክል በመሆኑ በማረፊያ ቤት እንዲቆዩልኝ ሲል የዋስትና ጥያቄውን ተቃውሟል። ጉዳዩን የተከታተለው ፍርድ ቤትም ተጠርጣሪዎች ክስ እስከሚመሰረት ድረስ በማረፊያ ቤት እንዲቆዩ እና አቃቤ ህግ በ15 ቀናት ውስጥ ክስ እንዲመሰርት ብይን ሰጥቷል። በታሪክ አዱኛ

训练超参数

非默认超参数

• eval_strategy: epoch
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 128
• num_train_epochs: 5
• lr_scheduler_type: cosine
• warmup_ratio: 0.1
• warmup_steps: 128
• seed: 7
• fp16: True
• load_best_model_at_end: True
• optim: adamw_torch_fused
• batch_sampler: no_duplicates

训练日志

框架版本

• Python: 3.11.11
• Sentence Transformers: 3.4.1
• Transformers: 4.49.0
• PyTorch: 2.6.0+cu124
• Accelerate: 1.3.0
• Datasets: 3.3.1
• Tokenizers: 0.21.0

🔧 技术细节

损失函数

训练过程中使用了 MatryoshkaLoss 损失函数，其参数如下：

{
    "loss": "MultipleNegativesRankingLoss",
    "matryoshka_dims": [
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

📄 许可证

本模型采用apache-2.0许可证。

引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}