Modernbert Base Hu V3

🚀 ModernBERT-base

这是一个基于 sentence-transformers 的模型，它在 JSON 数据集上对 nomic-ai/modernbert-embed-base 进行了微调。该模型可以将句子和段落映射到 768 维的密集向量空间，可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等任务。

✨ 主要特性

• 能够将文本映射到 768 维的向量空间，便于进行语义分析。
• 适用于多种自然语言处理任务，如语义相似度计算、搜索、分类和聚类等。

📦 安装指南

首先安装 Sentence Transformers 库：

pip install -U sentence-transformers

💻 使用示例

基础用法

from sentence_transformers import SentenceTransformer

# 从 🤗 Hub 下载模型
model = SentenceTransformer("karsar/ModernBERT-base-hu_v3")
# 进行推理
sentences = [
    'a sellő szindróma genetikai okai',
    'Rfcamat válasza. Bizalom szavazat: 459. Ha sellő-szindrómásod van, akkor vele születtél volna, és inkább hasadt volna a lábad, vagy mindkettőt amputálták volna. A sellőszindróma oka a test alsó részének (lábainak) oxigén- és tápanyaghiánya a keringési rendszer problémája miatt.További információ az alábbi linken.a sellő szindrómát nem kaphatja meg. Ez egy veleszületett állapot, ami azt jelenti, hogy vele kell születned ahhoz, hogy meglegyen. A betegségben szenvedő személy nem sellő, csak arról van szó, hogy a lábai összeforrtak. Számos belső szerv hiányzik vagy deformálódott.',
    '1 A sellő-szindróma annak a következménye is lehet, hogy az anya sugárzásnak és más környezeti hatásoknak van kitéve, amelyek a magzat normális fejlődésében részt vevő gének mutációit okozták. 2 Spontán mutációk vagy a magzatban természetesen előforduló mutációk is okozhatták a születési rendellenességet. Kutatásokra van szükség ahhoz, hogy kiderítsük a sellőszindróma genetikai, biológiai vagy környezeti okait. A sellő szindróma kezelése. Ha a két láb csak a bőrön keresztül olvadt össze, és a három fő csont teljesen és megfelelően kialakult, műtétet alkalmaznak a két láb szétválasztására.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

📚 详细文档

模型详情

模型描述

模型来源

• 文档：Sentence Transformers 文档
• 仓库：GitHub 上的 Sentence Transformers
• Hugging Face：Hugging Face 上的 Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

评估

指标

三元组

• 数据集：all-triplet-dev 和 all-triplet-test
• 评估方法：使用 TripletEvaluator 进行评估

训练详情

训练数据集

json

• 数据集：json
• 大小：1,207,229 个训练样本
• 列：anchor、positive 和 negative
• 基于前 1000 个样本的近似统计信息：

  	anchor	positive	negative
  类型	字符串	字符串	字符串
  详情	最小值：5 个标记 平均值：27.76 个标记 最大值：159 个标记	最小值：6 个标记 平均值：106.31 个标记 最大值：449 个标记	最小值：6 个标记 平均值：104.18 个标记 最大值：452 个标记

• 样本：

  anchor	positive	negative
  Megfordult, és előhúzta a kardját.	A kard megrajzolták.	A férfi ott hagyta a kardját, ahol volt.
  Egy férfi, aki egy betonfalnak támaszkodik, karjait felül támasztja, az erkélyre néz.	Egy férfi a falnak támaszkodik.	Egy férfi egy fafalnak támaszkodik.
  A nő a szabadban van.	Nő egy ruhában sétál át a hídon.	Egy nő a levegőben lévő lábával harcművészeti mozdulatot hajt végre egy edzőteremben, miközben öt csapattársa vagy versenyzője néz rá.

评估数据集

json

• 数据集：json
• 大小：1,207,229 个评估样本
• 列：anchor、positive 和 negative
• 基于前 1000 个样本的近似统计信息：

  	anchor	positive	negative
  类型	字符串	字符串	字符串
  详情	最小值：5 个标记 平均值：28.27 个标记 最大值：150 个标记	最小值：4 个标记 平均值：108.14 个标记 最大值：479 个标记	最小值：7 个标记 平均值：103.64 个标记 最大值：431 个标记

• 样本：

  anchor	positive	negative
  Az emberek nézik, amint egy zenész gitározik.	egy gitáros játszik az embereknek	Az emberek egy autóroncsot néznek.
  hány csepp van egy ml-ben	Egy szabványos szemcseppentő 0,05 ml-t adagol cseppenként, ami azt jelenti, hogy 1 milliliter gyógyszerben 20 csepp van. Számoljuk ki: egy 5 ml-es üvegben 100, a 10 ml-es üvegben 200 adag van. (A legtöbb szemcsepp receptet 5 vagy 10 ml-es üvegekben adják ki.) A párolgás nem jelent nagy problémát, ha a kupakot minden alkalmazás után vissza kell cserélni. 30 napos hónapra számítva a napi egyszeri cseppek és a napi kétszeri cseppek egy 5 ml-es üvegben könnyen kitartanak egy hónapig. Egy 10 ml-es palack általában nagyobb adagok befogadására alkalmas. Íme, egy utolsó tipp.	Körülbelül 15-20 csepp van egy ml-ben. A folyadék viszkozitása megváltoztatja ezt a választ. Gondolhatja, hogy egy 5 ml-es üvegben 80-100 csepp van.
  a szövetségi tartalékot milyen jogszabály hozta létre	Az „1913. évi Federal Reserve Act” MEGHATÁROZÁSA. Az 1913-as amerikai törvényhozás, amely létrehozta a jelenlegi Federal Reserve System-et. A Federal Reserve Act a gazdasági stabilitás egy formáját kívánta megteremteni a monetáris politikáért felelős Központi Bank bevezetésével az Egyesült Államokba. Az 1913-as amerikai törvényhozás, amely

📄 许可证

本模型使用 apache-2.0 许可证。