Modernbert Base Hu V3

🚀 ModernBERT-base

這是一個基於 sentence-transformers 的模型，它在 JSON 數據集上對 nomic-ai/modernbert-embed-base 進行了微調。該模型可以將句子和段落映射到 768 維的密集向量空間，可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等任務。

✨ 主要特性

• 能夠將文本映射到 768 維的向量空間，便於進行語義分析。
• 適用於多種自然語言處理任務，如語義相似度計算、搜索、分類和聚類等。

📦 安裝指南

首先安裝 Sentence Transformers 庫：

pip install -U sentence-transformers

💻 使用示例

基礎用法

from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
model = SentenceTransformer("karsar/ModernBERT-base-hu_v3")
# 進行推理
sentences = [
    'a sellő szindróma genetikai okai',
    'Rfcamat válasza. Bizalom szavazat: 459. Ha sellő-szindrómásod van, akkor vele születtél volna, és inkább hasadt volna a lábad, vagy mindkettőt amputálták volna. A sellőszindróma oka a test alsó részének (lábainak) oxigén- és tápanyaghiánya a keringési rendszer problémája miatt.További információ az alábbi linken.a sellő szindrómát nem kaphatja meg. Ez egy veleszületett állapot, ami azt jelenti, hogy vele kell születned ahhoz, hogy meglegyen. A betegségben szenvedő személy nem sellő, csak arról van szó, hogy a lábai összeforrtak. Számos belső szerv hiányzik vagy deformálódott.',
    '1 A sellő-szindróma annak a következménye is lehet, hogy az anya sugárzásnak és más környezeti hatásoknak van kitéve, amelyek a magzat normális fejlődésében részt vevő gének mutációit okozták. 2 Spontán mutációk vagy a magzatban természetesen előforduló mutációk is okozhatták a születési rendellenességet. Kutatásokra van szükség ahhoz, hogy kiderítsük a sellőszindróma genetikai, biológiai vagy környezeti okait. A sellő szindróma kezelése. Ha a két láb csak a bőrön keresztül olvadt össze, és a három fő csont teljesen és megfelelően kialakult, műtétet alkalmaznak a két láb szétválasztására.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

📚 詳細文檔

模型詳情

模型描述

模型來源

• 文檔：Sentence Transformers 文檔
• 倉庫：GitHub 上的 Sentence Transformers
• Hugging Face：Hugging Face 上的 Sentence Transformers

完整模型架構

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

評估

指標

三元組

• 數據集：all-triplet-dev 和 all-triplet-test
• 評估方法：使用 TripletEvaluator 進行評估

訓練詳情

訓練數據集

json

• 數據集：json
• 大小：1,207,229 個訓練樣本
• 列：anchor、positive 和 negative
• 基於前 1000 個樣本的近似統計信息：

  	anchor	positive	negative
  類型	字符串	字符串	字符串
  詳情	最小值：5 個標記 平均值：27.76 個標記 最大值：159 個標記	最小值：6 個標記 平均值：106.31 個標記 最大值：449 個標記	最小值：6 個標記 平均值：104.18 個標記 最大值：452 個標記

• 樣本：

  anchor	positive	negative
  Megfordult, és előhúzta a kardját.	A kard megrajzolták.	A férfi ott hagyta a kardját, ahol volt.
  Egy férfi, aki egy betonfalnak támaszkodik, karjait felül támasztja, az erkélyre néz.	Egy férfi a falnak támaszkodik.	Egy férfi egy fafalnak támaszkodik.
  A nő a szabadban van.	Nő egy ruhában sétál át a hídon.	Egy nő a levegőben lévő lábával harcművészeti mozdulatot hajt végre egy edzőteremben, miközben öt csapattársa vagy versenyzője néz rá.

評估數據集

json

• 數據集：json
• 大小：1,207,229 個評估樣本
• 列：anchor、positive 和 negative
• 基於前 1000 個樣本的近似統計信息：

  	anchor	positive	negative
  類型	字符串	字符串	字符串
  詳情	最小值：5 個標記 平均值：28.27 個標記 最大值：150 個標記	最小值：4 個標記 平均值：108.14 個標記 最大值：479 個標記	最小值：7 個標記 平均值：103.64 個標記 最大值：431 個標記

• 樣本：

  anchor	positive	negative
  Az emberek nézik, amint egy zenész gitározik.	egy gitáros játszik az embereknek	Az emberek egy autóroncsot néznek.
  hány csepp van egy ml-ben	Egy szabványos szemcseppentő 0,05 ml-t adagol cseppenként, ami azt jelenti, hogy 1 milliliter gyógyszerben 20 csepp van. Számoljuk ki: egy 5 ml-es üvegben 100, a 10 ml-es üvegben 200 adag van. (A legtöbb szemcsepp receptet 5 vagy 10 ml-es üvegekben adják ki.) A párolgás nem jelent nagy problémát, ha a kupakot minden alkalmazás után vissza kell cserélni. 30 napos hónapra számítva a napi egyszeri cseppek és a napi kétszeri cseppek egy 5 ml-es üvegben könnyen kitartanak egy hónapig. Egy 10 ml-es palack általában nagyobb adagok befogadására alkalmas. Íme, egy utolsó tipp.	Körülbelül 15-20 csepp van egy ml-ben. A folyadék viszkozitása megváltoztatja ezt a választ. Gondolhatja, hogy egy 5 ml-es üvegben 80-100 csepp van.
  a szövetségi tartalékot milyen jogszabály hozta létre	Az „1913. évi Federal Reserve Act” MEGHATÁROZÁSA. Az 1913-as amerikai törvényhozás, amely létrehozta a jelenlegi Federal Reserve System-et. A Federal Reserve Act a gazdasági stabilitás egy formáját kívánta megteremteni a monetáris politikáért felelős Központi Bank bevezetésével az Egyesült Államokba. Az 1913-as amerikai törvényhozás, amely

📄 許可證

本模型使用 apache-2.0 許可證。