Finetune Embedding All MiniLM L6 V2 Geotechnical Test V4

🚀 基於句子轉換器/all-MiniLM-L6-v2的句子轉換器模型

本模型是基於 句子轉換器/all-MiniLM-L6-v2 在 JSON 數據集上微調得到的 句子轉換器 模型。它可將句子和段落映射到 384 維的密集向量空間，適用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等任務。

🚀 快速開始

安裝依賴庫

首先，你需要安裝 sentence-transformers 庫：

pip install -U sentence-transformers

加載模型並進行推理

from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
model = SentenceTransformer("GbrlOl/finetune-embedding-all-MiniLM-L6-v2-geotechnical-test-v4")
# 運行推理
sentences = [
    '¿Cuál es el factor de seguridad mínimo para el corto plazo en caso de falla superficial estática en el botadero Sur?',
    'Plan de Cierre - Faena Minera Salares Norte |   95 \n \nTabla 8-13: Criterios para el Análisis de Estabilidad del Botadero Sur \nCondición FS Mínimo \nCorto Plazo \n(operacional) \nFalla Superficial  Estático 1,0 \nSísmico (1) \nFalla Profunda  Estático 1,5 \nSísmico 1,2 \nLargo Plazo \n(post-cierre) \nFalla Superficial  Estático 1,1 \nSísmico (1) \nFalla Profunda  Estático 1,5 \nSísmico 1,1 \n(1): El material es depositado me diante volteo de camiones y queda con su ángulo de reposo. Las fallas \nsuperficiales pueden ocurrir, pero las bermas de seguridad evitarán mayores deslizamientos de material.  \nPara los análisis que involucren al depósito de relaves filtrados, ya sea por si solo o junto al botadero Sur, el factor \nde seguridad mínimo para el corto plazo es de 1,5 para casos estáticos y 1,2 para la condición sísmica. Para el largo \nplazo, en tanto, el factor de seguridad mínimo para la condición sísmica es de 1,1. \nLos factores de seguridad obtenidos de los análisis de estabilidad son presentados en la Tabla 8-14 y en la Tabla 8-15. \nTodos los análisis indican que; tanto el diseño del botadero Sur, como el diseño del depósito de relaves filtrados, por \nsí solos como en conjunto, cumplen con los diseños de criterios d e los factores de seguridad.  \nLos análisis de fallas profundas han incorporado la determinación del factor de seguridad mínimo para fallas que \nimplican la totalidad del depósito, así como fallas que involucran 2 o 3 bancos, que pueden ser más críticos que \naquellos que involucran la totalidad del depósito.',
    'Sin perjuicio de ello, en este \nplan de cierre temporal se ha hecho un análisis a nive l de juicio experto respecto de los riesgos \nque se indican en la siguiente tabla.  \nTabla 3-3: Riesgos evaluados Instalaciones Complementarias y Auxiliares. \nInstalación Riesgos evaluados \nInstalaciones \nComplementarias \ny Auxiliares \nIA.1) Caída de Personas o animales a desnivel \nIA.2) Caída de objetos o materiales sobre personas o animales \nIA.3) Afectación a la salud de las personas por estructuras, \nmateriales y/o suelos contaminados \nFuente: Elaborado por MYMA, 2019 \n3.1 Evaluación de Riesgos \na) Evaluación de Riesgos previo a la definición de las medidas de cierre \nUna vez establecida la probabilidad de ocurrencia de los eventos y la severidad de las \nconsecuencias para las personas y el medio ambiente, se debe catalogar el límite de aceptabilidad \ndel riesgo.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

✨ 主要特性

• 語義理解能力強：能夠準確捕捉句子和段落的語義信息，將其映射到 384 維的密集向量空間，從而實現高效的語義文本相似度計算、語義搜索等任務。
• 應用場景廣泛：可用於語義文本相似度、語義搜索、釋義挖掘、文本分類、聚類等多種自然語言處理任務。
• 基於預訓練模型微調：以 句子轉換器/all-MiniLM-L6-v2 為基礎模型進行微調，充分利用了預訓練模型的知識，提高了模型的性能和泛化能力。

📚 詳細文檔

模型詳情

模型描述

模型來源

• 文檔：句子轉換器文檔
• 代碼倉庫：GitHub 上的句子轉換器
• Hugging Face：Hugging Face 上的句子轉換器

完整模型架構

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

評估指標

語義相似度

• 數據集：sts_dev
• 評估方法：使用 EmbeddingSimilarityEvaluator 進行評估

二分類

• 數據集：quora_duplicates_dev
• 評估方法：使用 BinaryClassificationEvaluator 進行評估

訓練詳情

訓練數據集

• 數據集：json
• 規模：1,622 個訓練樣本
• 列信息：包含 query、sentence 和 label 三列
• 近似統計信息（基於前 1000 個樣本）：

  	查詢	句子	標籤
  類型	字符串	字符串	整數
  詳情	最小：9 個詞元 平均：25.34 個詞元 最大：69 個詞元	最小：54 個詞元 平均：233.59 個詞元 最大：256 個詞元	0：約 59.70% 1：約 40.30%

• 樣本示例：

  查詢	句子	標籤
  Indica si se utiliza Proctor Modificado, o Normal o Estándar para compactar el relave filtrado, y cuál es el nivel de compactación	PLAN DE CIERRE TEMPO RAL – FAENA MINERA EL TOQUI Sociedad Contractual Minera El Toqui Capítulo 7 – Análisis de las Instalaciones REVISIÓN [ 0] 7-107 Figura 7-38: Ubicación Parque Eólico Fuente: SCMET, 2018 - Red de Abastecimiento de Energía : Está compuesta por todas las instalaciones utilizadas para la distribución de la energía hacia todos los sectores de la faena, se compone de: o Líneas de alta tensión: 30.000 metros lineales. o Líneas de baja tensión: 2.000 metros lineales. o Estaciones de combustible: Las minas que cuentan con estaciones de combustible corresponden a Concordia, Estatuas, Doña Rosa. o Subestaciones eléctricas: A continuación se presenta una tabla con las subestaciones significativas y sus características. o Sala eléctrica de la Planta de Procesos o Subestación eléctrica TDR Confluencia (fue desmantelada).	0
  ¿Cuál es la ubicación del Pozo Monitoreos?	64 Figura 5.42: Caminos internos de acceso (2) . 64 Figura 5.43: Patio de RISES . 65 Figura 5.44: Bodega de almacenamiento temporal de residuos peligrosos . 66 Figura 5.45: Bodega de almacenamiento de residuos domésticos . 67 Figura 5.46: Ubicación Pozo Monitoreos . 100 Figura 5.47: Caminos internos Planta Catemu . 107 ANEXOS ANEXO A : . ANTECEDENTES LEGALES ANEXO B : . RESOLUCIONES ANEXO C: . PROPIEDAD MINERA ANEXO D: . INFORME DE VIDA ÚTIL ANEXO E: . PLANOS ANEXO F: . EVALUACIÓN DE RIESGOS ANEXO G: . PLANILLA DE VALORIZACIÓN ANEXO H: . RESPALDO DE PRECIOS UNITARIOS ANEXO I: . GARANTÍA FINANCIERA	1
  se especifican antecedentes geofísicos?	Hay numerosas comunidades edáficas, una de las cuales es el bosque de arrayán (Luma apiculata), de las orillas de ríos y lagos. Considerando la clasificación de la vegetación natural de Chile de Gajardo (1993), las instalaciones en cuestión se ubican en la formación del Bosque caducifolio de Aysén, que engloba básicamente a bosques de lenga (Nothofagus pumilio), los que pueden encontrarse desde el sur de la X Región, pero están representados en su forma característica en la XI Región. Son relativamente homogéneos en composición florística y en su estructura, distribuyéndose en un ambiente con un fuerte gradiente de precipitación de oeste a este, sobre un relieve de grandes variaciones en la altitud. Ha sido muy afectado por la intervención humana, persistiendo su condición original solamente en sectores locales. Con relación a las especies de flora terrestre en categoría de conservación, en la undécima región existen 2 especies que se encuentran incluidas en el listado naci...	0

• 損失函數：使用 CoSENTLoss，參數如下：

  {
      "scale": 20.0,
      "similarity_fct": "pairwise_cos_sim"
  }
  

訓練超參數

非默認超參數

• per_device_train_batch_size：16
• per_device_eval_batch_size：16
• learning_rate：2e-05
• num_train_epochs：100
• warmup_ratio：0.1
• fp16：True
• batch_sampler：no_duplicates

所有超參數

訓練日誌

框架版本

• Python：3.10.16
• Sentence Transformers：3.3.1
• Transformers：4.48.1
• PyTorch：2.5.1+cu124
• Accelerate：1.3.0
• Datasets：3.2.0
• Tokenizers：0.21.0

📄 許可證

文檔中未提及相關許可證信息。

📚 引用

BibTeX

句子轉換器

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

CoSENTLoss

@online{kexuefm-8847,
    title={CoSENT: A more efficient sentence vector scheme than Sentence-BERT},
    author={Su Jianlin},
    year={2022},
    month={Jan},
    url={https://kexue.fm/archives/8847},
}