Fin Mpnet Base

🚀 Fin-MPNET-Base (v0.1)

Fin-MPNET-Base (v0.1) 是一個經過微調的 sentence-transformers 模型，它能夠將句子和段落映射到 768 維的密集向量空間，可用於聚類或語義搜索等任務。該模型旨在在金融文檔檢索任務中表現出色，同時儘可能保持廣泛的通用性。

🚀 快速開始

安裝依賴

如果你已經安裝了 sentence-transformers，使用這個模型會非常簡單：

pip install -U sentence-transformers

使用示例

基礎用法

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]

model = SentenceTransformer('mukaj/fin-mpnet-base')
embeddings = model.encode(sentences)
print(embeddings)

✨ 主要特性

• 金融領域表現出色：在金融文檔檢索任務中表現強勁。
• 通用性較好：在保持金融領域高性能的同時，儘可能維持在其他通用任務上的表現。

📦 安裝指南

pip install -U sentence-transformers

📚 詳細文檔

評估結果

模型在訓練期間僅針對新的金融問答示例進行了評估，因此 v0.1 版本僅在與金融相關的基準測試中進行了評估，包括 [FiQA-2018, BankingClassification77]。

該模型目前在 MTEB 排行榜（https://huggingface.co/spaces/mteb/leaderboard）的 FiQA 測試集上取得了最高的檢索分數。不過，該模型在其他基準測試中的性能可能有所下降，例如 BankingClassification77 的準確率從 81.6 降至 80.25。這些問題將在 v0.2 版本中得到解決，並會對所有數據集進行全面評估。

模型對比

v0.1 版本在 FiQA 測試集上取得了最優結果，而在其他非金融基準測試中，性能僅有小幅下降，部分還有所提升。

訓練信息

該模型基於 "sentence-transformers/all-mpnet-base-v2"，使用 MNR 損失函數在 150k+ 金融文檔問答示例上進行了微調。

⚠️ 重要提示

目前模型的全面評估尚未完成。