Koe5

🚀 🔎 KoE5

KoE5は、高度な検索能力を備えたモデルです。韓国語テキスト検索において卓越した性能を発揮しています。

詳細については、KUREリポジトリをご覧ください。

🚀 クイックスタート

KoE5は、韓国語テキスト検索において優れた性能を発揮するモデルです。以下の手順で使用を開始できます。

✨ 主な機能

• 高度な韓国語テキスト検索能力を備えています。
• 多言語モデルを基に微調整されているため、韓国語以外の言語にも対応しています。

📦 インストール

依存関係のインストール

まず、Sentence Transformersライブラリをインストールします。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

次に、このモデルをロードして推論を実行することができます。

from sentence_transformers import SentenceTransformer

# 🤗 Hubからダウンロード
model = SentenceTransformer("nlpai-lab/KoE5")

# 推論を実行
sentences = [
    'query: 헌법과 법원조직법은 어떤 방식을 통해 기본권 보장 등의 다양한 법적 모색을 가능하게 했어',
    'passage: 4. 시사점과 개선방향 앞서 살펴본 바와 같이 우리 헌법과 ｢법원조직 법｣은 대법원 구성을 다양화하여 기본권 보장과 민주주의 확립에 있어 다각적인 법적 모색을 가능하게 하는 것을 근본 규범으로 하고 있다. 더욱이 합의체로서의 대법원 원리를 채택하고 있는 것 역시 그 구성의 다양성을 요청하는 것으로 해석된다. 이와 같은 관점에서 볼 때 현직 법원장급 고위법관을 중심으로 대법원을 구성하는 관행은 개선할 필요가 있는 것으로 보인다.',
    'passage: □ 연방헌법재판소는 2001년 1월 24일 5:3의 다수견해로 「법원조직법」 제169조 제2문이 헌법에 합치된다는 판결을 내렸음 ○ 5인의 다수 재판관은 소송관계인의 인격권 보호, 공정한 절차의 보장과 방해받지 않는 법과 진실 발견 등을 근거로 하여 텔레비전 촬영에 대한 절대적인 금지를 헌법에 합치하는 것으로 보았음 ○ 그러나 나머지 3인의 재판관은 행정법원의 소송절차는 특별한 인격권 보호의 이익도 없으며, 텔레비전 공개주의로 인해 법과 진실 발견의 과정이 언제나 위태롭게 되는 것은 아니라면서 반대의견을 제시함 ○ 왜냐하면 행정법원의 소송절차에서는 소송당사자가 개인적으로 직접 심리에 참석하기보다는 변호사가 참석하는 경우가 많으며, 심리대상도 사실문제가 아닌 법률문제가 대부분이기 때문이라는 것임 □ 한편, 연방헌법재판소는 「연방헌법재판소법」(Bundesverfassungsgerichtsgesetz: BVerfGG) 제17a조에 따라 제한적이나마 재판에 대한 방송을 허용하고 있음 ○ 「연방헌법재판소법」 제17조에서 「법원조직법」 제14절 내지 제16절의 규정을 준용하도록 하고 있지만, 녹음이나 촬영을 통한 재판공개와 관련하여서는 「법원조직법」과 다른 내용을 규정하고 있음',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# 埋め込みベクトルの類似度スコアを取得
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 0.6721, 0.3897],
#        [0.6721, 1.0000, 0.3740],
#        [0.3897, 0.3740, 1.0000]])

📚 ドキュメント

モデルバージョン

モデルの説明

これは🤗 transformersモデルのモデルカードで、Hubに公開されています。

• 開発者: NLP&AI Lab
• 言語: 韓国語、英語
• ライセンス: MIT
• 微調整元のモデル: intfloat/multilingual-e5-large
• 微調整に使用したデータセット: ko-triplet-v1.0

🔧 技術詳細

学習データ

• ko-triplet-v1.0
• 韓国語のクエリ - ドキュメント - ハードネガティブデータペア（オープンデータ）
• 合計約700,000件以上のサンプルを使用

学習手順

• 損失関数: sentence-transformersの**CachedMultipleNegativesRankingLoss** を使用
• バッチサイズ: 512
• 学習率: 1e-05
• エポック数: 1

評価

評価指標

• Recall、Precision、NDCG、F1

ベンチマークデータセット

• Ko-StrategyQA: 韓国語ODQAマルチホップ検索データセット（StrategyQAの翻訳版）
• AutoRAGRetrieval: 金融、公共、医療、法律、コマースの5つの分野について、pdfをパースして構成された韓国語ドキュメント検索データセット
• MIRACLRetrieval: Wikipediaをベースにした韓国語ドキュメント検索データセット
• PublicHealthQA: 医療および公衆衛生ドメインに関する韓国語ドキュメント検索データセット
• BelebeleRetrieval: FLORES-200をベースにした韓国語ドキュメント検索データセット
• MrTidyRetrieval: Wikipediaをベースにした韓国語ドキュメント検索データセット
• MultiLongDocRetrieval: 様々なドメインの韓国語長文検索データセット
• XPQARetrieval: 様々なドメインの韓国語ドキュメント検索データセット

結果

以下は、すべてのモデルのすべてのベンチマークデータセットに対する平均結果です。詳細な結果はKURE Githubで確認できます。

Top-k 1

Top-k 3

Top-k 5

Top-k 10

FAQ

• 入力テキストに「query: 」と「passage: 」の接頭辞を付ける必要がありますか？ はい、このモデルはそのように学習されているため、付けない場合、性能が低下します。

以下はいくつかの経験則です。

• オープンQAにおけるパッセージ検索、即時情報検索などの非対称タスクでは、それぞれ「query: 」と「passage: 」を使用します。
• 意味的類似度、バイテキストマイニング、パラフレーズ検索などの対称タスクでは、「query: 」の接頭辞を使用します。
• 線形プロービング分類、クラスタリングなど、埋め込みを特徴量として使用する場合は、「query: 」の接頭辞を使用します。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

引用

もし当社の論文やモデルが役に立った場合は、以下のように引用していただけると幸いです。

@misc{KURE,
  publisher = {Youngjoon Jang, Junyoung Son, Taemin Lee},
  year = {2024},
  url = {https://github.com/nlpai-lab/KURE}
},

@misc{KoE5,
  author = {NLP & AI Lab and Human-Inspired AI research},
  title = {KoE5: A New Dataset and Model for Improving Korean Embedding Performance},
  year = {2024},
  publisher = {Youngjoon Jang, Junyoung Son, Taemin Lee},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/nlpai-lab/KoE5}},
}

制限事項

長いテキストは最大512トークンに切り捨てられます。