MIKA Custom IR

🚀 インテリジェント知識アクセスマネージャー (MIKA)

カスタム情報検索モデル。エンジニアリング文書の非対称情報検索に特化したモデルです。クエリに関連する文書を特定するのに役立ちます。

🚀 クイックスタート

このモデルは sentence-transformers をベースに構築されており、文章や段落を768次元の密ベクトル空間にマッピングします。クラスタリングや意味検索などのタスクに使用できます。

✨ 主な機能

• エンジニアリング文書に特化した非対称情報検索に最適化されています。
• 設計時にクエリに関連するエンジニアリング文書を特定するのに役立ちます。

📦 インストール

sentence-transformers をインストールすると、このモデルを簡単に使用できます。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]

model = SentenceTransformer("NASA-AIML/MIKA_Custom_IR")
embeddings = model.encode(sentences)
print(embeddings)

📚 ドキュメント

評価結果

このモデルは、k=10、20、30の場合のPrecision at kを使用して3つのクエリで評価されました。平均平均精度 (MAP) も計算されました。モデルは事前学習済みのSBERTと比較されました。

学習

このモデルは以下のパラメータで学習されました。

DataLoader: sentence_transformers.datasets.NoDuplicatesDataLoader.NoDuplicatesDataLoader の長さは693で、以下のパラメータが使用されました。

{'batch_size': 32}

損失関数: sentence_transformers.losses.MultipleNegativesRankingLoss.MultipleNegativesRankingLoss が使用され、以下のパラメータが設定されました。

{'scale': 20.0, 'similarity_fct': 'cos_sim'}

fit() メソッドのパラメータ:

{
    "epochs": 2,
    "evaluation_steps": 100,
    "evaluator": "sentence_transformers.evaluation.InformationRetrievalEvaluator.InformationRetrievalEvaluator",
    "max_grad_norm": 1,
    "optimizer_class": "<class 'transformers.optimization.AdamW'>",
    "optimizer_params": {
        "lr": 2e-05
    },
    "scheduler": "WarmupLinear",
    "steps_per_epoch": null,
    "warmup_steps": 0,
    "weight_decay": 0.01
}

モデルアーキテクチャ

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: MPNetModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False})
  (2): Normalize()
)

引用と著者

Walsh, HS, & Andrade, SR. "Semantic Search With Sentence-BERT for Design Information Retrieval." Proceedings of the ASME 2022 International Design Engineering Technical Conferences and Computers and Information in Engineering Conference. Volume 2: 42nd Computers and Information in Engineering Conference (CIE). St. Louis, Missouri, USA. August 14–17, 2022. V002T02A066. ASME. https://doi.org/10.1115/DETC2022-89557

通知

Copyright © 2023 United States Government as represented by the Administrator of the National Aeronautics and Space Administration. All Rights Reserved.

免責事項

このソフトウェアは「現状のまま」提供され、明示的、黙示的、または法定のいかなる保証も含まれません。これには、ソフトウェアが仕様に準拠すること、商品性、特定の目的への適合性、または侵害のなさに関するいかなる保証も含まれません。また、ソフトウェアがエラーフリーであること、または提供されるドキュメントがソフトウェアに準拠することに関するいかなる保証も含まれません。この契約は、いかなる形でも、政府機関または以前の受領者による、ソフトウェアの使用によって生じるいかなる結果、設計、ハードウェア、ソフトウェア製品、またはその他のアプリケーションの承認を構成するものではありません。さらに、政府機関は、元のソフトウェアに存在する場合の第三者のソフトウェアに関するすべての保証と責任を否認し、「現状のまま」配布します。

放棄と補償

受領者は、米国政府、その請負業者および下請業者、ならびに以前の受領者に対するすべての請求を放棄することに同意します。受領者がこのソフトウェアを使用することにより、その使用に起因するいかなる責任、請求、損害、費用、または損失が発生した場合、受領者は、法律で許される範囲で、米国政府、その請負業者および下請業者、ならびに以前の受領者を補償し、損害から保護するものとします。受領者の唯一の救済策は、この契約の即時かつ一方的な終了となります。