オープンソースGTE多言語基礎モデル - 多言語の文章類似度計算とテキスト埋め込みを無料でサポート

ホーム

Intention

leelooleeによって開発

GTE多言語ベースモデルは密な文トランスフォーマーで、複数言語の文類似度計算とテキスト埋め込みタスクをサポートします。

テキスト埋め込み

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #多言語文埋め込み #クロスランゲージ意味的類似性 #密ベクトル検索

ダウンロード数 32

リリース時間 : 9/7/2024

モデル概要

このモデルは多言語文トランスフォーマーで、特に複数言語の文類似度計算とテキスト埋め込みタスクを処理するために設計されています。50以上の言語をサポートし、クロスランゲージ情報検索、テキストクラスタリング、分類などのアプリケーションシナリオに適しています。

モデル特徴

多言語サポート

50以上の言語をサポートし、クロスランゲージテキスト処理タスクに適しています。

密表現

密トランスフォーマーアーキテクチャを採用し、高品質な文埋め込み表現を生成できます。

多機能性

類似度計算、クラスタリング、分類、情報検索など、さまざまな自然言語処理タスクに適用できます。

モデル能力

文類似度計算

テキスト埋め込み生成

クロスランゲージ情報検索

テキストクラスタリング

テキスト分類

バイリンガルテキストマイニング

使用事例

情報検索

クロスランゲージドキュメント検索

このモデルを使用して、異なる言語の関連ドキュメントを検索できます。

MTEB AlloprofRetrievalタスクで53.638のNDCG@10スコアを達成

テキスト分類

感情分析

多言語感情分類タスクに使用できます。

MTEB AmazonPolarityClassificationタスクで80.72%の精度を達成

テキスト類似性

文類似度計算

異なる言語の文間の意味的類似度を計算します。

MTEB BIOSSESタスクで81.21のコサイン類似度スピアマン相関係数を達成

🚀 gte-multilingual-base (dense)

このモデルは、多言語対応の文書埋め込みモデルです。MTEBの様々なタスクで評価されており、クラスタリング、STS、分類、検索、再ランキングなどのタスクで良好な性能を示しています。

✨ 主な機能

多言語対応: アフリカーンス語、アラビア語、アゼルバイジャン語など、多数の言語に対応しています。
様々なタスク対応: クラスタリング、STS、分類、検索、再ランキングなどのタスクに対応しています。

📚 ドキュメント

モデル情報

属性	详情
モデルタイプ	gte-multilingual-base (dense)
サポート言語	af, ar, az, be, bg, bn, ca, ceb, cs, cy, da, de, el, en, es, et, eu, fa, fi, fr, gl, gu, he, hi, hr, ht, hu, hy, id, is, it, ja, jv, ka, kk, km, kn, ko, ky, lo, lt, lv, mk, ml, mn, mr, ms, my, ne, nl, 'no', pa, pl, pt, qu, ro, ru, si, sk, sl, so, sq, sr, sv, sw, ta, te, th, tl, tr, uk, ur, vi, yo, zh
ライセンス	apache-2.0

評価結果

クラスタリングタスク

タスク	データセット	指標	値
Clustering	PL-MTEB/8tags-clustering	v_measure	33.66681726329994
Clustering	lyon-nlp/alloprof (AlloProfClusteringP2P)	v_measure	54.20241337977897
Clustering	lyon-nlp/alloprof (AlloProfClusteringS2S)	v_measure	44.34083695608643
Clustering	mteb/arxiv-clustering-p2p	v_measure	46.01900557959478
Clustering	mteb/arxiv-clustering-s2s	v_measure	41.06626465345723
Clustering	mteb/biorxiv-clustering-p2p	v_measure	37.5903826674123
Clustering	mteb/biorxiv-clustering-s2s	v_measure	34.21474277151329
Clustering	C-MTEB/CLSClusteringP2P	v_measure	37.94850105022274
Clustering	C-MTEB/CLSClusteringS2S	v_measure	38.11958675421534

STSタスク

タスク	データセット	指標	値
STS	C-MTEB/AFQMC	cos_sim_spearman	43.54760696384009
STS	C-MTEB/ATEC	cos_sim_spearman	48.91186363417501
STS	mteb/biosses-sts	cos_sim_spearman	81.21450112991194
STS	C-MTEB/BQ	cos_sim_spearman	51.71589543397271
STS	PL-MTEB/cdscr-sts	cos_sim_spearman	90.30727955142524

分類タスク

タスク	データセット	指標	値
Classification	PL-MTEB/allegro-reviews	accuracy	41.689860834990064
Classification	mteb/amazon_counterfactual (en)	accuracy	75.95522388059702
Classification	mteb/amazon_polarity	accuracy	80.717625
Classification	mteb/amazon_reviews_multi (en)	accuracy	43.64199999999999
Classification	mteb/amazon_reviews_multi (de)	accuracy	40.108
Classification	mteb/amazon_reviews_multi (es)	accuracy	40.169999999999995
Classification	mteb/amazon_reviews_multi (fr)	accuracy	39.56799999999999
Classification	mteb/amazon_reviews_multi (ja)	accuracy	35.75000000000001
Classification	mteb/amazon_reviews_multi (zh)	accuracy	33.342000000000006
Classification	mteb/banking77	accuracy	85.36038961038962
Classification	PL-MTEB/cbd	accuracy	62.519999999999996

検索タスク

タスク	データセット	指標	値
Retrieval	lyon-nlp/alloprof	ndcg_at_10	53.638
Retrieval	mteb/arguana	ndcg_at_10	58.231
Retrieval	clarin-knext/arguana-pl	ndcg_at_10	53.166000000000004
Retrieval	mteb/cqadupstack-android	ndcg_at_10	47.099000000000004
Retrieval	mteb/cqadupstack-english	ndcg_at_10	45.973000000000006
Retrieval	mteb/cqadupstack-gaming	ndcg_at_10	55.606
Retrieval	mteb/cqadupstack-gis	ndcg_at_10	36.638
Retrieval	mteb/cqadupstack-mathematica	ndcg_at_10	30.711
Retrieval	mteb/cqadupstack-physics	ndcg_at_10	44.523
Retrieval	mteb/cqadupstack-programmers	ndcg_at_10	37.940000000000005
Retrieval	mteb/cqadupstack	ndcg_at_10	38.12183333333333
Retrieval	mteb/cqadupstack-stats	ndcg_at_10	32.684000000000005
Retrieval	mteb/cqadupstack-tex	ndcg_at_10	26.735
Retrieval	mteb/cqadupstack-unix	ndcg_at_10	36.933
Retrieval	mteb/cqadupstack-webmasters	ndcg_at_10	33.747
Retrieval	mteb/cqadupstack-wordpress	ndcg_at_10	28.872999999999998
Retrieval	mteb/climate-fever	ndcg_at_10	34.833
Retrieval	C-MTEB/CmedqaRetrieval	ndcg_at_10	（原文未提供）

再ランキングタスク

タスク	データセット	指標	値
Reranking	lyon-nlp/mteb-fr-reranking-alloprof-s2p	map	64.91495250072002
Reranking	mteb/askubuntudupquestions-reranking	map	61.87514497610431
Reranking	C-MTEB/CMedQAv1-reranking	map	86.10950950485399
Reranking	C-MTEB/CMedQAv2-reranking	map	87.28038294231966

バイテキストマイニングタスク

タスク	データセット	指標	値
BitextMining	mteb/bucc-bitext-mining (de-en)	f1	98.6169102296451
BitextMining	mteb/bucc-bitext-mining (fr-en)	f1	97.89603052314916
BitextMining	mteb/bucc-bitext-mining (ru-en)	f1	97.12388869645537
BitextMining	mteb/bucc-bitext-mining (zh-en)	f1	98.15692469720906