# テキスト特徴抽出

Amber Base は modernbert-ja-130m を基にした日本語-英語文変換モデルで、文類似度計算と特徴抽出タスクに特化しています。

これは多言語混合専門家(MoE)テキスト埋め込みモデルの中間バージョンで、多段階の対照学習によって得られました

これはsentence-transformersで訓練されたモデルで、文や段落を768次元の密ベクトル空間にマッピングでき、意味的テキスト類似度計算や意味検索など様々なタスクに適しています。

Snowflake Arctic Embed M v1.5は、文の類似度計算と特徴抽出タスクに特化した効率的な文埋め込みモデルです。

Trendyolによって事前学習されたトルコ語Bertモデルで、様々な自然言語理解タスクに適しています。

Snowflake Arctic Embed M は文類似度タスクに特化した文変換モデルで、効率的にテキスト特徴を抽出し文間の類似度を計算できます。

bge_microはsentence-transformersベースの文埋め込みモデルで、文類似度計算と特徴抽出タスクに特化しています。

これはKartonBERTaアーキテクチャに基づくポーランド語の文変換モデルで、主に文の類似度計算と特徴抽出タスクに使用されます。

これはLaBSEモデルに基づく多言語埋め込みモデルで、ロシア語とモクシャ語をサポートし、myv_ru_2022データセットでファインチューニングされています。

bge_micro は文類似度計算に特化した軽量モデルで、様々な自然言語処理タスクに適しています。

bge_micro は軽量な文類似度計算モデルで、トランスフォーマーアーキテクチャに基づき、効率的な特徴抽出と文類似度タスクのために設計されています。

STARは、ソーシャルメディアの執筆スタイル理解のための教師あり対照学習事前学習トランスフォーマーモデルです。

これは教師なしSimCSE手法に基づく日本語文埋め込みモデルで、高品質な日本語文埋め込み表現を生成するために特別に設計されています。

distilbert-base-uncasedをbecasv2データセットでファインチューニングしたモデル、検証損失は5.9506

文類似度計算と意味検索タスクのための汎用中国語文埋め込みモデル。

DistilBERTはBERTの軽量級蒸留バージョンで、BERTの97％の性能を維持しながら、サイズを40％縮小しています。

英語コーパスで事前学習されたTransformerモデルで、ELECTRAに似た自己教師あり学習方式を採用し、置換されたトークンを予測することで訓練されます。

英語コーパスで事前学習されたTransformerモデルで、ELECTRAに似た目的で学習され、テキスト特徴抽出と下流タスクの微調整に適しています。

CLUECorpusSmallで事前学習された中国語ALBERTモデルで、UER-pyフレームワークでトレーニングされ、中国語テキスト処理タスクに適しています。

英語コーパスを用いて事前学習されたTransformerモデルで、ELECTRAに似た目標タスクを採用し、自己教師付き学習によりテキスト表現を獲得します。

英語コーパスに基づいて事前学習されたTransformerモデルで、ELECTRAに類似した目的関数を採用し、自己教師付き方式で英語の内在的な表現を学習します。

bert-base-uncasedをベースに微調整されたデータスキルモデルで、特定のNLPタスクに適しています。

envibertはRoBERTaアーキテクチャに基づくバイリンガルモデルで、ベトナム語と英語の処理をサポートし、本番環境向けに最適化されています。

BERTはTransformerアーキテクチャに基づく事前訓練済み言語モデルで、マスク言語モデリングと次文予測タスクを通じて英語コーパスで訓練されています。

Funnel Transformerは自己教師付き学習に基づく英語テキストの事前学習モデルで、ELECTRAに似た目標タスクを採用し、シーケンスの冗長性をフィルタリングすることで効率的な言語処理を実現します。

CLUECorpusSmallで事前学習された中国語RoBERTaモデルで、8層512隠れユニットのパラメータ規模を持ち、様々な中国語NLPタスクに適しています。

gaBERTはBERTベースのアイルランド語単言語モデルで、790万のアイルランド語の文章で学習され、アイルランド語の下流タスクの微調整に適しています。

スペイン国立図書館(BNE)のデータを基に訓練されたGPT2 - largeのスペイン語言語モデル