# 長文テキスト処理

MiniCPM4はエッジデバイス向けに設計された高効率大規模言語モデルで、システム革新によりモデルアーキテクチャ、学習データ、学習アルゴリズム、推論システムの4つの重要な次元で極限までの効率向上を実現しています。

MiniCPM4はエッジデバイス向けに設計された高効率大規模言語モデルで、システム革新によりモデルアーキテクチャ、学習データ、学習アルゴリズム、推論システムの4つの次元で極限までの効率向上を実現し、エッジチップ上で5倍以上の生成速度向上を達成します。

これは、ModernBERT-largeから微調整されたクロスエンコーダモデルで、テキストペアのスコアを計算するために使用され、テキストの再ランキングと意味的検索タスクに適しています。

これはModernBERT-baseから微調整されたクロスエンコーダモデルで、テキストペアのスコアを計算するために使用され、テキストの再ランキングと意味検索タスクに適しています。

DUOはTransformersライブラリに基づく事前学習モデルで、マスク言語モデリングタスクに特化しており、自然言語処理分野に適用されます。

BAAI/bge-m3を微調整したスペイン語の文埋め込みモデルで、法律分野に特化して最適化されており、意味検索や情報検索タスクに適しています。

PrunaAIが圧縮したMPT-7Bストーリーライティングモデル。llm-int8技術により高効率推論を実現

google/pegasus-multi_newsをファインチューニングしたニュースタイトル生成モデルで、複数文書入力から簡潔なタイトルを生成するのに優れています。

英語コーパスで事前学習されたBARTモデルで、CNNデイリーメールデータセットに特化してファインチューニングされ、テキスト要約タスクに適しています。

RoBERTaアーキテクチャに基づくエンコーダ - デコーダモデルで、文の融合タスク用に設計されています。

BigBirdアーキテクチャに基づく質問応答モデルで、自然質問データセットに対して最適化された訓練を行っています。

Megatron-LMフレームワークに基づいて実装されたスウェーデン語Bert Largeモデルで、3億4000万のパラメータを含み、85GBのスウェーデン語テキストで事前学習されています。

GPT - J 6Bをベースにしたノルウェー語の微調整バージョンで、60億パラメータ規模のTransformerモデル

BigBirdアーキテクチャに基づく中国語の事前学習モデルで、全単語マスキング(WWM)戦略を採用し、4096の長さのコンテキストウィンドウをサポートします。

これはAutoNLPを基に訓練されたインドネシア語要約生成モデルで、入力テキストの要約を自動生成することができます。

自然言語生成タスクの処理に特化した、現在最大の中国語GPT2モデルです。