# 小規模パラメータ

T5-smallアーキテクチャをxsumデータセットでファインチューニングしたテキスト要約モデルで、簡潔な要約を生成できます。

google-t5/t5-smallをファインチューニングしたニュース要約生成モデルで、ニューステキストの簡潔な要約を生成できます。

これはデバッグ用の小型CLIPモデルで、ViTアーキテクチャに基づき、重みをランダムに初期化しています。

GPT-2はTransformerアーキテクチャに基づく自己監督事前学習言語モデルで、テキスト生成タスクに長けています。

Super-Natural Instructionsデータセットを用いて命令ファインチューニングされた125Mパラメータの言語モデルで、様々な自然言語処理タスクに適しています。

1億3400万パラメータ、768次元のLlama軽量版、文埋め込みベクトル生成用

このモデルはSQuADデータセットを使用してELECTRA-small判別器をファインチューニングしたバージョンで、質問応答タスクに適しています。

ドイツ語データを使用してゼロからトレーニングされたBLOOM-350m言語モデルで、BLOOMシリーズの小規模バージョンであり、ドイツ語テキスト生成タスクに特化しています。

TAPAS (Table Parser) はGoogle Researchによって開発された表ベースの事前学習言語モデルで、表データと自然言語クエリの処理に特化しています。

DanBERTはBERT-Baseアーキテクチャに基づくデンマーク語事前学習モデルで、200万以上のデンマーク語テキストで学習されています。

GPT - 2アーキテクチャに基づいて事前学習されたフィンランド語言語モデル、117Mパラメータ版