# クロスタスクファインチューニング

フィンランド語で事前学習されたT5モデルで、スパンベースのマスク言語モデリング目標を採用しており、下流タスク用にファインチューニングが必要

T5-Efficient-TINY-NL32はGoogleオリジナルT5のバリエーションで、深層ナローアーキテクチャを採用し、モデルの深さを優先して下流タスクの性能を最適化しています。

T5効率的小型-NL22はGoogleのT5モデルの深層ナロー変種で、モデルの深さを増やすことで下流タスクの性能向上に焦点を当てています。

T5-Efficient-SMALL-KV32はGoogleオリジナルT5のバリアントで、深層ナローアーキテクチャを採用し、下流タスクの性能向上に焦点を当てています。

T5-Efficient-TINY-FF12000はGoogleオリジナルT5のバリエーションで、深層ナローアーキテクチャを採用し、類似パラメータ数のモデルと比較して優れた下流タスク性能を示します。

T5-Efficient-MINIはGoogleオリジナルT5の変種で、深層ナローアーキテクチャを採用し、パラメータ数が類似するモデルアーキテクチャの中で優れた下流タスク性能を示します。

T5-Efficient-SMALL-DM768 は Google のオリジナル T5 のバリエーションで、ディープナローアーキテクチャを採用し、下流タスクの性能向上のためにモデルの深さを優先的に増やしています。

T5-Efficient-SMALL-EL2はGoogleオリジナルT5のバリアントで、深層ナローアーキテクチャを採用し、下流タスクの性能向上のためにモデルの深さを優先的に増加させています。

T5-Efficient-SMALLはGoogleオリジナルT5のバリアントで、ディープナローアーキテクチャを採用し、パラメータ数が近い場合、下流タスクの性能が他のアーキテクチャを上回ります。