Flan T5 Xxl Sharded Fp16

🚀 FLAN - T5 XXLのフォーク版

このリポジトリはgoogle/flan - t5 - xxlのフォーク版で、t5 - 11bを単一のNVIDIA A10Gで推論エンドポイントと共に使用する方法の例として、カスタムのhandler.pyを実装しています。

1クリックでflan - t5 - xxlをデプロイすることができます。 「量子化」バージョンを使用しているため、インスタンスタイプを**"GPU [medium] · 1x Nvidia A10G"**に切り替えることができます。

🚀 クイックスタート

このセクションでは、flan - t5 - xxlをデプロイする手順を説明します。上記のリンクをクリックすることで簡単にデプロイを開始できます。

✨ 主な機能

FLAN - T5の性能向上

既存のT5に比べ、FLAN - T5はあらゆる点で優れています。同じパラメータ数で、1000以上の追加タスクでファインチューニングされ、より多くの言語に対応しています。

高い汎用性

論文の冒頭でも述べられているように、Flan - PaLM 540Bはいくつかのベンチマークで最先端の性能を達成しています。また、公開されているFlan - T5のチェックポイントは、大規模なモデルと比較しても強力な少ショット学習性能を示します。

📚 ドキュメント

TL;DR

すでにT5に精通している方にとって、FLAN - T5はあらゆる点で優れています。同じパラメータ数で、1000以上の追加タスクでファインチューニングされ、より多くの言語に対応しています。

論文の冒頭で述べられているように、Flan - PaLM 540Bはいくつかのベンチマークで最先端の性能を達成しています。例えば、five - shot MMLUで75.2%の精度を達成しています。また、公開されているFlan - T5のチェックポイントは、大規模なモデルと比較しても強力な少ショット学習性能を示します。

免責事項: このモデルカードの内容はHugging Faceチームによって作成され、一部はT5モデルカードからコピー&ペーストされています。

モデルの詳細

モデルの説明

📄 ライセンス

このモデルはApache 2.0ライセンスの下で公開されています。