flan - t5 - xl - ggufオープンソースAIモデル - 千の多言語タスクで微調整され、性能がより優れています

ホーム

Flan T5 Xl Gguf

deepfileによって開発

FLAN-T5はT5モデルの指示ファインチューニング版で、1000以上の多言語タスクで微調整され、同じパラメータ数でより優れた性能を発揮します。

大規模言語モデル複数言語対応オープンソースライセンス:Apache-2.0 #マルチタスク指示ファインチューニング #多言語理解 #論理的推論強化

ダウンロード数 61

リリース時間 : 12/9/2023

モデル概要

FLAN-T5 XLはT5アーキテクチャに基づく指示ファインチューニングモデルで、複数の言語とタスクをサポートし、強力な少数ショット学習能力を持っています。

モデル特徴

マルチタスク指示ファインチューニング

1000以上のタスクで微調整されており、複数の言語とタスクタイプをカバーしています

少数ショット学習能力

より大きなモデルと比較しても、強力な少数ショット性能を示します

多言語サポート

英語、フランス語、ドイツ語、ルーマニア語など複数の言語処理をサポートしています

モデル能力

テキスト生成

翻訳

質問応答

論理的推論

科学知識解答

数学的推論

ブール式計算

使用事例

自然言語処理

多言語翻訳

複数の言語間のテキスト翻訳をサポート

複雑な質問応答

推論を必要とする知識問題に回答可能

教育

数学問題解答

数学的推論問題を解決可能

科学知識解答

様々な科学問題に回答

🚀 FLAN - T5 XLモデルカード

FLAN - T5 XLは、T5モデルをベースにさらに高度化されたモデルです。同じパラメータ数で、1000以上の追加タスクでファインチューニングされ、より多くの言語に対応しています。

🚀 クイックスタート

このモデルは、さまざまなタスクに対応しており、以下にいくつかの使用例を示します。

モデルのサポート言語

英語 (en)
フランス語 (fr)
ルーマニア語 (ro)
ドイツ語 (de)
多言語 (multilingual)

使用例

タスクタイトル	入力テキスト
翻訳	"Translate to German: My name is Arthur"
質問応答	"Please answer to the following question. Who is going to be the next Ballon d'or?"
論理的推論	"Q: Can Geoffrey Hinton have a conversation with George Washington? Give the rationale before answering."
科学的知識	"Please answer the following question. What is the boiling point of Nitrogen?"
はい/いいえの質問	"Answer the following yes/no question. Can you write a whole Haiku in a single tweet?"
推論タスク	"Answer the following yes/no question by reasoning step - by - step. Can you write a whole Haiku in a single tweet?"
ブール式	"Q: ( False or not False or False ) is? A: Let's think step by step"
数学的推論	"The square root of x is the cube root of y. What is y to the power of 2, if x = 4?"
前提と仮説	"Premise: At my age you will probably have learnt one lesson. Hypothesis: It's not certain how many lessons you'll learn by your thirties. Does the premise entail the hypothesis?"

使用データセット

svakulenk0/qrecc
taskmaster2
djaym7/wiki_dialog
deepmind/code_contests
lambada
gsm8k
aqua_rat
esnli
quasc
qed

ライセンス

このモデルは、Apache - 2.0ライセンスの下で提供されています。

📚 ドキュメント

要約

もしあなたが既にT5を知っているなら、FLAN - T5はあらゆる点でより優れています。同じパラメータ数で、これらのモデルは1000以上の追加タスクでファインチューニングされ、より多くの言語に対応しています。

論文の冒頭で述べられているように：

Flan - PaLM 540Bは、いくつかのベンチマークで最先端の性能を達成しています。例えば、5ショットのMMLUで75.2％の精度を達成しています。また、Flan - T5のチェックポイントも公開しています。これは、PaLM 62Bのようなはるかに大きなモデルと比較しても、強力なフェデレーションラーニング性能を発揮します。全体的に、命令に基づくファインチューニングは、事前学習された言語モデルの性能と使いやすさを向上させるための一般的な方法です。

免責事項：このモデルカードの内容はHugging Faceチームによって作成されており、一部は[T5モデルカード](https://huggingface.co/t5 - large)からコピー&ペーストされています。