T5 Small Onnx

🚀 [t5-small ONNX格式導出模型]

t5-small 模型已成功導出為ONNX格式，該模型支持多語言處理，可用於文本摘要和翻譯等任務，具有廣泛的應用價值。

🚀 快速開始

此模型可藉助Transformers的 pipeline 進行使用，以下是使用示例：

from transformers import AutoTokenizer, pipeline
from optimum.onnxruntime import ORTModelForSeq2SeqLM
tokenizer = AutoTokenizer.from_pretrained("echarlaix/t5-small-onnx")
model = ORTModelForSeq2SeqLM.from_pretrained("echarlaix/t5-small-onnx")
translator = pipeline("translation_en_to_fr", model=model, tokenizer=tokenizer)
results = translator("My name is Eustache and I have a pet raccoon")
print(results)

✨ 主要特性

• 多語言支持：支持英語（en）、法語（fr）、羅馬尼亞語（ro）、德語（de）等多種語言，具備多語言處理能力。
• 特定任務應用：適用於文本摘要和翻譯等任務。

📚 詳細文檔

模型描述

T5 是一個編碼器 - 解碼器模型，它在無監督和有監督任務的多任務混合上進行了預訓練，並且每個任務都被轉換為文本到文本的格式。

如需更多信息，請查看原始論文：

• 論文：Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer
• 作者：Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee, Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li, Peter J. Liu

📄 許可證

本模型採用 Apache-2.0 許可證。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, pipeline
from optimum.onnxruntime import ORTModelForSeq2SeqLM
tokenizer = AutoTokenizer.from_pretrained("echarlaix/t5-small-onnx")
model = ORTModelForSeq2SeqLM.from_pretrained("echarlaix/t5-small-onnx")
translator = pipeline("translation_en_to_fr", model=model, tokenizer=tokenizer)
results = translator("My name is Eustache and I have a pet raccoon")
print(results)

高級用法

暫未提供高級用法示例，若有更多需求可參考模型文檔進一步探索。