Long T5 Tglobal Base 16384 Booksum V11 Big Patent V2

🚀 pszemraj/long - t5 - tglobal - base - 16384 - booksum - V11 - big_patent - V2

このモデルは、長文の要約タスクに特化しており、Transformerベースのアーキテクチャを利用し、長いシーケンスを効率的に処理できます。大規模なデータセットで訓練され、高いROUGEスコアを達成しています。

✨ 主な機能

• 長文要約: 大規模な文書や書籍の要約に適しています。
• 低コスト処理: ブロックスパースアテンションを使用し、長いシーケンスを低コストで処理できます。
• 高精度: 高いROUGEスコアを達成しています。

📦 インストール

インストールに関する具体的な手順は提供されていません。

💻 使用例

基本的な使用法

# コード例は提供されていませんが、一般的な要約タスクでの使用イメージ
from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

model_name = "pszemraj/long-t5-tglobal-base-16384-booksum-V11-big_patent-V2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)

input_text = "大規模な地震は、破裂のための歪みエネルギーを蓄積するのに時間がかかるため、一定の断層セグメントに沿ってランダムな間隔で発生するわけではありません。"
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(**inputs)
summary = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(summary)

📚 ドキュメント

パラメータ

評価結果

📄 ライセンス

• Apache - 2.0
• BSD - 3 - Clause