T5 Vietnamese Summarization

🚀 t5-vietnamese-summarization

このモデルは、pengold/t5-vietnamese-summarization を未知のデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 4.6288
• Rouge1: 0.4728
• Rouge2: 0.1669
• Rougel: 0.3049
• Rougelsum: 0.3049
• 生成長: 18.7458

🚀 クイックスタート

このモデルはベトナム語の文章要約に使用できます。以下に推論パラメータの例を示します。

{
    "parameters": {
        "min_length": 5,
        "max_length": 150
    }
}

✨ 主な機能

• ベトナム語文章の要約機能を提供します。
• Rouge指標を用いた評価において良好な結果を示します。

📦 インストール

原READMEにインストール手順に関する内容がありませんでしたので、このセクションは省略します。

💻 使用例

基本的な使用法

以下は要約の入力テキストの例です。

{
    "text": "summarize: Thảo luận phiên chuyên đề 2 về năng suất lao động tại Diễn đàn Kinh tế - Xã hội 2023 ngày 19/9, Chuyên gia Kinh tế quốc tế Jonathan Pincus (Tổ chức phát triển Liên hợp quốc tại Việt Nam) nói việc tăng năng suất lao động cần nhìn nhận trong quá trình dài hơi thay vì trong giai đoạn ngắn. Rất khó để một quốc gia có thể tăng trưởng năng suất nhanh trong một giai đoạn dài, đó chính là bẫy năng suất trung bình, ông Pincus đúc rút, gọi đây là mối đe dọa lớn.",
    "example_title": "Example 1"
}

高度な使用法

複数の入力テキストを用いた要約の例です。

[
    {
        "text": "summarize: Thảo luận phiên chuyên đề 2 về năng suất lao động tại Diễn đàn Kinh tế - Xã hội 2023 ngày 19/9, Chuyên gia Kinh tế quốc tế Jonathan Pincus (Tổ chức phát triển Liên hợp quốc tại Việt Nam) nói việc tăng năng suất lao động cần nhìn nhận trong quá trình dài hơi thay vì trong giai đoạn ngắn. Rất khó để một quốc gia có thể tăng trưởng năng suất nhanh trong một giai đoạn dài, đó chính là bẫy năng suất trung bình, ông Pincus đúc rút, gọi đây là mối đe dọa lớn.",
        "example_title": "Example 1"
    },
    {
        "text": "summarize: Đây là nỗ lực của chính phủ nhằm giảm đi cơn sốt trên thị trường chứng khoán. Quyết định này có tác động ngay lập tức. Chỉ số chính của thị trường chứng khoán Thượng Hải khi đóng cửa giảm 281.8 điểm, ở mức 4053.1. Một số phân tích gia nói việc cổ phiếu sụt giá cũng chỉ mang tính tạm thời mà thôi. Ngân hàng Thế giới giờ đây dự đoán nền kinh tế Trung Quốc sẽ tăng 10.4% trong năm nay. Lúc trước, Ngân hàng Thế giới dự đoán kinh tế Trung Quốc sẽ tăng 9.6% trong năm 2007. Với việc Bắc Kinh đưa ra hành động nhằm giảm nhiệt thị trường chứng khoán vào hôm thứ Tư, thuế đối với cổ phiếu giao dịch giờ đây tăng từ 0.1% lên 0.3%. Tính đến phiên đóng cửa vào hôm thứ Ba, chỉ số cổ phiếu Thượng Hải đã tăng 62% trong năm nay, và có giá trị tăng gấp bốn lần kể từ đầu năm 2006. Ông Thomas Gruener từ Landesbank Berlin nói: “Hành động này có thể tạo ra việc điều chỉnh giá nhưng nhìn chung chúng tôi không cho là xu hướng sẽ thay đổi”. Tuy nhiên, việc cổ phiếu Thượng Hải sụt giá có thể sẽ tác động tới tâm lý của các thị trường chứng khoán châu Âu. Thế nên các chỉ số chứng khoán tại châu Âu khi mở cửa hôm thứ Tư đều hạ.",
        "example_title": "Example 2"
    }
]

📚 ドキュメント

モデルの詳細

このモデルはpengold/t5-vietnamese-summarizationをベースにファインチューニングされたものです。

意図された用途と制限

原READMEに意図された用途と制限に関する詳細な内容がありませんでしたので、この部分の説明は省略します。

学習と評価データ

原READMEに学習と評価データに関する詳細な内容がありませんでしたので、この部分の説明は省略します。

🔧 技術詳細

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 2e-05
• 学習バッチサイズ: 16
• 評価バッチサイズ: 16
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: linear
• エポック数: 70

学習結果

フレームワークのバージョン

• Transformers 4.33.2
• Pytorch 2.0.1+cu117
• Datasets 2.14.5
• Tokenizers 0.13.3

📄 ライセンス

このモデルはCC-BY-4.0ライセンスの下で提供されています。