Mt5 Small Thaisum 512 Title

🚀 mt5-small-thaisum-512-title

This model is a fine - tuned summarization model. It is based on Nopphakorn/mt5-small-thaisum-512-title and trained on an unknown dataset. It can effectively summarize Thai texts.

🚀 Quick Start

Inference

from transformers import pipeline
text = "เป็นอีกหนึ่งดาราที่มากความสามารถ สำหรับสาว คิทตี้ ชิชา อมาตยกุล ที่ทั้งเล่นหนัง ละคร มิวสิกวิดีโอ เธอก็ได้ทำได้อย่างดีเยี่ยม อีกทั้งเธอยังมีชื่อเสียงในวงการนางแบบอีกด้วย ล่าสุดเธอได้ร่วมเดินแบบในงาน Elle Fashion Week บนแคตวอล์กของแบรนด์ Vickteerut คอลเลกชั่น Autumn/Winter 2017,ซึ่งงานนี้สาวคิทตี้พกความมั่นใจมาเกินร้อย วิญญาณนางแบบมาเต็ม เธอมาในชุดเดรสที่ท่อนบนเป็นซีทรูแบบเปลือยอก เผยให้เห็นหน้าอกเกือบทั้งหมด มีเพียงสติกเกอร์ปิดจุกไว้เท่านั้น ทำเอาผู้ชมรอบข้างเกิดความตะลึงไม่น้อย กับความกล้าของเธอในครั้งนี้ เห็นแล้วต้องยกนิ้วยอมรับความเป็นมืออาชีพของเธอจริงๆ ,โดยคิทตี้ได้ออกมาเผยถึงการเดินแบบในครั้งนี้ว่า ไม่แคร์ ไม่ได้คิดอะไรมาก เพราะมองว่าเป็นศิลปะ นางแบบที่เดินกันในวันนั้นก็เปลือยเหมือนกันหมดทุกคน และนี่เป็นอีกผลงานในวงการที่ไม่คิดว่าเป็นเรื่องน่าเสียหาย ทางครอบครัวก็ไม่มีใครมายุ่งเรื่องของการทำงาน.,ภาพจากอินสตาแกรม @aofsod, @nenagraphy, @on_dcatwalk"
summarizer = pipeline("summarization", model="Nopphakorn/mt5-small-thaisum-512-title")
summarizer([text], max_length=46)

📚 Documentation

Evaluation Results

This model achieves the following results on the evaluation set:

• eval_loss: 2.2003
• eval_rouge1: 0.0768
• eval_rouge2: 0.0113
• eval_rougeL: 0.075
• eval_rougeLsum: 0.0755
• eval_gen_len: 19.0
• eval_runtime: 43.9726
• eval_samples_per_second: 15.487
• eval_steps_per_second: 1.956
• epoch: 27.0
• step: 20655

🔧 Technical Details

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e - 05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e - 08
• lr_scheduler_type: cosine
• num_epochs: 100

Framework versions

• Transformers 4.29.2
• Pytorch 2.0.0+cu118
• Datasets 2.12.0
• Tokenizers 0.13.3

📄 License

This model is under the Apache - 2.0 license.