Bart Large Samsum

🚀 bart-large-samsum

このモデルは、MicrosoftのAzure Machine Learning Serviceを使用してトレーニングされました。facebook/bart-largeのチェックポイントからsamsumコーパスでファインチューニングされました。

🚀 クイックスタート

このモデルは、MicrosoftのAzure Machine Learning Serviceを使ってトレーニングされ、facebook/bart-largeのチェックポイントからsamsumコーパスでファインチューニングされました。以下に使い方を紹介します。

💻 使用例

基本的な使用法

from transformers import pipeline
summarizer = pipeline("summarization", model="linydub/bart-large-samsum")

input_text = '''
    Henry: Hey, is Nate coming over to watch the movie tonight?
    Kevin: Yea, he said he'll be arriving a bit later at around 7 since he gets off of work at 6. Have you taken out the garbage yet?
    Henry: Oh I forgot. I'll do that once I'm finished with my assignment for my math class.
    Kevin: Yea, you should take it out as soon as possible. And also, Nate is bringing his girlfriend.
    Henry: Nice, I'm really looking forward to seeing them again.
'''
summarizer(input_text)

📚 詳細ドキュメント

🔗 AzureMLでのファインチューニング

ファインチューニングプロセスの詳細情報（サンプルやベンチマークを含む）:
[Preview] https://github.com/linydub/azureml-greenai-txtsum

📊 リソース使用状況

これらの結果はAzure Monitor Metricsから取得されました。すべての実験はAzureMLの低優先度コンピュートクラスタで実行されました。

*コンピュートコスト ($) は、実行時間、使用されたコンピュートノードの数、およびSKUの1時間あたりの価格から推定されます。最新のSKU価格はこちらで確認できます。

🌱 炭素排出量

これらの結果はCodeCarbonを使用して取得されました。炭素排出量はトレーニング実行時間のみから推定されています（セットアップと評価の実行時間は除外）。

⚙️ ハイパーパラメータ

• max_source_length: 512
• max_target_length: 90
• fp16: True
• seed: 1
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• gradient_accumulation_steps: 1
• learning_rate: 5e-5
• num_train_epochs: 3.0
• weight_decay: 0.1

📈 結果

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で提供されています。