Shakespear GPT2

🚀 輸出模型

該模型是在莎士比亞戲劇數據集上對 gpt2 進行微調後的版本，可用於生成類似莎士比亞風格的文本，具有一定的文學創作輔助價值。

🚀 快速開始

本部分暫未提供相關內容。

✨ 主要特性

• 基於原始的 gpt-2 模型，在自定義數據集上進行微調。
• 能夠生成類似莎士比亞風格的文本，可能會重現戲劇的排版結構。

📚 詳細文檔

模型描述

該模型是在自定義數據集上對原始的 gpt-2 模型進行微調得到的。

預期用途和限制

此模型可用於生成類似莎士比亞風格的文本。需要注意的是，由於訓練數據來自戲劇，生成的文本可能會重現這種排版結構。

訓練和評估數據

使用莎士比亞戲劇語料庫進行訓練。

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：5e-05
• 訓練批次大小（train_batch_size）：1
• 評估批次大小（eval_batch_size）：8
• 隨機種子（seed）：42
• 優化器（optimizer）：Adam，其中 betas=(0.9, 0.999)，epsilon=1e-08
• 學習率調度器類型（lr_scheduler_type）：線性
• 訓練輪數（num_epochs）：2.0

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.0+cu111
• Datasets 1.18.0
• Tokenizers 0.11.0

📄 許可證

本模型採用 MIT 許可證。