T5 V1 1 Base Ko

🚀 team-lucid/t5-v1_1-base-ko

本項目是基於谷歌的T5 1.1版本，在韓語語料庫上訓練得到的模型。t5-v1_1-base-ko是在韓語語料庫上訓練的t5 v1.1模型，為防止未登錄詞（OOV）問題，使用了字節對編碼（BBPE）。受HyperCLOVA中形態分析有助於提高性能的啟發，在分詞器訓練過程中使用MeCab進行形態分析，避免形態被錯誤分詞。本研究使用谷歌TPU研究雲（TRC）提供的Cloud TPU進行訓練。

🚀 快速開始

本模型是基於谷歌的T5 1.1版本，在韓語語料庫上訓練得到的。它使用了BBPE來避免OOV問題，並在分詞器訓練中利用MeCab進行形態分析，防止形態被錯誤分詞。模型訓練藉助了谷歌的Cloud TPU。

✨ 主要特性

• 基於谷歌T5 1.1版本，在韓語語料庫上進行訓練。
• 使用BBPE防止未登錄詞（OOV）問題。
• 在分詞器訓練過程中使用MeCab進行形態分析，避免形態被錯誤分詞。
• 藉助谷歌TPU研究雲（TRC）的Cloud TPU進行訓練。

📦 安裝指南

暫未提及安裝步驟，可參考transformers庫的安裝方式。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, T5ForConditionalGeneration

tokenizer = AutoTokenizer.from_pretrained('team-lucid/t5-v1_1-base-ko')
model = T5ForConditionalGeneration.from_pretrained('team-lucid/t5-v1_1-base-ko')

📄 許可證

本項目採用Apache-2.0許可證。