Xlm Roberta Base

🚀 XLM-RoBERTa模型TensorFlow轉換

本項目主要實現了將XLM-RoBERTa模型轉換為TensorFlow可用的格式，方便在TensorFlow環境下使用該預訓練模型。

🚀 快速開始

安裝依賴

首先，你需要安裝transformers和sentencepiece庫，可以使用以下命令進行安裝：

!pip install transformers sentencepiece

加載模型和分詞器

使用以下代碼加載XLM-RoBERTa基礎模型和對應的分詞器：

from transformers import TFAutoModel, AutoTokenizer
name = "xlm-roberta-base"
model = TFAutoModel.from_pretrained(name, from_pt=True)
tokenizer = AutoTokenizer.from_pretrained(name)

保存模型和分詞器

將加載的模型和分詞器保存到本地，方便後續使用：

model.save_pretrained("local-xlm-roberta-base")
tokenizer.save_pretrained("local-xlm-roberta-base")

💻 使用示例

基礎用法

以下是完整的代碼示例，展示瞭如何將XLM-RoBERTa模型轉換為TensorFlow格式並保存到本地：

# 安裝依賴庫
!pip install transformers sentencepiece
# 導入必要的庫
from transformers import TFAutoModel, AutoTokenizer
# 指定模型名稱
name = "xlm-roberta-base"
# 從預訓練模型加載TensorFlow模型
model = TFAutoModel.from_pretrained(name, from_pt=True)
# 從預訓練模型加載分詞器
tokenizer = AutoTokenizer.from_pretrained(name)
# 保存模型到本地
model.save_pretrained("local-xlm-roberta-base")
# 保存分詞器到本地
tokenizer.save_pretrained("local-xlm-roberta-base")