XLM-RoBERTa-large開源多語言模型 - 免費部署支持多語言自然語言處理

首頁

Xlm Roberta Large

由kornesh開發

XLM-RoBERTa-large 是一個基於 RoBERTa 架構的多語言預訓練語言模型，支持多種語言的自然語言處理任務。

大型語言模型

Transformers

#多語言理解 #大規模預訓練 #跨語言遷移

下載量 2,154

發布時間 : 3/2/2022

模型概述

XLM-RoBERTa-large 是一個大規模多語言預訓練模型，基於 RoBERTa 架構改進而來，適用於多種跨語言的自然語言處理任務，如文本分類、命名實體識別、問答等。

模型特點

多語言支持

支持100多種語言，適用於跨語言的自然語言處理任務。

大規模預訓練

基於RoBERTa架構的大規模預訓練，具有強大的語言理解能力。

高效微調

可以通過微調適應多種下游任務，如文本分類、命名實體識別等。

模型能力

文本分類

命名實體識別

問答

文本生成

語言理解

使用案例

自然語言處理

跨語言文本分類

對多種語言的文本進行分類，如情感分析、主題分類等。

高準確率的多語言文本分類效果。

命名實體識別

識別文本中的命名實體，如人名、地名、組織名等。

在多語言環境下表現優異。

🚀 XLM - RoBERTa Large 轉換為 TensorFlow 版本

本項目主要實現將 xlm-roberta-large 模型轉換為 TensorFlow 版本，方便在 TensorFlow 環境下使用該模型。

🚀 快速開始

以下是將 xlm-roberta-large 模型轉換為 TensorFlow 版本的具體步驟和代碼示例：

# 定義模型名稱
name = "xlm-roberta-large"
# 刪除本地已有的 local 文件夾
!rm -rf local
# 從 Hugging Face 克隆指定模型到本地的 local 文件夾
!git clone https://huggingface.co/kornesh/"$name" local
# 從預訓練模型加載 TensorFlow 模型，將 PyTorch 模型轉換為 TensorFlow 模型
model = TFAutoModel.from_pretrained(name, from_pt=True)
# 從預訓練模型加載分詞器
tokenizer = AutoTokenizer.from_pretrained(name)
# 將轉換後的模型保存到本地的 local 文件夾
model.save_pretrained("local")
# 將分詞器保存到本地的 local 文件夾
tokenizer.save_pretrained("local")
# 進入 local 文件夾，安裝 Git LFS，添加所有文件到版本控制，提交更改並推送到遠程倉庫
!cd local/ && git lfs install && git add . && git commit -m "Initial commit" && git push

💻 使用示例

基礎用法

# 定義模型名稱
name = "xlm-roberta-large"
# 刪除本地已有的 local 文件夾
!rm -rf local
# 從 Hugging Face 克隆指定模型到本地的 local 文件夾
!git clone https://huggingface.co/kornesh/"$name" local
# 從預訓練模型加載 TensorFlow 模型，將 PyTorch 模型轉換為 TensorFlow 模型
model = TFAutoModel.from_pretrained(name, from_pt=True)
# 從預訓練模型加載分詞器
tokenizer = AutoTokenizer.from_pretrained(name)
# 將轉換後的模型保存到本地的 local 文件夾
model.save_pretrained("local")
# 將分詞器保存到本地的 local 文件夾
tokenizer.save_pretrained("local")
# 進入 local 文件夾，安裝 Git LFS，添加所有文件到版本控制，提交更改並推送到遠程倉庫
!cd local/ && git lfs install && git add . && git commit -m "Initial commit" && git push