Bertin Base Random

🚀 RoBERTa-base 西班牙語模型

這是一個基於西班牙語從頭開始訓練的 RoBERTa-base 模型，能夠解決西班牙語相關的自然語言處理任務，為西班牙語的文本處理提供了強大的支持。

🚀 快速開始

此模型可用於西班牙語的掩碼填充任務，例如輸入 Fui a la librería a comprar un <mask>. ，模型會嘗試預測 <mask> 處的內容。

✨ 主要特性

• 基於 RoBERTa-base 架構，專門針對西班牙語進行訓練。
• 使用 mc4 數據集進行訓練，該數據集經過隨機採樣，約有 5000 萬個示例。
• 模型訓練了 230,000 步（在原計劃的 250,000 步之前提前停止）。

📚 詳細文檔

更多信息請查看我們的主 卡片。

本項目是 Flax/Jax 社區周 的一部分，由 HuggingFace 組織，TPU 使用由 Google 贊助。

🔧 團隊成員

• Eduardo González (edugp)
• Javier de la Rosa (versae)
• Manu Romero (mrm8488)
• María Grandury (mariagrandury)
• Pablo González de Prado (Pablogps)
• Paulo Villegas (paulo)

📄 許可證

本模型採用 CC BY 4.0 許可證。