R

Roberta News

由AndyReas開發
基於RoBERTa架構的新聞領域掩碼語言模型,專門針對新聞文本進行預訓練
下載量 17
發布時間 : 4/28/2023

模型概述

該模型是基於RoBERTa架構的掩碼語言模型,專門針對新聞文本進行預訓練,適用於新聞相關的文本生成和補全任務。

模型特點

新聞領域專用
專門使用1300萬篇英語新聞文章進行預訓練,對新聞文本有更好的理解
數據清洗嚴格
訓練數據經過嚴格清洗,去除了重複文章和媒體標籤等噪音
完整訓練
模型參數隨機初始化後進行了完整3個epoch的訓練,包含50K步預熱

模型能力

新聞文本補全
掩碼預測
文本生成

使用案例

新聞內容生成
天氣預報補全
補全天氣預報中的缺失信息
能準確預測天氣相關的日期和地點信息
新聞標題生成
根據部分內容生成完整的新聞標題
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase