Roberta TR Medium Morph 44k

🚀 RoBERTa土耳其語中型形態級別44k（無大小寫區分）

本項目是一個基於掩碼語言模型（MLM）目標，在土耳其語上進行預訓練的模型。該模型不區分大小寫。預訓練語料庫採用了OSCAR的土耳其語部分，並進行了進一步的篩選和清理。

🚀 快速開始

本模型在運行前需要進行預處理步驟，因為分詞器文件並非形態分析器。也就是說，測試數據集無法使用分詞器文件拆分為詞素。用戶在進行評估之前，需要使用土耳其語形態分析器（在本項目中為Zemberek）對任何測試數據集進行處理。

以下代碼可用於模型加載和分詞，示例中的最大長度（514）可以根據需求更改：

model = AutoModel.from_pretrained([model_path])
# 用於序列分類：
# model = AutoModelForSequenceClassification.from_pretrained([model_path], num_labels=[num_classes])

tokenizer = PreTrainedTokenizerFast(tokenizer_file=[file_path])
tokenizer.mask_token = "[MASK]"
tokenizer.cls_token = "[CLS]"
tokenizer.sep_token = "[SEP]"
tokenizer.pad_token = "[PAD]"
tokenizer.unk_token = "[UNK]"
tokenizer.bos_token = "[CLS]"
tokenizer.eos_token = "[SEP]"
tokenizer.model_max_length = 514

✨ 主要特性

• 模型架構：與bert - medium類似（8層、8頭，隱藏層大小為512）。
• 分詞算法：採用形態級別分詞算法，即根據土耳其語形態分析器（Zemberek）對文本進行拆分。
• 詞彙量：詞彙量大小為43.6k。

📚 詳細文檔

模型的詳細信息和性能比較可在以下論文中找到：Impact of Tokenization on Language Models: An Analysis for Turkish

BibTeX引用

@misc{https://doi.org/10.48550/arxiv.2204.08832,
  doi = {10.48550/ARXIV.2204.08832},
  url = {https://arxiv.org/abs/2204.08832},
  author = {Toraman, Cagri and Yilmaz, Eyup Halit and Şahinuç, Furkan and Ozcelik, Oguzhan},
  keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
  title = {Impact of Tokenization on Language Models: An Analysis for Turkish},
  publisher = {arXiv},
  year = {2022},
  copyright = {Creative Commons Attribution Non Commercial Share Alike 4.0 International}
}

📄 許可證

本模型採用CC - BY - NC - SA 4.0許可證。

⚠️ 重要提示

本模型在運行前需要進行預處理步驟，因為分詞器文件並非形態分析器。也就是說，測試數據集無法使用分詞器文件拆分為詞素。用戶在進行評估之前，需要使用土耳其語形態分析器（在本項目中為Zemberek）對任何測試數據集進行處理。

📦 模型信息