Cryptoner

🚀 cryptoNER

cryptoNER是在xlm - roberta - base基礎上微調的模型，專注於加密貨幣領域的命名實體識別（NER）任務，能精準識別和分類文本中的加密貨幣實體。

🚀 快速開始

此模型是 [xlm - roberta - base](https://huggingface.co/xlm - roberta - base) 在特定數據集上的微調版本。在評估集上取得了以下結果：

• 損失值：0.0058
• F1值：0.9970

✨ 主要特性

• 該模型是xlm - roberta - base的微調版本，專門用於加密貨幣領域的命名實體識別（NER）。
• 能夠識別和分類文本中的加密貨幣實體，如TICKER SYMBOL（交易代碼）、NAME（名稱）和blockscanner ADDRESS（區塊鏈掃描器地址）。

📚 詳細文檔

預期用途

該模型主要設計用於加密貨幣領域的NER任務，擅長識別和分類文本中的交易代碼、代幣名稱和區塊鏈掃描器地址。

侷限性

當模型遇到訓練數據之外的實體或加密貨幣領域中不常出現的實體時，性能可能不佳。此外，模型可能容易受到實體呈現方式和上下文變化的影響。

訓練和評估數據

• 模型使用了多樣化的數據集進行訓練，包括人工生成的推文和通過Covalent API（https://www.covalenthq.com/docs/unified - api/）獲取的ERC20代幣元數據。
• 使用GPT生成了500條針對加密貨幣領域的合成推文。
• Covalent API獲取了20K + 獨特的ERC20代幣元數據條目，增強了模型對加密貨幣實體的理解和識別能力。

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• 學習率：5e - 05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 訓練輪數：6

訓練結果

框架版本

• Transformers 4.34.1
• Pytorch 2.1.0 + cu118
• Datasets 2.14.6
• Tokenizers 0.14.1

📄 許可證

本模型採用MIT許可證。