Distilbert Base Uncased Squad2 With Ner With Neg With Multi

🚀 distilbert-base-uncased-squad2-with-ner-with-neg-with-multi

該模型是 twmkn9/distilbert-base-uncased-squad2 在 conll2003 數據集上的微調版本，可用於問答等相關任務。

🚀 快速開始

此部分暫未提供具體的快速開始內容，若有相關代碼示例或操作步驟可進一步補充。

✨ 主要特性

此部分暫未提供模型的主要特性描述，後續可詳細說明模型在問答任務中的優勢等內容。

📦 安裝指南

此部分未提及具體的安裝步驟，若有依賴庫的安裝命令等內容可進行展示。

💻 使用示例

此部分未包含代碼示例，若有使用該模型進行問答任務的代碼，可按如下格式展示：

基礎用法

# 此處放置基礎使用的代碼和註釋

高級用法

# 此處放置高級場景下的代碼和說明

📚 詳細文檔

此部分未提供詳細的文檔內容，後續可補充模型的詳細使用說明、參數解釋等。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：2e - 05
• 訓練批次大小（train_batch_size）：16
• 評估批次大小（eval_batch_size）：8
• 隨機種子（seed）：42
• 優化器（optimizer）：Adam，其中 betas = (0.9, 0.999)，epsilon = 1e - 08
• 學習率調度器類型（lr_scheduler_type）：線性
• 訓練輪數（num_epochs）：5.0

框架版本

• Transformers：4.8.2
• Pytorch：1.8.1 + cu111
• Datasets：1.8.0
• Tokenizers：0.10.3

📄 許可證

此部分未提及許可證信息，若有相關內容可進行展示。