🚀 Llama 3 8B - 荷蘭語版

基於Llama 3 8B開發的荷蘭語對話模型，為荷蘭語交流提供智能支持

該模型是 meta-llama/Meta-Llama-3-8B 基於合成反饋數據集 BramVanroy/ultra_feedback_dutch，通過 QLORA 和 ORPO 進行微調後的版本。

📚 模型描述

此模型是一個荷蘭語聊天模型，最初基於Llama 3 8B開發，並通過 ORPO 在反饋數據集上進一步優化，在 BramVanroy/ultra_feedback_dutch 數據集上進行訓練。

📌 預期用途與限制

儘管該模型已與具有強大內容過濾功能的gpt - 4 - turbo輸出對齊，但仍可能生成錯誤、誤導性甚至可能冒犯性的內容。使用時請自行承擔風險。

⚙️ 訓練過程

該模型在單張H100 80GB SXM5 GPU上，以bfloat16格式結合QLORA和Flash Attention 2進行訓練，在RunPod平臺上訓練了約24小時。

📊 評估結果

該模型使用 scandeval 進行評估。

在不同的基準測試中，該模型表現參差不齊；在某些基準測試中略有改進，而在其他測試中得分有所下降。儘管僅使用200,000個樣本進行了一個輪次的訓練，但我們仍好奇通過使用更多數據或增加訓練輪次是否能提高其性能。

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：8e - 06
• 訓練批次大小：2
• 評估批次大小：2
• 設備數量：1
• 梯度累積步數：4
• 優化器：paged_adamw_8bit
• 學習率調度器類型：線性
• 預熱步數：10
• 訓練輪數：1.0
• r：16
• lora_alpha：32
• lora_dropout：0.05

📄 許可證

該模型使用llama3許可證。

⚠️ 重要提示

儘管模型已與gpt - 4 - turbo輸出對齊，但仍可能生成錯誤、誤導性甚至冒犯性內容，使用時請自行承擔風險。

💡 使用建議

可以嘗試使用更多數據或增加訓練輪次來提高模型性能。