Lumimaid V0.2 8B

🚀 Lumimaid 0.2

Lumimaid 0.2是一款基于特定模型优化而来的产品，在数据集方面相较于0.1版本有巨大提升。它通过不断清理和添加数据，为用户提供更优质的服务。

🔍 模型基础

该模型基于 Meta-Llama-3.1-8B-Instruct 构建。 Wandb链接：https://wandb.ai/undis95/Lumi-Llama-3-1-8B?nw=nwuserundis95

从Lumimaid 0.1到0.2，在数据集方面有了巨大的进步。由于有人反馈我们的模型存在质量问题，Ikari决定彻底清理大部分杂乱的聊天数据。我们的数据集从一开始就保持着不断优化的状态，随着时间的推移，我们不断添加数据、清理数据并重复这个过程。在一段时间没有发布模型后，因为我们一直不满意之前的成果，现在我们认为是时候回归了！

📚 详细文档

提示模板：Llama-3-Instruct

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{input}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{output}<|eot_id|>

🙌 贡献者

• Undi
• IkariDev

📊 训练数据

我们用于构建数据集的训练数据如下：

• Epiculous/Gnosis
• ChaoticNeutrals/Luminous_Opus
• ChaoticNeutrals/Synthetic-Dark-RP
• ChaoticNeutrals/Synthetic-RP
• Gryphe/Sonnet3.5-SlimOrcaDedupCleaned
• Gryphe/Opus-WritingPrompts
• meseca/writing-opus-6k
• meseca/opus-instruct-9k
• PJMixers/grimulkan_theory-of-mind-ShareGPT
• NobodyExistsOnTheInternet/ToxicQAFinal
• Undi95/toxic-dpo-v0.1-sharegpt
• cgato/SlimOrcaDedupCleaned
• kalomaze/Opus_Instruct_25k
• Doctor-Shotgun/no-robots-sharegpt
• Norquinal/claude_multiround_chat_30k
• nothingiisreal/Claude-3-Opus-Instruct-15K
• 所有Aesirs数据集，已清理、去除杂乱内容
• 所有le luminae数据集，已清理、去除杂乱内容
• Airoboros的一小部分精简数据

遗憾的是，我们没有找到以下数据集的来源，如果您认出了这些数据集，请联系我们！

• Opus_Instruct-v2-6.5K-Filtered-v2-sharegpt
• claude_sharegpt_trimmed
• CapybaraPure_Decontaminated-ShareGPT_reduced

🌟 数据集贡献者

• Epiculous
• ChaoticNeutrals
• Gryphe
• meseca
• PJMixers
• NobodyExistsOnTheInternet
• cgato
• kalomaze
• Doctor-Shotgun
• Norquinal
• nothingiisreal

📌 其他信息

Undi：如果您想支持我们，可以点击 这里。 IkariDev：请访问我的 复古/Neocities风格网站 。

📄 许可证

本项目采用CC BY-NC 4.0许可证。