Causallm 14B DPO Alpha GGUF

🚀 CausalLM 14B-DPO-alpha - GGUF

本项目提供了 CausalLM的14B-DPO-alpha 模型的GGUF格式文件，有助于文本生成任务，为用户提供了更多模型使用的选择。

🚀 快速开始

本仓库包含了 CausalLM的14B-DPO-alpha 模型的GGUF格式文件。

✨ 主要特性

模型信息

关于GGUF

!! GUFF的介绍摘自TheBloke的模型卡片 !!

GGUF是llama.cpp团队在2023年8月21日推出的一种新格式，它取代了GGML，目前llama.cpp已不再支持GGML。

以下是已知支持GGUF的客户端和库的不完全列表：

• llama.cpp：GGUF的源项目，提供了命令行界面和服务器选项。
• text-generation-webui：最广泛使用的Web UI，具有许多功能和强大的扩展，支持GPU加速。
• KoboldCpp：一个功能齐全的Web UI，支持所有平台和GPU架构的GPU加速，尤其适合讲故事。
• LM Studio：一个易于使用且功能强大的本地GUI，适用于Windows和macOS（Silicon），支持GPU加速。
• LoLLMS Web UI：一个很棒的Web UI，具有许多有趣和独特的功能，包括一个完整的模型库，便于模型选择。
• Faraday.dev：一个有吸引力且易于使用的基于角色的聊天GUI，适用于Windows和macOS（Silicon和Intel），支持GPU加速。
• ctransformers：一个支持GPU加速的Python库，支持LangChain，并且有兼容OpenAI的AI服务器。
• llama-cpp-python：一个支持GPU加速的Python库，支持LangChain，并且有兼容OpenAI的API服务器。
• candle：一个Rust机器学习框架，注重性能，包括GPU支持，并且易于使用。

提示模板：ChatML

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

许可证

原始模型的许可证列为“wtfpl”，但需遵守“Meta Llama 2许可条款”。

原始模型卡片：CausalLM的CausalLM 14B-DPO-alpha

详情请参考未经DPO训练的版本：CausalLM/14B。

需要注意的是，这不是在CausalLM/14B和7B上继续训练的版本，而是在之前的训练分支上同时进行了DPO训练的优化版本，一些详细参数可能已经改变。您仍然需要下载完整的模型。

beta分支即将发布，它采用了一些可能对某些任务不利的激进方法，以更好地符合人类偏好，目标是达到或超过GPT-3.5的基准。请保持关注。

⚠️ 重要提示

请注意，该模型是在未经过滤的互联网数据上训练的。由于我们无法审查所有数据，可能存在大量令人反感的内容、色情、暴力和冒犯性语言，我们无法将其删除。因此，您仍需要自行检查模型的安全性，并对输出中的关键词进行过滤。由于计算资源的限制，我们目前无法为模型的伦理和安全实施RLHF，也无法对拒绝回答某些问题的SFT样本进行训练以进行限制性微调。