Llama 2 13b Chat Norwegian

🚀 Llama 2 13b Chat Norwegian

Llama-2-13b-chat-norwegian 是 Meta 的 Llama 2 13b Chat 模型的一个变体。它于 2023 年夏天在 Ruter AI Lab 基于挪威语数据集进行微调。该模型经过优化，能够理解和生成挪威语文本。

🚀 快速开始

Llama-2-13b-chat-norwegian 模型专为挪威语的商业和研究用途而设计，可作为类似助手的聊天工具。

✨ 主要特性

• 专为挪威语设计，能够理解和生成挪威语文本。
• 基于挪威语数据集进行微调，包括 Norwegian alpaca 和 OpenOrca 的机器翻译数据。
• 支持 Llama2 Chat 的新提示格式和 alpaca 提示格式。

📚 详细文档

数据

• Norwegian alpaca：提供了基础的挪威语数据。
• 15k Norwegian OpenOrcra：待发布，将进一步丰富模型的训练数据。
• 自定义指令数据：一小部分自定义的指令数据，增强了模型的特定能力。

预期用途

此模型适用于挪威语的商业和研究用途，可作为类似助手的聊天工具。

提示模板

• Llama2 Chat 新提示格式：

<s>[INST] <<SYS>>
You are a helpful, respectful and honest assistant. Always answer as helpfully as possible, while being safe. Your answers should not include any harmful, unethical, racist, sexist, toxic, dangerous, or illegal content. Please ensure that your responses are socially unbiased and positive in nature.
If a question does not make any sense, or is not factually coherent, explain why instead of answering something not correct. If you don't know the answer to a question, please don't share false information. Please answer in the same language as the user.
<</SYS>>
This is a test question[/INST] This is a answer </s><s>

原始实现请参考 这里。

• alpaca 提示格式：

### Instruction:
Summarize following text.
### Input:
Text to be summarized
### Response:

选择此模型的原因

作为一家挪威公司，我们深知针对特定语言的强大语言模型的迫切需求。我们的主要关注点是挪威语领域。在数字化时代，缺乏强大开源模型的语言可能会被边缘化。因此，我们推出了这个开源的挪威语模型。我们相信，通过免费提供这些资源，我们可以实现信息民主化，促进创新，并创建一个更具包容性的数字生态系统。我们希望这个模型能成为未来挪威语专业模型的基础资源。最终，我们的目标是支持挪威 NLP 社区，并使挪威语模型更顺利地集成到各种项目中。

局限性

• 这是一个大语言模型（LLM），而不是知识模型。不能期望它比基础模型拥有更多关于挪威的信息。
• 对于涉及总结、问答和聊天的任务，它的表现通常优于需要更多关于挪威的知识、特定领域知识或模型可以自由回答的任务。
• 用于训练的数据是机器翻译的，可能包含语法错误和其他错误。
• 模型按原样发布，在大多数情况下需要进行提示调整以获得最佳结果。

📄 许可证

Llama 2 遵循 LLAMA 2 社区许可证，版权所有 © Meta Platforms, Inc. 保留所有权利。更多信息请参阅原始 模型卡片。

同时，从 norwegian-alpaca 我们也注意到：“当前版本使用了 OpenAI 的 gpt - 3.5 - turbo；因此，此数据集不能用于创建以任何方式与 OpenAI 竞争的模型。”

免责声明

• 模型“按原样”提供。Ruter As 不对进一步使用承担任何责任。
• 在测试过程中，Meta 实施的安全措施在此模型中似乎仍按预期工作。然而，我们要指出原始模型卡片中的道德考量和局限性：

Llama 2 是一项具有使用风险的新技术。到目前为止进行的测试均使用英语，且无法涵盖所有场景。
因此，与所有大语言模型一样，Llama 2 的潜在输出无法提前预测，并且在某些情况下，模型可能会对用户提示产生不准确、有偏见或其他令人反感的响应。
因此，在部署 Llama 2 的任何应用程序之前，开发人员应针对其特定应用对模型进行安全测试和调整。
请参阅位于 https://ai.meta.com/llama/responsible-use-guide/ 的负责任使用指南。

致谢

此模型由 Ruters AI Lab 开发，该实验室是 Ruters 数据与人工智能部门的一部分。

其他版本

• Llama-2-13b-chat-norwegian
• Llama-2-13b-chat-norwegian-LoRa
• Llama-2-13b-chat-norwegian-GPTQ