Zefiro 7b Beta ITA V0.1

🚀 Zefiro-7B-Beta-ITA-v0.1模型

Zefiro是基于Mistral的意大利语SFT微调模型。本项目旨在创建适用于意大利语的开源模型和数据集，此为首个实验模型，可作为意大利语特定对话任务的基础模型。

🚀 快速开始

若要使用🤗 Transformers运行该模型，可参考以下代码：

# Install transformers from source - only needed for versions <= v4.34
# pip install git+https://github.com/huggingface/transformers.git
# pip install accelerate
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "giux78/zefiro-7b-beta-ITA-v0.1"
model = AutoModelForCausalLM.from_pretrained(model_id)
model.to('cuda')
tokenizer = AutoTokenizer.from_pretrained(model_id, padding_side="left")


sys_prompt = "Sei un assistente disponibile, rispettoso e onesto. " \
         "Rispondi sempre nel modo piu' utile possibile, pur essendo sicuro. " \
         "Le risposte non devono includere contenuti dannosi, non etici, razzisti, sessisti, tossici, pericolosi o illegali. " \
         "Assicurati che le tue risposte siano socialmente imparziali e positive. " \
         "Se una domanda non ha senso o non e' coerente con i fatti, spiegane il motivo invece di rispondere in modo non corretto. " \
         "Se non conosci la risposta a una domanda, non condividere informazioni false."

messages = [{ 'content' : sys_prompt, 'role' : 'assistant'}, 
            {'content' : 'Crea una lista su cosa mangiare a pranzo ogni giorno della settimana a pranzo e cena', 'role' : 'user'}]


def generate_text(sys_prompt, user_prompt):
    messages = [{ 'content' : sys_prompt, 'role' : 'assistant'}, 
            {'content' : user_prompt, 'role' : 'user'}]
    prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
    model_inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
    generated_ids = model.generate(**model_inputs, max_new_tokens=1024)
    return tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]


generate_text(sys_prompt, 'cosa ne pensi della politica italiana?')

✨ 主要特性

• 基于Mistral架构，专为意大利语进行SFT微调。
• 可作为意大利语特定对话任务的基础模型。

📦 安装指南

运行模型前，需安装必要的库：

# Install transformers from source - only needed for versions <= v4.34
pip install git+https://github.com/huggingface/transformers.git
pip install accelerate

💻 使用示例

基础用法

# Install transformers from source - only needed for versions <= v4.34
# pip install git+https://github.com/huggingface/transformers.git
# pip install accelerate
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "giux78/zefiro-7b-beta-ITA-v0.1"
model = AutoModelForCausalLM.from_pretrained(model_id)
model.to('cuda')
tokenizer = AutoTokenizer.from_pretrained(model_id, padding_side="left")


sys_prompt = "Sei un assistente disponibile, rispettoso e onesto. " \
         "Rispondi sempre nel modo piu' utile possibile, pur essendo sicuro. " \
         "Le risposte non devono includere contenuti dannosi, non etici, razzisti, sessisti, tossici, pericolosi o illegali. " \
         "Assicurati che le tue risposte siano socialmente imparziali e positive. " \
         "Se una domanda non ha senso o non e' coerente con i fatti, spiegane il motivo invece di rispondere in modo non corretto. " \
         "Se non conosci la risposta a una domanda, non condividere informazioni false."

messages = [{ 'content' : sys_prompt, 'role' : 'assistant'}, 
            {'content' : 'Crea una lista su cosa mangiare a pranzo ogni giorno della settimana a pranzo e cena', 'role' : 'user'}]


def generate_text(sys_prompt, user_prompt):
    messages = [{ 'content' : sys_prompt, 'role' : 'assistant'}, 
            {'content' : user_prompt, 'role' : 'user'}]
    prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
    model_inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
    generated_ids = model.generate(**model_inputs, max_new_tokens=1024)
    return tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]


generate_text(sys_prompt, 'cosa ne pensi della politica italiana?')

高级用法

在更复杂的对话场景中，可根据具体需求调整sys_prompt和user_prompt的内容，以获取更符合预期的回复。

📚 详细文档

模型详情

Zefiro是将Zephyr模型移植到意大利语的版本，借鉴了alignment-handbook的方法，同时也从Llamantino模型中获得灵感。在实现过程中，结合了上述两个模型以及开源社区的不同方法。

模型描述

预期用途与限制

该模型最初在经过过滤和预处理的UltraChat-ITA数据集上进行微调，该数据集是UltraChat数据集的过滤版本，包含ChatGPT生成的各种合成对话。

偏差、风险和限制

Zefiro-7b-beta-ITA-v0.1未在RLHF阶段进行人类偏好对齐，也未像ChatGPT那样对回复进行实时过滤，因此可能会产生有问题的输出（尤其是在特定提示下）。此外，不清楚基础模型（mistralai/Mistral-7B-v0.1）的训练语料库的规模和组成，但可能包含网络数据、书籍和代码等技术来源。可参考Falcon 180B模型卡片了解相关情况。

训练数据

使用UltraChat-ITA作为训练数据，这是UltraChat的过滤版本。在翻译数据集时，结合了不同的工具和API，目前正在评估最佳的翻译方法。翻译阶段至关重要，可能会引入语法和语义错误。

总结

Zefiro-7b-beta-ITA-v0.1是使用zephyr方法对mistral-7b进行微调的意大利语版本。

📄 许可证

本模型采用Apache 2.0许可证。

引用

@misc{tunstall2023zephyr,
      title={Zephyr: Direct Distillation of LM Alignment}, 
      author={Lewis Tunstall and Edward Beeching and Nathan Lambert and Nazneen Rajani and Kashif Rasul and Younes Belkada and Shengyi Huang and Leandro von Werra and Clémentine Fourrier and Nathan Habib and Nathan Sarrazin and Omar Sanseviero and Alexander M. Rush and Thomas Wolf},
      year={2023},
      eprint={2310.16944},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

@misc{basile2023llamantino,
      title={LLaMAntino: LLaMA 2 Models for Effective Text Generation in Italian Language}, 
      author={Pierpaolo Basile and Elio Musacchio and Marco Polignano and Lucia Siciliani and Giuseppe Fiameni and Giovanni Semeraro},
      year={2023},
      eprint={2312.09993},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

模型卡片作者

giux78

模型卡片联系方式

ale.ercolani@gmail.com