Llama 3 8b Ita

🚀 Llama-3-8b-Ita

Llama-3-8b-Ita 是基于 Meta-Llama-3-8B 基础模型专门针对意大利语进行优化的语言模型。它在多个意大利语相关的评估任务中展现出了一定的性能，可用于文本生成等自然语言处理任务。

🚀 快速开始

你可以按照以下步骤使用 Llama-3-8b-Ita 模型进行文本生成：

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

MODEL_NAME = "DeepMount00/Llama-3-8b-Ita"

model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, torch_dtype=torch.bfloat16).eval()
model.to(device)
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)

def generate_answer(prompt):
    messages = [
        {"role": "user", "content": prompt},
    ]
    model_inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(device)
    generated_ids = model.generate(model_inputs, max_new_tokens=200, do_sample=True,
                                          temperature=0.001)
    decoded = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
    return decoded[0]

prompt = "Come si apre un file json in python?"
answer = generate_answer(prompt)
print(answer)

✨ 主要特性

• 基础模型：采用 Meta-Llama-3-8B 作为基础模型。
• 专业领域：针对意大利语进行了专门的优化和训练。

📚 详细文档

模型架构

• 基础模型：Meta-Llama-3-8B
• 专业领域：意大利语

评估

若要详细对比模型性能，可查看 意大利语模型排行榜。

以下是性能指标的详细分解：

Open LLM Leaderboard 评估结果

详细结果可查看 此处

📄 许可证

该模型使用 llama3 许可证。

👨‍💻 开发者

[Michele Montebovi]