Apriel 5B Instruct Llamafied

🚀 Apriel 5B Instruct (Llamafied)

Apriel 5B Instruct (Llamafied) 是將 Apriel 5B Instruct 近似轉換為 Llama 格式的模型。它無需 trust_remote_code，與流行的微調框架兼容，運行起來更加便捷。

🚀 快速開始

模型信息

代碼示例

基礎用法

from transformers import pipeline
import torch

device = 'cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu'

pipe = pipeline('text-generation', model='mrfakename/Apriel-5B-Instruct-llamafied', device=device)

print(pipe(pipe.tokenizer.apply_chat_template([{'role': 'user', 'content': 'Hello'}], tokenize=False, add_generation_prompt=True))[0]['generated_text'])

📄 許可證

本項目採用 MIT 許可證（與原始的 Apriel 5B 模型相同）。