Apriel 5B Instruct Llamafied

🚀 Apriel 5B Instruct (Llamafied)

Apriel 5B InstructをLlama形式に近似変換したモデルです。trust_remote_code が不要で、人気の微調整フレームワークと互換性があり、実行が容易です。

🚀 クイックスタート

Apriel 5B Instruct (Llamafied) は、Apriel 5B Instruct をLlama形式に近似変換したモデルです。

• trust_remote_code 不要
• 人気の微調整フレームワークと互換性あり
• 実行が容易

💻 使用例

基本的な使用法

from transformers import pipeline
import torch

device = 'cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu'

pipe = pipeline('text-generation', model='mrfakename/Apriel-5B-Instruct-llamafied', device=device)

print(pipe(pipe.tokenizer.apply_chat_template([{'role': 'user', 'content': 'Hello'}], tokenize=False, add_generation_prompt=True))[0]['generated_text'])

📄 ライセンス

このモデルはMITライセンスの下で提供されています（元のApriel 5Bモデルと同じ）。