Koopenchat Sft

🚀 koOpenChat - sft🐧

koOpenChat - sftは、特定の形式に沿った 학습이 이루어진 언어 모델로、ChatMLやAlpaca(No - Input) 형식을 지원하며 다양한 태스크에 활용할 수 있습니다。

🚀 クイックスタート

시나트라는個人プロジェクトで、1人のリソースで開発されています。もしこのモデルが気に入ったら、少しの研究費支援を検討してみませんか？

スポンサーになりたいですか？（是非！）TelegramでAlzarTakkarsenに連絡してください。

✨ 主な機能

モデルの詳細

• ベースモデル：OpenChat3.5
• トレーニング環境：A100 80GB * 1
• 命令フォーマット：このモデルはChatMLフォーマットと**Alpaca(No - Input)**フォーマットに従っています。

モデルのベンチマーク

現在、ベンチマーク結果は提供されていません。

評価結果

詳細な結果はこちらで確認できます。

📦 インストール

このセクションでは、インストールに関する具体的な手順が提供されていません。

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

device = "cuda" # the device to load the model onto

model = AutoModelForCausalLM.from_pretrained("maywell/koOpenChat-sft")
tokenizer = AutoTokenizer.from_pretrained("maywell/koOpenChat-sft")

messages = [
    {"role": "user", "content": "바나나는 원래 하얀색이야?"},
]

encodeds = tokenizer.apply_chat_template(messages, return_tensors="pt")

model_inputs = encodeds.to(device)
model.to(device)

generated_ids = model.generate(model_inputs, max_new_tokens=1000, do_sample=True)
decoded = tokenizer.batch_decode(generated_ids)
print(decoded[0])

📄 ライセンス

このモデルはCC - BY - SA 4.0ライセンスの下で提供されています。