Cantonesellmchat V1.0 32B

🚀 粵語大語言模型聊天 v1.0-32B

hon9kon9izeによる初代広東語大語言モデルで、香港関連の特定知識と広東語会話に優れています。

🚀 クイックスタート

広東語大語言モデルチャットv1.0は、hon9kon9izeによる初代広東語大語言モデルです。v0.5プレビューの成功を踏まえ、このモデルは香港関連の特定知識と広東語会話に優れています。

✨ 主な機能

モデルの説明

ベースモデルは、Qwen 2.5 32Bを6億件の公開されている香港のニュース記事と広東語ウェブサイトを用いて継続的事前学習することで得られました。命令微調整モデルは、75,000組の命令ペアからなるデータセットで学習されました。そのうち45,000組は他の大語言モデルによって生成され、人間によってレビューされた広東語の命令です。

このモデルは、玄海スーパーコンピュータ上の16台のNvidia H100 96GB HBM2e GPUを使用して学習されました。

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "hon9kon9ize/CantoneseLLMChat-v1.0-32B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16, 
    device_map="auto", 
)
def chat(messages, temperature=0.9, max_new_tokens=200):
    input_ids = tokenizer.apply_chat_template(conversation=messages, tokenize=True, add_generation_prompt=True, return_tensors='pt').to('cuda:0')
    output_ids = model.generate(input_ids, max_new_tokens=max_new_tokens, temperature=temperature)
    response = tokenizer.decode(output_ids[0][input_ids.shape[1]:], skip_special_tokens=False)
    return response
prompt = "邊個係香港特首？"
messages = [
    {"role": "system", "content": "you are a helpful assistant."},
    {"role": "user", "content": prompt}
]
print(chat(messages)) # 香港特別行政區行政長官係李家超。<|im_end|>

📚 ドキュメント

パフォーマンス

このモデルは、HK-Evalベンチマークにおいて、広東語と香港文化の理解においてクラス最高のオープンソース大語言モデルです。ただし、推論モデルは他のモデルよりも劇的に優れたパフォーマンスを発揮していることがわかります。現在、v2の推論モデルの開発に取り組んでいます。

📄 ライセンス

Other