Minicpm3 4B

🚀 MiniCPM3-4B

MiniCPM3-4BはMiniCPMシリーズの第3世代モデルです。全体的な性能はPhi-3.5-mini-InstructやGPT-3.5-Turbo-0125を上回り、多くの最近の7B～9Bモデルと匹敵します。

MiniCPMリポジトリ | MiniCPM論文 | MiniCPM-Vリポジトリ | Discord と WeChat で私たちに参加しましょう

🚀 クイックスタート

概要

MiniCPM3-4BはMiniCPMシリーズの第3世代で、全体的な性能がPhi-3.5-mini-InstructやGPT-3.5-Turbo-0125を上回り、多くの最近の7B~9Bモデルと匹敵します。MiniCPM1.0/MiniCPM2.0と比較して、MiniCPM3-4Bはより強力で汎用的な機能を備えており、関数呼び出しやコードインタープリターをサポートしています。また、32kのコンテキストウィンドウを持ち、LLMxMapReduceを搭載することで、理論的に無限のコンテキストを処理でき、大量のメモリを必要としません。

✨ 主な機能

• 高性能：全体的な性能がPhi-3.5-mini-InstructやGPT-3.5-Turbo-0125を上回り、多くの最近の7B~9Bモデルと匹敵します。
• 汎用性：MiniCPM1.0/MiniCPM2.0と比較して、より強力で汎用的な機能を備えています。
• 関数呼び出しとコードインタープリター：関数呼び出しとコードインタープリターをサポートしています。
• 大規模コンテキスト処理：32kのコンテキストウィンドウを持ち、LLMxMapReduceを搭載することで、理論的に無限のコンテキストを処理できます。

📦 インストール

vLLMを使用する場合

現時点では、forkしたvLLMのバージョンをインストールする必要があります。

pip install git+https://github.com/OpenBMB/vllm.git@minicpm3

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

path = "openbmb/MiniCPM3-4B"
device = "cuda"

tokenizer = AutoTokenizer.from_pretrained(path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(path, torch_dtype=torch.bfloat16, device_map=device, trust_remote_code=True)

messages = [
    {"role": "user", "content": "推荐5个北京的景点。"},
]
model_inputs = tokenizer.apply_chat_template(messages, return_tensors="pt", add_generation_prompt=True).to(device)

model_outputs = model.generate(
    model_inputs,
    max_new_tokens=1024,
    top_p=0.7,
    temperature=0.7
)

output_token_ids = [
    model_outputs[i][len(model_inputs[i]):] for i in range(len(model_inputs))
]

responses = tokenizer.batch_decode(output_token_ids, skip_special_tokens=True)[0]
print(responses)

高度な使用法

from transformers import AutoTokenizer
from vllm import LLM, SamplingParams

model_name = "openbmb/MiniCPM3-4B"
prompt = [{"role": "user", "content": "推荐5个北京的景点。"}]

tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
input_text = tokenizer.apply_chat_template(prompt, tokenize=False, add_generation_prompt=True)

llm = LLM(
    model=model_name,
    trust_remote_code=True,
    tensor_parallel_size=1
)
sampling_params = SamplingParams(top_p=0.7, temperature=0.7, max_tokens=1024, repetition_penalty=1.02)

outputs = llm.generate(prompts=input_text, sampling_params=sampling_params)

print(outputs[0].outputs[0].text)

📚 ドキュメント

評価結果

声明

• MiniCPM3-4Bは言語モデルであり、大量のテキストを学習することでコンテンツを生成します。
• しかし、理解や個人的な意見や価値判断を表現する能力は持っていません。
• MiniCPM3-4Bが生成するコンテンツは、モデル開発者の見解や立場を表すものではありません。
• したがって、MiniCPM3-4Bが生成するコンテンツを使用する際には、ユーザー自身が評価と検証の責任を負う必要があります。

📄 ライセンス

• このリポジトリはApache-2.0ライセンスの下で公開されています。
• MiniCPM3-4Bモデルの重みの使用は、MiniCPM Model License.mdに厳密に従う必要があります。
• MiniCPM3-4Bのモデルと重みは、学術研究には完全に無料で利用できます。また、"アンケート"に登録することで、商用利用も無料で可能です。

引用

@article{hu2024minicpm,
  title={MiniCPM: Unveiling the Potential of Small Language Models with Scalable Training Strategies},
  author={Hu, Shengding and Tu, Yuge and Han, Xu and He, Chaoqun and Cui, Ganqu and Long, Xiang and Zheng, Zhi and Fang, Yewei and Huang, Yuxiang and Zhao, Weilin and others},
  journal={arXiv preprint arXiv:2404.06395},
  year={2024}
}