Mistral Small 3.2 24B Instruct 2506 Bf16

🚀 mlx-community/Mistral-Small-3.2-24B-Instruct-2506-bf16

このモデル mlx-community/Mistral-Small-3.2-24B-Instruct-2506-bf16 は、mlx-lm バージョン 0.25.2 を使用して、mistralai/Mistral-Small-3.2-24B-Instruct-2506 から MLX 形式に変換されたものです。

🚀 クイックスタート

📦 インストール

pip install mlx-lm

💻 使用例

基本的な使用法

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Mistral-Small-3.2-24B-Instruct-2506-bf16")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

📄 ライセンス

このプロジェクトは Apache-2.0 ライセンスの下で提供されています。

🌐 サポート言語

• 英語（en）
• フランス語（fr）
• ドイツ語（de）
• スペイン語（es）
• ポルトガル語（pt）
• イタリア語（it）
• 日本語（ja）
• 韓国語（ko）
• ロシア語（ru）
• 中国語（zh）
• アラビア語（ar）
• ペルシア語（fa）
• インドネシア語（id）
• マレー語（ms）
• ネパール語（ne）
• ポーランド語（pl）
• ルーマニア語（ro）
• セルビア語（sr）
• スウェーデン語（sv）
• トルコ語（tr）
• ウクライナ語（uk）
• ベトナム語（vi）
• ヒンディー語（hi）
• ベンガル語（bn）

⚠️ 重要提示

当社があなたの個人情報をどのように取り扱うかを知りたい場合は、プライバシーポリシー をご覧ください。