Smollm 135M 4bit

🚀 mlx-community/SmolLM-135M-4bit

このモデル mlx-community/SmolLM-135M-4bit は、mlx-lmバージョン 0.16.0 を使用して、HuggingFaceTB/SmolLM-135M からMLX形式に変換されました。

🚀 クイックスタート

このモデルを使用するには、まずmlx-lmをインストールする必要があります。以下のコマンドを使用してインストールできます。

pip install mlx-lm

次に、Pythonコードを使用してモデルを読み込み、テキストを生成することができます。

💻 使用例

基本的な使用法

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/SmolLM-135M-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で提供されています。