Janus Pro 1B 4bit
基於deepseek-ai/Janus-Pro-1B的4位量化版本,適用於Apple芯片的MLX框架
Downloads 40
Release Time : 1/30/2025
Model Overview
這是一個經過4位量化的語言模型,主要用於聊天任務,基於MLX框架優化運行在Apple芯片設備上
Model Features
4位量化
LLM部分被量化為4位,顯著減少模型大小和內存佔用
Apple芯片優化
專為MLX框架優化,適合在Apple芯片設備上運行
聊天模板支持
添加了chat_template,便於聊天應用開發
安全格式
將原始bin文件更新為更安全的safetensors格式
Model Capabilities
文本生成
對話交互
聊天應用支持
Use Cases
聊天應用
智能對話系統
構建基於Apple設備的本地化聊天機器人
個人助理
開發輕量級的個人數字助理應用
Featured Recommended AI Models
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers Supports Multiple Languages

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers English

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 Chinese
R
uer
2,694
98