動態4位量化

# 動態4位量化

Llama 4 Scout 17B 16E Unsloth

Llama 4 Scout是Meta推出的170億參數多模態AI模型，採用混合專家架構，支持12種語言和圖像理解。

文本生成圖像

Transformers 支持多種語言

Meta Llama 3.1 8B Instruct Unsloth Bnb 4bit

Unsloth優化的Llama 3.2 (3B)模型，提供2-5倍的微調速度提升和70%的內存節省

大型語言模型

Transformers 英語

Llama 3.2 3B Instruct Unsloth Bnb 4bit

基於Meta Llama 3.2-3B-Instruct模型，採用Unsloth動態4位量化技術優化的高效大語言模型

大型語言模型

Transformers 英語

Llama 3.2 90B Vision Instruct Unsloth Bnb 4bit

Meta Llama 3.2系列90B參數的多模態大語言模型，支持視覺指令理解，經Unsloth動態4位量化優化

文本生成圖像

Transformers 英語

精選推薦AI模型

Llama 3 Typhoon V1.5x 8b Instruct

專為泰語設計的80億參數指令模型，性能媲美GPT-3.5-turbo，優化了應用場景、檢索增強生成、受限生成和推理任務

大型語言模型

Transformers 支持多種語言

Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型，專為邊緣設備推理設計，體積僅為Cosmo-3B模型的2%左右。

Transformers 英語

Roberta Base Chinese Extractive Qa

基於RoBERTa架構的中文抽取式問答模型，適用於從給定文本中提取答案的任務。

問答系統中文

AIbase

智啟未來，您的人工智能解決方案智庫

English 简体中文繁體中文にほんご

© 2025AIbase