Meta Llama 3.1 8B Instruct Quantized.w8a8
這是Meta-Llama-3.1-8B-Instruct模型的INT8量化版本,通過權重量化和激活量化優化,適用於多語言商業和研究用途。
大型語言模型
Transformers 支持多種語言

M
RedHatAI
9,087
16
Phi 4 Mini Instruct
MIT
Phi-4-mini-instruct是一個輕量級開源模型,基於合成數據和過濾後的公開網站數據構建,專注於高質量、富含推理能力的數據。支持128K令牌的上下文長度和多語言處理。
大型語言模型
Transformers 支持多種語言

P
microsoft
346.30k
455
Llama 3.3 70B Instruct Quantized.w4a16
基於Meta-Llama-3.1架構的量化優化模型,支持多語言,適用於商業和研究場景,在減少資源需求的同時保持高性能。
大型語言模型
Transformers 支持多種語言

L
RedHatAI
19.25k
1
Llama 3.3 70B Instruct FP8 Dynamic
Meta推出的70B參數多語言大語言模型,支持多種語言對話和工具調用,在行業基準測試中表現優異。
大型語言模型
Transformers 支持多種語言

L
Infermatic
6,965
2
Llama 3.2 1B Instruct QLORA INT4 EO8
Llama 3.2 是 Meta 推出的多語言大語言模型系列,包含 1B 和 3B 參數的預訓練和指令微調版本,支持 8 種官方語言,優化了多語言對話場景。
大型語言模型
PyTorch 支持多種語言
L
meta-llama
286
41
Llama 3.2 1B Instruct FP8
Llama-3.2-1B-Instruct的FP8量化版本,適用於多語言場景的商業和研究用途,性能接近原始模型。
大型語言模型
Safetensors 支持多種語言
L
RedHatAI
1,718
3
Llama 3.2 11B Vision Instruct FP8 Dynamic
這是一個基於Llama-3.2-11B-Vision-Instruct的量化模型,適用於多語言的商業和研究用途,可用於類似助手的聊天場景。
圖像生成文本
Safetensors 支持多種語言
L
RedHatAI
2,295
23
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B Instruct 是一個多語言大語言模型,針對多語言對話用例進行了優化,在常見的行業基準測試中表現優異。
大型語言模型 英語
L
modularai
9.7M
4
Meta Llama 3.1 70B FP8
Meta-Llama-3.1-70B的FP8量化版本,適用於多語言的商業和研究用途,權重和激活均量化為FP8格式,減少約50%的存儲和內存需求。
大型語言模型
Transformers 支持多種語言

M
RedHatAI
191
2
Meta Llama 3.1 8B FP8
Meta-Llama-3.1-8B的FP8量化版本,適用於多種語言的商業和研究用途。
大型語言模型
Transformers 支持多種語言

M
RedHatAI
4,154
7
Meta Llama 3 8B Instruct Bnb 8bit
其他
這是Meta公司的Meta-Llama-3-8B-Instruct模型的8位量化版本,使用bitsandbytes進行量化,適用於高效的文本生成任務。
大型語言模型
Transformers

M
alokabhishek
2,310
2
Meta Llama 3 70B Fp8
其他
Meta Llama 3 70B是由Meta開發的大語言模型,具有700億參數,支持8k上下文長度,適用於英語的商業和研究用途。
大型語言模型
Transformers 英語

M
FriendliAI
34
5
Meta Llama 3 70B Instruct GGUF
基於Meta官方Llama 3 70B指令微調模型的GGUF量化版本,支持2-16bit多種量化級別,適用於本地部署的對話場景
大型語言模型 英語
M
MaziyarPanahi
18.89k
168
Decilm 6b Instruct
其他
DeciLM 6B-指令模型是一款專為短格式指令跟隨設計的英語語言模型,基於DeciLM 6B通過LoRA微調技術訓練而成
大型語言模型
Transformers 英語

D
Deci
105
134
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98