# 低精度量化

Diffucoder 7B Cpgrpo 6bit
DiffuCoder-7B-cpGRPO-6bit 是一個基於 MLX 格式轉換的文本生成模型,專注於代碼和文本擴散任務。
大型語言模型 其他
D
mlx-community
103
1
Verireason Qwen2.5 7b RTLCoder Verilog GRPO Reasoning Tb I1 GGUF
這是一個針對Verilog硬件描述語言優化的7B參數大語言模型,專注於RTL編碼和推理任務,提供多種量化版本。
大型語言模型 Transformers 英語
V
mradermacher
1,081
2
Verireason Qwen2.5 7b RTLCoder Verilog GRPO Reasoning Tb GGUF
這是一個基於Qwen2.5-7b的量化模型,專注於Verilog代碼生成和推理任務,採用了強化學習技術進行優化。
大型語言模型 Transformers 英語
V
mradermacher
413
1
Medgemma 27b Text It 8bit
其他
MedGemma是基於Google開發的醫療領域大語言模型,專注於臨床推理和醫療文本生成任務。
大型語言模型
M
mlx-community
129
2
Skyreels V2 DF 1.3B 540P GGUF
Apache-2.0
SkyReels-V2-DF-1.3B-540P是一個專注於視頻生成的模型,能夠將圖像轉換為視頻。
視頻處理
S
wsbagnsv1
177
0
Skyreels V2 I2V 14B 540P GGUF
其他
SkyReels-V2-I2V-14B-540P 是一個基於 GGUF 格式轉換的圖像轉視頻模型,支持從靜態圖像生成動態視頻內容。
視頻處理
S
wsbagnsv1
929
8
VL Rethinker 7B 6bit
Apache-2.0
這是一個基於Qwen2.5-VL-7B-Instruct的多模態模型,支持視覺問答任務,已轉換為MLX格式以便在Apple芯片上高效運行。
文本生成圖像 Transformers 英語
V
mlx-community
19
0
Gemma 3 12b It Qat 3bit
其他
這是一個基於 Google Gemma 3-12B 模型轉換而來的 MLX 格式模型,支持圖像文本到文本的任務。
圖像生成文本 Transformers 其他
G
mlx-community
65
1
Orpheus 3b 0.1 Ft Q8 0 GGUF
Apache-2.0
該模型是基於canopylabs/orpheus-3b-0.1-ft轉換而來的GGUF格式模型,適用於文本生成任務。
大型語言模型 英語
O
dodgeinmedia
22
0
Bge Reranker V2 M3 Onnx O4
Apache-2.0
BGE-RERANKER-V2的ONNX O4版本是一個經過優化的文本重排序模型,支持多語言文本對的相關性評分。
文本分類 Transformers
B
hooman650
39
5
Whisper Large V2 Onnx Int4 Inc
Apache-2.0
Whisper是一個預訓練的自動語音識別(ASR)和語音翻譯模型,經過68萬小時標註數據的訓練,展現出強大的泛化能力。此倉庫包含ONNX格式的Whisper large v2模型的INT4僅權重量化版本。
語音識別 Transformers
W
Intel
19
27
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase