# 低資源量化

這是一個基於Daemontatox/Compumacy-Experimental-32B模型的量化版本，適用於文本生成、心理學和精神病學等領域。

基於Mistral架構的24B參數大語言模型，專為角色扮演和創意寫作優化，採用GGUF量化格式

Seed-Coder-8B-Reasoning是基於Transformer架構的代碼生成模型，具有強大的推理能力，適用於多種編碼任務，在同規模的開源模型中表現出色。

Qwen2-Audio-7B-Instruct的加權/矩陣量化模型，支持英文音頻文本轉文本任務

基於WhiteRabbitNeo-V3-7B的Llamacpp imatrix量化版本，專注於網絡安全和DevOps任務，支持代碼生成。

QwenStoryteller是一個基於視覺語言模型的講故事模型，專注於視覺敘事和跨幀一致性。

基於andrewzh的Absolute_Zero_Reasoner-Coder-14b模型，使用llama.cpp進行imatrix量化的版本，適用於推理和代碼生成任務。

Clinician-Note-2.0a 是一個專注於醫學領域的文本生成模型，特別設計用於臨床記錄和摘要任務。

Qwen3是通義千問系列最新一代大語言模型，235B參數混合專家(MoE)模型，經INT4量化後顯著降低內存佔用

基於burtenshaw/GemmaCoder3-12B的量化版本，專為代碼生成任務優化，支持多種量化級別以適應不同硬件需求。

這是對Fanbin/STEVE-R1-7B-SFT模型進行的加權/矩陣量化版本，適用於資源受限環境。

基於webbigdata/gemma-2-2b-jpn-it-translate的量化版本，專注於日語和英語之間的翻譯任務

這是對Menlo/Speechless-llama3.2-v0.1模型進行加權/重要性矩陣量化的結果，提供多種量化版本

這是對Minthy/ToriiGate-v0.4-7B模型進行的加權/重要性矩陣量化版本，提供多種量化選項以適應不同需求。

Tifa-DeepsexV2-7b-MGRPO-safetensors 是一個基於 transformers 庫的多語言（中文和英語）大語言模型，經過增量預訓練、監督微調和強化學習優化，適用於角色扮演和思維鏈任務。

基於Llama3.2架構的3B參數大語言模型，支持英文文本生成任務，採用llama.cpp進行imatrix量化

這是c4ai-command-r7b-12-2024-abliterated模型的量化版本，使用llama.cpp進行量化，支持多種量化類型，適用於不同硬件環境。

NoticIA-7B是一個基於西班牙語的新聞摘要生成模型，專注於處理新聞內容並生成摘要。

Tango-70B-Instruct 是一款大型語言模型，專為提升西班牙語區域的語言表現而設計。

這是Menlo/Ichigo-llama3.1-s-instruct-v0.4模型的GGUF量化版本，適用於資源受限環境下的語音語言處理任務。

基於Menlo/Ichigo-llama3.1-s-instruct-v0.4的靜態量化模型，提供多種量化版本，適用於不同硬件需求。

Meta-Llama-3.1-405B-Instruct 是一個基於 Llama 3.1 架構的 4050 億參數大型語言模型，專為指令跟隨任務優化，支持多種語言。

VNTL LLaMA 3 8B qlora 是一個基於 LLaMA 3 8B 的合併模型，支持日語和英語翻譯任務，並新增了聊天模式，適用於日語語法問題解答。

NeuralStar_AlphaWriter_4x7b是一個基於混合專家技術(MoE)構建的7B參數語言模型，專為創意寫作任務優化，融合了四個擅長不同寫作領域的專家模型。

一個7B參數的合併模型，具備多模態能力，支持視覺功能

適用於llama.cpp的GGUF權重文件，支持對話模板和重要性矩陣量化。

基於Mamba架構的3B參數語言模型，專注於高效文本生成任務

波斯心智是一個跨語言的波斯語-英語大語言模型，由德黑蘭大學團隊開發，在多項波斯語任務中表現優異。

Astrea-RP-v1-3B是一個3B參數規模的大語言模型，通過任務算術合併了多個模型，專注於文本生成任務。