# 大模型優化

ICONN-1的量化版本，提供多種量化選項以適應不同性能和質量需求

這是google/gemma-3-27b-it的量化版本，支持視覺-文本輸入和文本輸出，通過權重量化和激活量化優化，可使用vLLM進行高效推理。

Valkyrie-49B-v1是基於llama.cpp的49B參數大語言模型，提供多種量化版本，適用於不同硬件配置。

基於Qwen2.5-VL-32B-Instruct模型的FP8量化版本，支持視覺-文本輸入和文本輸出，適用於高效推理場景。

基於Mistral-Small-3.1-24B-Base-2503-hf-DanChat微調的大語言模型，專注於個性化文本生成

Llama 4系列是Meta推出的原生多模態AI模型，採用混合專家架構，支持文本和圖像交互，在多種語言和視覺任務中表現卓越。

CogVideoX是源自清影的視頻生成模型開源版本，5B版本具有更大的模型規模，能生成更高質量的視頻內容。

Meta-Llama-3.1-405B-Instruct的FP8量化版本，適用於多語言的商業和研究用途，特別優化用於助手機器人場景。

這是antony66/whisper-large-v3-russian模型的ctranslate2轉換版本，針對俄語語音識別任務進行了優化。

LLM4Decompile是一個將x86彙編指令反編譯為C語言代碼的模型，V2系列使用更大的數據集（2B標記）進行訓練，性能顯著提升。

LLM4Decompile 是一個致力於將 x86 彙編指令反編譯為 C 代碼的模型。最新發布的 V1.5 系列模型採用更大規模的數據集（150 億 tokens）和 4096 的最大 token 長度進行訓練，相較於前代模型性能顯著提升（最高達 100%）。

這是deberta-v2-xxlarge的更新版本，實現了AutoModelForCausalLM類，使其能夠生成文本。修復了原始實現中的三個問題，包括輸出嵌入權重名稱、增強掩碼解碼器實現和位置嵌入截斷處理。

基於starcoder2-3b模型微調的大語言模型，專注於代碼生成任務，在HumanEval-Python測試中達到65.9 pass@1的成績

StarCoderPlus 是一個強大的代碼生成模型，基於 BigCode 項目開發，支持多種編程語言和自然語言處理任務。

這是一個基於google/flan-t5-xxl模型在多個摘要數據集上微調的版本，旨在打造適用於學術和通用場景的多功能摘要生成器。

基於Whisper Large v2在波蘭語數據集上微調的自動語音識別模型，支持波蘭語語音轉文本任務。

基於BookSum數據集微調的LongT5-XL模型，專為長文本摘要設計，能生成類似SparkNotes的摘要。

這是一個基於jonatasgrosman/wav2vec2-large-xlsr-53-spanish模型在特定數據集上微調的語音識別模型，支持西班牙語。

這是一個基於wav2vec2架構的大型自動語音識別(ASR)模型，專門針對挪威書面語(博克馬爾)進行訓練。

該模型是基於jonatasgrosman/wav2vec2-large-xlsr-53-spanish微調的版本，用於西班牙語語音識別任務。

這是一個基於wav2vec2 XLS-R架構的自動語音識別模型，專門針對挪威博克馬爾語優化，在NPSC數據集上訓練。