# CPU優化

針對低端硬件和純CPU環境優化的量化版本，在資源限制下實現生產可用的推理就緒配置

GLM-Z1-32B-0414是一個32B參數規模的多語言文本生成模型，支持中文和英文，採用MIT許可證發佈。

基於OLMo-2-0325-32B-DPO的指令微調模型，採用IQ-DynamicGate超低比特量化技術，專為內存受限環境優化。

all-MiniLM-L6-v2是一個小型高效的句子嵌入模型，基於MiniLM架構，適用於句子相似度計算和特徵提取任務。

Qwen2.5-14B-Instruct 是一個基於 Qwen2.5-14B 的指令微調模型，支持文本生成任務，適用於聊天和問答場景。

一個基於fasttext的文本分類器，用於將文本分類為數學類或其他類，適用於LLM預訓練數據整理

基於LLaMA-3.2-1B微調的心理健康諮詢對話模型，支持在CPU和低內存設備上運行

基於FastText的輕量級分類器，用於評估網頁內容的教育價值，優化CPU處理速度

這是一個用於計算俄語句子緊湊嵌入向量的基礎BERT模型，基於cointegrated/rubert-tiny2開發，層數從3層增加到7層。

提供GGUF格式的量化與非量化嵌入模型，專為llama.cpp設計。在CPU上運行時能大幅提升速度，GPU上對大型模型也有適度加速。

提供GGUF格式的量化與非量化嵌入模型，專為llama.cpp設計，性能優於transformers，在CPU上能顯著提速

基於Llama-2-7B-Chat-GGML模型的醫療領域聊天機器人，專注於回答醫學相關問題並提供醫學文本生成能力

基於7B版llama2的GGUF格式模型，用於生成提示詞，支持CPU環境運行

針對CPU優化的韓語處理流程，包含分詞、詞性標註、依存分析、命名實體識別等完整NLP功能

針對CPU優化的立陶宛語處理流程，包含分詞、詞性標註、依存分析、命名實體識別等完整NLP功能

針對CPU優化的丹麥語處理流程，包含分詞、詞性標註、依存句法分析、命名實體識別等完整NLP功能

針對CPU優化的多語言命名實體識別模型，支持識別地點、組織、人物等實體類型

spaCy提供的針對CPU優化的俄語處理流程，包含分詞、詞性標註、依存分析、命名實體識別等功能

針對CPU優化的羅馬尼亞語自然語言處理模型，包含分詞、詞性標註、依存分析、命名實體識別等功能

針對CPU優化的中文自然語言處理流程，包含分詞、詞性標註、依存分析、命名實體識別等功能

針對CPU優化的意大利語處理流程，包含分詞、詞性標註、依存分析、命名實體識別等功能

針對CPU優化的俄語處理流程，包含標記分類、依存分析、命名實體識別等NLP任務