# 低資源高效推理

Samastam是Sarvam-1模型的早期指導變體，基於Alpaca-cleaned數據集微調，支持多語言指令響應。

基於llama.cpp生成的0.5B參數規模的文本生成模型，支持指令式文本生成任務

這是一個基於Qwen3的混合專家模型（MoE），總參數量為24億，包含4個6億參數的專家模型，旨在以更高效率和更低內存佔用提供更準確的結果。

獵鷹-H1是由TII開發的高性能混合架構語言模型，結合了Transformers和Mamba架構的優勢，支持英語和多語言任務。

Google推出的輕量級開源大語言模型，適用於多種文本生成任務

IBM-Granite的20億參數指導模型，支持多語言和長上下文任務，具備結構化推理能力。

基於Falcon3-Mamba-7B-Instruct微調的推理優化模型，採用曼巴架構實現高效推理

DeepSeek-R1-Distill-Llama-3B 是基於 Llama-3.2-3B 模型，使用 R1-Distill-SFT 數據集對 DeepSeek-R1 進行蒸餾得到的版本，具備文本生成能力。

mxbai-angle-large-v1 是一個高性能的嵌入模型，適用於多種自然語言處理任務，包括分類、聚類、檢索和重排序等。

Sarvam-1是一款專為印度語言優化的20億參數語言模型，在10種印度語言中表現優異。

Llama 3.2是由Meta開發的多語言大語言模型系列之一，包含1B參數的指令調優版本，針對多語言對話用例進行了優化。

這是基於behbudiy/Llama-3.1-8B-Instuct-Uz的靜態量化版本，支持烏茲別克語和英語，適用於多種文本生成任務。

CosmosLLaMa-指令 DPO 是專為土耳其語文本生成任務設計的大語言模型，能夠以連貫且符合上下文的方式延續文本片段。

基於Meta-Llama-3.1微調的韓語大語言模型，專注於指令理解和生成任務

IBM Granite 8B代碼指令模型是一個專注於代碼生成和解釋的AI模型，支持多種編程語言，在HumanEval等基準測試中表現優異。

Phi-3 Small是一個70億參數的輕量級前沿開源模型，針對NVIDIA GPU優化的ONNX版本，支持8K上下文長度，具備強推理能力。

這是一個基於Gemma架構的2B參數規模的葡萄牙語大語言模型，專門針對巴西葡萄牙語優化，支持指令跟隨和文本生成任務。

基於Mistral-7B-Instruct-v0.2微調的多語言指令跟隨模型，支持101種語言

DiscoLM German 7B v1 是一個基於Mistral架構的7B參數德語語言模型，支持德語和英語，採用Apache-2.0許可證發佈。

基於deepseek-coder-1.3b-base微調的TypeScript專用代碼生成模型，支持16K上下文和填充中間代碼(FIM)功能

多語言句子嵌入模型，支持50+種語言的文本相似度計算和語義搜索

基於Llama-2-7b-hf模型在MMLU數據集上持續訓練，提升MMLU指標表現的同時保持其他指標穩定

基於Wikihow數據集訓練的T5-small摘要生成模型，適用於英文文本摘要任務