AIbase
TW
模型選型
標籤
Llama.cpp兼容

# Llama.cpp兼容

Seed Coder 8B Reasoning Bf16 Q6 K GGUF
MIT
這是一個基於ByteDance-Seed/Seed-Coder-8B-Reasoning-bf16轉換的GGUF格式模型，適用於代碼生成和推理任務。
大型語言模型
S
GrimsenClory
100
1
3b De Ft Research Release Q4 K M GGUF
Apache-2.0
這是一個基於canopylabs/3b-de-ft-research_release模型轉換的GGUF格式德語語言模型，適用於文本生成任務。
大型語言模型 德語
3
freddyaboulton
200
0
Slim Orpheus 3b JAPANESE Ft Q4 K M GGUF
Apache-2.0
這是一個基於slim-orpheus-3b-JAPANESE-ft模型轉換的GGUF格式模型，專門針對日語文本處理進行了優化。
大型語言模型 日語
S
Gapeleon
40
0
Thedrummer Cydonia 24B V2.1 GGUF
其他
Cydonia-24B-v2.1是一個24B參數的大語言模型，經過llama.cpp的imatrix量化處理，提供多種量化版本以適應不同硬件需求。
大型語言模型
T
bartowski
4,417
7
Coderankembed Q8 0 GGUF
MIT
本模型是nomic-ai/CodeRankEmbed的GGUF格式轉換版本，適用於代碼相關任務。
文本嵌入
C
awhiteside
16
1
T5 Small Q4 K M GGUF
Apache-2.0
該模型是通過ggml.ai的GGUF-my-repo空間，使用llama.cpp從google-t5/t5-small轉換至GGUF格式的量化版本。
機器翻譯 支持多種語言
T
egrhfnfdg
25
0
Text Summarization Q4 K M GGUF
Apache-2.0
這是一個基於Falconsai/text_summarization模型轉換而來的GGUF格式文本摘要模型，適用於使用llama.cpp進行推理。
文本生成 英語
T
tonyc666
16
0
Saiga Mistral 7b Gguf
Apache-2.0
基於Mistral架構的7B參數俄語大語言模型，支持文本生成任務
大型語言模型 其他
S
IlyaGusev
1,042
87
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase