AIbase
TW
模型選型
標籤
分組查詢注意力

# 分組查詢注意力

Qwen2.5 7B Embed Base
Apache-2.0
Qwen2.5-7B-embed-base是基於Transformer架構的預訓練語言模型，專為生成高質量文本嵌入向量而設計。
文本嵌入 英語
Q
ssmits
85
1
Mistral Nemo Base 2407 Chatml
Apache-2.0
Mistral-Nemo-Base-2407是由Mistral AI與NVIDIA聯合訓練的120億參數生成式文本預訓練模型，性能超越同規模或更小規模的模型。
大型語言模型 Transformers 支持多種語言
M
IntervitensInc
191
3
Llama 3.1 70B
Meta羊駝3.1是支持8種語言的大語言模型系列，包含8B/70B/405B三種規模，在行業基準測試中超越多數開源和閉源聊天模型
大型語言模型 Transformers 支持多種語言
L
meta-llama
97.35k
358
Fox 1 1.6B
Apache-2.0
Fox-1-1.6B是由TensorOpera AI開發的16億參數小型語言模型，採用分組查詢注意力機制，訓練數據達3萬億文本和代碼。
大型語言模型 Transformers 英語
F
tensoropera
1,741
33
Llama 3 8B Instruct GGUF Q4 K M
Meta Llama3 Instruct 8B是Meta發佈的8B參數指令調優大語言模型，針對對話場景優化，在安全性和幫助性方面表現優異。
大型語言模型 英語
L
thesven
76
1
Mistral 7B Instruct V0.1 Sharded
Apache-2.0
Mistral-7B-Instruct-v0.1是基於Mistral-7B-v0.1的指令微調版本，適用於對話生成任務。
大型語言模型 Transformers
M
filipealmeida
1,363
14
Mistral 7B V0.1
Apache-2.0
Mistral-7B-v0.1是一個擁有70億參數的預訓練生成文本模型，性能優於Llama 2 13B版本
大型語言模型 Transformers 英語
M
mistralai
621.54k
3,763
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase