Gemma 7b Zephyr Sft
模型概述
這是一個85億參數的GPT類模型,在混合公開和合成數據集上進行監督微調(SFT),專注於英語文本生成任務。
模型特點
Zephyr SFT微調
採用Zephyr監督微調配方訓練,提升了模型在對話和指令跟隨方面的表現
高性能基準測試
在開放LLM排行榜多項基準測試中表現優異,如HellaSwag(80.73)和Winogrande(74.19)
計算效率優化
使用8xA100 80GB節點訓練,優化了大規模模型的計算效率
模型能力
文本生成
問答系統
推理任務
對話系統
知識問答
使用案例
教育
AI2推理挑戰賽
解決科學推理問題
標準化準確率61.43
常識推理
HellaSwag評估
日常情境下的常識推理
標準化準確率80.73
Winogrande評估
指代消解和常識推理
準確率74.19
數學能力
GSM8k評估
解決小學數學問題
準確率49.81
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98