# 大模型蒸餾

這是一個基於Qwen-14B模型微調的版本，使用GRPO方法進行訓練，適用於文本生成任務。

DeepSeek-qwen-Bllossom-32B是基於DeepSeek-R1-Distill-Qwen-32B模型構建的，旨在提升韓語環境下的推理性能。

基於ModernBERT架構的醫療文本安全與倫理分類器，專為評估醫療領域文本安全性而設計

DeepSeek-R1-Distill-Llama-70B的FP8量化版本，通過減少權重和激活的位數來優化推理性能

Llama-3.3-70B-Instruct-FP8-dynamic 是經過優化的大語言模型，通過將激活和權重量化為 FP8 數據類型，減少了 GPU 內存需求並提高了計算吞吐量，支持多語言的商業和研究用途。

Ultravox 是一個多模態語音大語言模型，基於預訓練的 Llama3.1-70B-Instruct 和 Whisper-medium 主幹構建，能夠同時接收語音和文本作為輸入。

該模型是microsoft/Florence-2-large的微調版本，在Ejafa/ye-pop數據集的4萬張圖像子集上進行了訓練，標註由THUDM/cogvlm2-llama3-chat-19B生成，專注於圖像轉文本任務。