# 模型融合優化

Magnolia-v3-Gemma2-8k-9B是通過mergekit合併預訓練語言模型而創建的模型，為文本生成提供了新的解決方案。

基於模型融合技術優化的命名實體識別模型，F1分數提升3.25個點至0.6601

基於多個8B參數Llama-3.1模型的合併模型，採用model_stock方法優化性能

基於Mistral架構的醫療領域開源大語言模型，通過PubMed Central文本繼續預訓練

BioMistral是基於Mistral架構、針對醫學領域優化的開源大語言模型，通過PubMed Central開放獲取文本數據繼續預訓練，支持多語言醫學問答任務。

BioMistral是基於Mistral架構、使用PubMed Central開放獲取文本數據繼續預訓練的醫學領域開源模型套件。

該模型是通過ties合併方法融合OpenHermes-2.5-Mistral-7B與Intel的neural-chat-7b-v3-2兩個模型而成，專注於文本生成任務。