# 跨任務微調

基於BAAI/bge-small-en-v1.5模型微調的文本嵌入模型，通過MEDI數據集與MTEB分類任務數據集訓練，優化了檢索任務的查詢編碼能力。

基於芬蘭語預訓練的T5模型，採用基於跨度的掩碼語言建模目標，需針對下游任務微調後使用

T5-Efficient-SMALL-DM768 是 Google 原始 T5 的一個變體，採用深度窄型架構，優先增加模型深度以提高下游性能。

T5-Efficient-BASE-FF6000是谷歌原版T5的一個變體，採用深度窄型架構，在參數數量相近的模型架構中，下游任務性能更具優勢。

T5-Efficient-SMALL-KV32是Google原版T5的一個變體，採用深度窄型架構，專注於提高下游任務性能。

T5-Efficient-BASE是基於谷歌T5架構的變體，採用深度窄型設計優化下游任務表現，參數量2.229億

T5-Efficient-SMALL-EL2是Google原版T5的一個變體，採用深度窄型架構，優先增加模型深度以提高下游性能。

T5-Efficient-SMALL-KV256是谷歌T5的變體，採用深度窄型架構優化下游任務性能，參數量1.17億，需微調使用。

T5-Efficient-LARGE是基於谷歌T5的變體，採用深度窄型架構優化下游任務性能，擁有7.377億參數。

T5-Efficient-BASE-FF9000是谷歌原版T5的變體，採用深度窄型架構，在參數規模相似的情況下，下游任務表現更優。

T5-Efficient-SMALL是Google原版T5的一個變體，採用深度窄型架構，在參數數量相近的情況下，下游任務性能優於其他架構。

T5-Efficient-MINI是谷歌原版T5的一個變體，採用深度窄型架構，在參數數量相似的模型架構中表現出更優的下游任務性能。

T5-Efficient-TINY-FF12000是Google原始T5的一個變體，採用深度窄型架構，在參數數量相近的模型中表現出更優的下游任務性能。

T5高效小型-NL22是谷歌T5模型的深度窄型變體，專注於通過增加模型深度提升下游任務性能。

T5-Efficient-TINY-NL32是Google原版T5的一個變體，採用深度窄型架構，優先增加模型深度以優化下游任務性能。