# 跨任务微调

基于BAAI/bge-small-en-v1.5模型微调的文本嵌入模型，通过MEDI数据集与MTEB分类任务数据集训练，优化了检索任务的查询编码能力。

基于芬兰语预训练的T5模型，采用基于跨度的掩码语言建模目标，需针对下游任务微调后使用

T5-Efficient-BASE-FF6000是谷歌原版T5的一个变体，采用深度窄型架构，在参数数量相近的模型架构中，下游任务性能更具优势。

T5-Efficient-BASE是基于谷歌T5架构的变体，采用深度窄型设计优化下游任务表现，参数量2.229亿

T5-Efficient-TINY-FF12000是Google原始T5的一个变体，采用深度窄型架构，在参数数量相近的模型中表现出更优的下游任务性能。

T5-Efficient-SMALL-DM768 是 Google 原始 T5 的一个变体，采用深度窄型架构，优先增加模型深度以提高下游性能。

T5高效小型-NL22是谷歌T5模型的深度窄型变体，专注于通过增加模型深度提升下游任务性能。

T5-Efficient-BASE-FF9000是谷歌原版T5的变体，采用深度窄型架构，在参数规模相似的情况下，下游任务表现更优。

T5-Efficient-LARGE是基于谷歌T5的变体，采用深度窄型架构优化下游任务性能，拥有7.377亿参数。

T5-Efficient-SMALL-KV256是谷歌T5的变体，采用深度窄型架构优化下游任务性能，参数量1.17亿，需微调使用。

T5-Efficient-SMALL是Google原版T5的一个变体，采用深度窄型架构，在参数数量相近的情况下，下游任务性能优于其他架构。

T5-Efficient-SMALL-EL2是Google原版T5的一个变体，采用深度窄型架构，优先增加模型深度以提高下游性能。

T5-Efficient-MINI是谷歌原版T5的一个变体，采用深度窄型架构，在参数数量相似的模型架构中表现出更优的下游任务性能。

T5-Efficient-SMALL-KV32是Google原版T5的一个变体，采用深度窄型架构，专注于提高下游任务性能。

T5-Efficient-TINY-NL32是Google原版T5的一个变体，采用深度窄型架构，优先增加模型深度以优化下游任务性能。