# 16K上下文

完整的中文LLaMA-2-13B-16K模型，支持16K上下文長度，可直接加載進行推理和全參數訓練

基於llama-13b微調的開源聊天機器人，支持16k上下文長度，訓練數據來自ShareGPT平臺用戶分享的對話

該模型是在billsum數據集上對led-base-16384進行微調的版本，專門用於長文檔摘要生成任務。

基於Billsum數據集微調的長文檔編碼器-解碼器(LED)模型，專長於法律文本摘要生成

基於ILC數據集微調的Longformer編碼器-解碼器模型，專門用於法律文檔摘要生成任務

一個基於LED架構的文本摘要模型，專門用於處理技術性、學術性和敘事性長文本的摘要生成。

DialogLM是基於Longformer-Encoder-Decoder（LED）架構的預訓練模型，專為長對話理解與摘要任務設計。