Cxmefzzi

🚀 tscholak/cxmefzzi

基於T5 - 3B的PICARD模型微調權重，用於文本到SQL的轉換任務，可泛化到未見的SQL數據庫

🚀 快速開始

本項目提供了基於 T5 - 3B 的 PICARD - Parsing Incrementally for Constrained Auto - Regressive Decoding from Language Models 模型的微調權重。該模型可用於解決文本到SQL的翻譯任務，且能泛化到未見的SQL數據庫。

✨ 主要特性

• 基於T5 - 3B模型進行微調，在Spider文本到SQL數據集上訓練。
• 能夠解決Spider的零樣本文本到SQL翻譯任務，可泛化到未見的SQL數據庫。
• 使用PICARD約束解碼方法可提升模型性能。

📦 安裝指南

暫未提供相關安裝步驟。

💻 使用示例

請參考 官方倉庫 中的腳本和Docker鏡像，以支持該模型的評估和服務。

📚 詳細文檔

訓練數據

該模型在 Spider文本到SQL數據集 的7000個訓練示例上進行了微調。此數據集可幫助模型學習如何將自然語言問題轉換為SQL查詢。

訓練目標

本模型以 T5 - 3B 為基礎進行初始化，並使用文本到文本生成目標進行微調。模型的輸入由用戶的自然語言問題、數據庫標識符以及表和列的列表組成：

[question] | [db_id] | [table] : [column] ( [content] , [content] ) , [column] ( ... ) , [...] | [table] : ... | ...

模型的輸出為數據庫標識符和用於在數據庫上執行以回答用戶問題的SQL查詢：

[db_id] | [sql]

性能

• 直接使用：該模型在Spider開發集上實現了71.5 % 的精確集匹配準確率和74.4 % 的執行準確率；在測試集上實現了68.0 % 的精確集匹配準確率和70.1 % 的執行準確率。
• 使用PICARD約束解碼方法：在Spider開發集上，模型性能可提升至 75.5 % 的精確集匹配準確率和 79.3 % 的執行準確率；在測試集上，模型實現了 71.9 % 的精確集匹配準確率和 75.1 % 的執行準確率。

引用

1. PICARD - Parsing Incrementally for Constrained Auto - Regressive Decoding from Language Models
2. 官方PICARD代碼

引用格式

@inproceedings{Scholak2021:PICARD,
  author = {Torsten Scholak and Nathan Schucher and Dzmitry Bahdanau},
  title = "{PICARD}: Parsing Incrementally for Constrained Auto-Regressive Decoding from Language Models",
  booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
  month = nov,
  year = "2021",
  publisher = "Association for Computational Linguistics",
  url = "https://aclanthology.org/2021.emnlp-main.779",
  pages = "9895--9901",
}

📄 許可證

本項目採用Apache 2.0許可證。