Tablellm 13b

🚀 TableLLM：在實際辦公場景中實現大語言模型對錶格數據的操作

TableLLM是一個強大的大語言模型，旨在高效處理表格數據操作任務，無論是嵌入在電子表格還是文檔中的表格數據，都能滿足實際辦公場景的需求。TableLLM系列包含兩種不同規模的模型：TableLLM - 7B和TableLLM - 13B，它們分別基於CodeLlama - 7b - Instruct - hf和CodeLlama - 13b - Instruct - hf進行微調。

TableLLM會根據不同場景生成代碼解決方案或直接的文本答案，以處理表格數據操作任務。代碼生成用於處理嵌入在電子表格中的表格數據，通常涉及表格的插入、刪除、更新、查詢、合併和繪圖操作。文本生成用於處理嵌入在文檔中的表格數據，通常涉及短表格的查詢操作。

相關鏈接：

• 論文
• 訓練集
• Github
• 主頁

🚀 快速開始

TableLLM可根據不同場景生成代碼解決方案或文本答案來處理表格數據操作任務。若需瞭解更多關於如何使用TableLLM的詳細信息，請參考我們的GitHub頁面：https://github.com/TableLLM/TableLLM。

✨ 主要特性

• 多場景支持：能夠處理嵌入在電子表格和文檔中的表格數據操作任務。
• 多種操作支持：支持表格的插入、刪除、更新、查詢、合併和繪圖等操作。
• 兩種輸出形式：可根據不同場景生成代碼解決方案或直接的文本答案。

🔧 技術細節

TableLLM基於CodeLlama系列模型進行微調，通過不同的提示模板生成代碼解決方案或文本答案。在代碼生成方面，針對單表和雙表的不同操作提供了相應的提示模板；在文本生成方面，提供了用於生成短表格直接文本答案的提示模板。

📚 詳細文檔

評估結果

我們在三個基準測試（WikiSQL、Spider和自建表格操作基準測試）上評估了TableLLM生成代碼解決方案的能力，在四個基準測試（WikiTableQuestion (WikiTQ)、TAT - QA、FeTaQA和OTTQA）上測試了其生成文本答案的能力。評估結果如下：

提示模板

以下介紹了我們用於生成代碼解決方案和文本答案的提示模板。

代碼解決方案

• 單表操作（插入、刪除、更新、查詢和繪圖操作）的提示模板

[INST]Below are the first few lines of a CSV file. You need to write a Python program to solve the provided question.

Header and first few lines of CSV file:
{csv_data}

Question: {question}[/INST]

• 雙表合併操作的提示模板

[INST]Below are the first few lines two CSV file. You need to write a Python program to solve the provided question.

Header and first few lines of CSV file 1:
{csv_data1}

Header and first few lines of CSV file 2:
{csv_data2}

Question: {question}[/INST]

csv_data字段需填充所提供表格文件的前幾行。以下是一個示例：

Sex,Length,Diameter,Height,Whole weight,Shucked weight,Viscera weight,Shell weight,Rings
M,0.455,0.365,0.095,0.514,0.2245,0.101,0.15,15
M,0.35,0.265,0.09,0.2255,0.0995,0.0485,0.07,7
F,0.53,0.42,0.135,0.677,0.2565,0.1415,0.21,9
M,0.44,0.365,0.125,0.516,0.2155,0.114,0.155,10
I,0.33,0.255,0.08,0.205,0.0895,0.0395,0.055,7

文本答案

用於生成短表格直接文本答案的提示模板：

[INST]Offer a thorough and accurate solution that directly addresses the Question outlined in the [Question].
### [Table Text]
{table_descriptions}

### [Table]

{table_in_csv}

### [Question]
{question}

### [Solution][INST/]