Tablellm 13b

🚀 TableLLM：在实际办公场景中实现大语言模型对表格数据的操作

TableLLM是一个强大的大语言模型，旨在高效处理表格数据操作任务，无论是嵌入在电子表格还是文档中的表格数据，都能满足实际办公场景的需求。TableLLM系列包含两种不同规模的模型：TableLLM - 7B和TableLLM - 13B，它们分别基于CodeLlama - 7b - Instruct - hf和CodeLlama - 13b - Instruct - hf进行微调。

TableLLM会根据不同场景生成代码解决方案或直接的文本答案，以处理表格数据操作任务。代码生成用于处理嵌入在电子表格中的表格数据，通常涉及表格的插入、删除、更新、查询、合并和绘图操作。文本生成用于处理嵌入在文档中的表格数据，通常涉及短表格的查询操作。

相关链接：

• 论文
• 训练集
• Github
• 主页

🚀 快速开始

TableLLM可根据不同场景生成代码解决方案或文本答案来处理表格数据操作任务。若需了解更多关于如何使用TableLLM的详细信息，请参考我们的GitHub页面：https://github.com/TableLLM/TableLLM。

✨ 主要特性

• 多场景支持：能够处理嵌入在电子表格和文档中的表格数据操作任务。
• 多种操作支持：支持表格的插入、删除、更新、查询、合并和绘图等操作。
• 两种输出形式：可根据不同场景生成代码解决方案或直接的文本答案。

🔧 技术细节

TableLLM基于CodeLlama系列模型进行微调，通过不同的提示模板生成代码解决方案或文本答案。在代码生成方面，针对单表和双表的不同操作提供了相应的提示模板；在文本生成方面，提供了用于生成短表格直接文本答案的提示模板。

📚 详细文档

评估结果

我们在三个基准测试（WikiSQL、Spider和自建表格操作基准测试）上评估了TableLLM生成代码解决方案的能力，在四个基准测试（WikiTableQuestion (WikiTQ)、TAT - QA、FeTaQA和OTTQA）上测试了其生成文本答案的能力。评估结果如下：

提示模板

以下介绍了我们用于生成代码解决方案和文本答案的提示模板。

代码解决方案

• 单表操作（插入、删除、更新、查询和绘图操作）的提示模板

[INST]Below are the first few lines of a CSV file. You need to write a Python program to solve the provided question.

Header and first few lines of CSV file:
{csv_data}

Question: {question}[/INST]

• 双表合并操作的提示模板

[INST]Below are the first few lines two CSV file. You need to write a Python program to solve the provided question.

Header and first few lines of CSV file 1:
{csv_data1}

Header and first few lines of CSV file 2:
{csv_data2}

Question: {question}[/INST]

csv_data字段需填充所提供表格文件的前几行。以下是一个示例：

Sex,Length,Diameter,Height,Whole weight,Shucked weight,Viscera weight,Shell weight,Rings
M,0.455,0.365,0.095,0.514,0.2245,0.101,0.15,15
M,0.35,0.265,0.09,0.2255,0.0995,0.0485,0.07,7
F,0.53,0.42,0.135,0.677,0.2565,0.1415,0.21,9
M,0.44,0.365,0.125,0.516,0.2155,0.114,0.155,10
I,0.33,0.255,0.08,0.205,0.0895,0.0395,0.055,7

文本答案

用于生成短表格直接文本答案的提示模板：

[INST]Offer a thorough and accurate solution that directly addresses the Question outlined in the [Question].
### [Table Text]
{table_descriptions}

### [Table]

{table_in_csv}

### [Question]
{question}

### [Solution][INST/]