Tablellm 13b GGUF

🚀 QuantFactory/TableLLM-13b-GGUF

このプロジェクトは、大規模言語モデルを用いて表形式データの操作を効率的に行うためのものです。TableLLMシリーズのモデルは、異なるシナリオに基づいてコードソリューションまたは直接的なテキスト回答を生成し、表形式データの操作タスクを処理します。

このモデルは、RUCKBReasoning/TableLLM-13b を llama.cpp を使用して量子化したバージョンです。

📚 ドキュメント

元のモデル情報

TableLLMの概要

TableLLM は、実際のオフィスシナリオにおいて、大規模言語モデルを用いて表形式データの操作タスクを効率的に処理するために設計された強力な大規模言語モデルです。TableLLMシリーズには、TableLLM-7B と TableLLM-13B の2つの異なる規模のモデルがあり、それぞれ CodeLlama-7b-Instruct-hf と CodeLlama-13b-Instruct-hf をベースに微調整されています。

TableLLMは、異なるシナリオに基づいて、表形式データの操作タスクを処理するためのコードソリューションまたは直接的なテキスト回答を生成します。コード生成は、スプレッドシートに埋め込まれた表形式データの処理に使用され、通常は表の挿入、削除、更新、クエリ、マージ、およびプロット操作が含まれます。テキスト生成は、ドキュメントに埋め込まれた表形式データの処理に使用され、通常は短い表のクエリ操作が含まれます。

評価結果

TableLLMのコードソリューション生成能力を、WikiSQL、Spider、および独自作成の表操作ベンチマークの3つのベンチマークで評価しました。テキスト回答生成能力は、WikiTableQuestion (WikiTQ)、TAT-QA、FeTaQA、およびOTTQAの4つのベンチマークでテストされました。評価結果は以下の通りです。

プロンプトテンプレート

コードソリューションとテキスト回答の生成に使用するプロンプトテンプレートを以下に紹介します。

基本的な使用法

コードソリューション

単一の表に対する挿入、削除、更新、クエリ、およびプロット操作のためのプロンプトテンプレート。

[INST]以下はCSVファイルの最初の数行です。提供された質問を解決するPythonプログラムを記述する必要があります。

CSVファイルのヘッダーと最初の数行:
{csv_data}

質問: {question}[/INST]

2つの表に対するマージ操作のためのプロンプトテンプレート。

[INST]以下は2つのCSVファイルの最初の数行です。提供された質問を解決するPythonプログラムを記述する必要があります。

CSVファイル1のヘッダーと最初の数行:
{csv_data1}

CSVファイル2のヘッダーと最初の数行:
{csv_data2}

質問: {question}[/INST]

csv_dataフィールドには、提供された表ファイルの最初の数行が入力されます。以下は例です。

Sex,Length,Diameter,Height,Whole weight,Shucked weight,Viscera weight,Shell weight,Rings
M,0.455,0.365,0.095,0.514,0.2245,0.101,0.15,15
M,0.35,0.265,0.09,0.2255,0.0995,0.0485,0.07,7
F,0.53,0.42,0.135,0.677,0.2565,0.1415,0.21,9
M,0.44,0.365,0.125,0.516,0.2155,0.114,0.155,10
I,0.33,0.255,0.08,0.205,0.0895,0.0395,0.055,7

テキスト回答

短い表に対する直接的なテキスト回答生成のためのプロンプトテンプレート。

[INST][Question]に記載された質問に直接対応する、徹底的かつ正確な解決策を提供してください。
### [Table Text]
{table_descriptions}

### [Table]

{table_in_csv}

### [Question]
{question}

### [Solution][INST/]

TableLLMの使用方法の詳細については、GitHubページを参照してください: https://github.com/TableLLM/TableLLM