Sqlcoder 7b

🚀 Defog SQLCoder

DefogのSQLCoderは、自然言語の質問をSQLクエリに変換するための最先端の大規模言語モデル（LLM）です。このモデルは、自然言語からSQLへの変換タスクにおいて高い性能を発揮します。

インタラクティブデモ | 🤗 HFリポジトリ | ♾️ Colab | 🐦 Twitter

🚀 クイックスタート

このモデルは現在古くなっています。より良い性能を得るには、defog/sqlcoder-7b-2 を使用してください！

✨ 主な機能

TL;DR

SQLCoder-7Bは70億パラメータのモデルで、sql-eval フレームワーク上の自然言語からSQL生成タスクにおいて gpt-3.5-turbo を上回り、すべての人気のあるオープンソースモデルを大きく上回ります。特定のスキーマで微調整すると、gpt-4 も上回ります。SQLCoder-7Bは、Mistral-7Bベースモデルを微調整したものです。

学習で見ていない新しいデータセットでの結果

質問カテゴリ別の結果

生成された各質問を5つのカテゴリのいずれかに分類しました。この表は、各モデルが正しく回答した質問の割合をカテゴリ別に表示しています。

📦 インストール

SQLCoderは、Hugging Faceリポジトリからモデルの重みをダウンロードし、transformers ライブラリを介して使用できます。サンプルデータベーススキーマ での 推論 のサンプルコードを用意しています。

python inference.py -q "サンプルデータベースに関する質問をここに入力"

# サンプル質問:
# ニューヨークの顧客とサンフランシスコの顧客からの収益を比較すると、どちらからの収益が多いですか？各都市の総収益と、その差を教えてください。

また、こちら のウェブサイトでデモを使用することもできますし、こちら でColab上でSQLCoderを実行することもできます。

🔧 技術詳細

学習

SQLCoderは、2万以上の人間が作成した質問で学習されています。これらの質問は10種類の異なるスキーマに基づいています。学習データのスキーマは、評価フレームワークには含まれていません。

学習アプローチ と 評価フレームワーク について詳しく読むことができます。

ハードウェア要件

SQLCoderは、bfloat16 重みでA100 40GB GPUでテストされています。また、RTX 4090、RTX 3090、Apple M2 Pro、M2 Max、または20GB以上のメモリを持つM2 Ultraチップなど、20GB以上のメモリを持つ消費者向けGPUに8ビットおよび4ビット量子化バージョンのモデルをロードすることもできます。

📄 ライセンス

このリポジトリ内のコード（ほとんどありませんが）は、Apache-2ライセンスです。モデルの重みは CC BY-SA 4.0 ライセンスです。簡単に言うと、あらゆる目的（商用利用を含む）でモデルを使用および変更することができます。ただし、重みを変更した場合（例えば、微調整する場合）、変更した重みを同じライセンス条項の下でオープンソースにする必要があります。

📋 Todo

• [x] v1モデルの重みをオープンソース化
• [x] より多くのデータで、より高いデータ分散でモデルを学習
• [ ] 報酬モデリングとRLHFでモデルをさらに微調整
• [ ] SQL分析に特化したモデルをゼロから事前学習