Airoboros Gpt 3.5 Turbo 100k 7b

🚀 airoboros-gpt-3.5-turbo-100k-7b

このモデルは、私のバージョンのself-instruct airoborosを使用して、gpt-3.5-turboによって生成された10万の合成命令/応答ペアでファインチューニングされた70億パラメータのモデルです。このモデルのコンテキスト長は2048です。

🚀 クイックスタート

このリポジトリは古く、古いプロンプト形式を使用しています。代わりにairoboros-13bを見ることをおすすめします。

✨ 主な機能

• 70億パラメータのモデル
• gpt-3.5-turboによって生成された10万の合成命令/応答ペアでファインチューニング
• コンテキスト長は2048

📦 インストール

プロンプト生成

airoboros generate-instructions --instruction-count 100000 --concurrency 100 --temperature 1.0

ファインチューニング

instructions.jsonlファイルをFastChatのトレーニングスクリプトが期待する会話形式に変換し、以下のコマンドでトレーニングします。

torchrun --nproc_per_node=8 --master_port=20001 train_mem.py \
        --model_name_or_path /workspace/llama-7b-hf \
        --data_path ./as_conversations.json \
        --bf16 True \
        --output_dir /workspace/airoboros-gpt-3.5-100k-7b \
        --num_train_epochs 3 \
        --per_device_train_batch_size 4 \
        --per_device_eval_batch_size 32 \
        --gradient_accumulation_steps 4 \
        --evaluation_strategy "steps" \
        --eval_steps 1500 \
        --save_strategy "steps" \
        --save_steps 1500 \
        --save_total_limit 8 \
        --learning_rate 2e-5 \
        --weight_decay 0. \
        --warmup_ratio 0.04 \
        --lr_scheduler_type "cosine" \
        --logging_steps 1 \
        --fsdp "full_shard auto_wrap offload" \
        --fsdp_transformer_layer_cls_to_wrap 'LlamaDecoderLayer' \
        --tf32 True \
        --model_max_length 2048 \
        --gradient_checkpointing True \
        --lazy_preprocess True

トレーニングには、8台のnvidia A100 80GBで約22時間かかりました。

会話形式への変換:

import json
import uuid
inputs = [json.loads(line) for line in open("instructions.jsonl").readlines()]
conversations = []
for row in inputs:
    inputs = row['instruction']
    conversations.append({
        "id": str(uuid.uuid4()),
        "conversations": [
            {
                "from": "human",
                "value": inputs,
            },
            {
                "from": "gpt",
                "value": row['response']
            },
        ],
    })
with open("as_conversations.json", "w") as outfile:
    outfile.write(json.dumps(conversations, indent=2))

💻 使用例

基本的な使用法

このモデルを使用する最も簡単な方法は、fastchatを介することです。

python -m fastchat.serve.cli --model-path ./airoboros-gpt-3.5-turbo-100k-7b --temperature 1.0

高度な使用法

以下は、モデルを使用して新しい命令チューニングAIモデルを紹介するメールを生成する例です。

Human: Write an email introducing a new instruction-tuned AI model named airoboros.  The key features about airoboros are: 1. it was fine-tuned with entirely machine-generated synthetic instruction/response pairs  2. the 7 billion parameter model performs very well in comparison to 13b models  3. the synthetic prompt generation tool is free, open-source, and highly customizable.
Assistant: Subject: Introducing airoboros - a new instruction-tuned AI model

Dear [Recipient],

I am excited to introduce a new instruction-tuned AI model named airoboros. This model was developed by our team with the aim of providing high-quality natural language processing capabilities at scale.

airoboros is a 7 billion parameter model that was fine-tuned with entirely machine-generated synthetic instruction/response pairs. This approach allowed us to achieve state-of-the-art performance in various NLP tasks such as question answering, sentiment analysis, and machine translation. In fact, when compared to other popular 13b models, airoboros performed better on several benchmarks.

Moreover, airoboros's synthetic prompt generation tool is free, open-source, and highly customizable. This means that developers can easily integrate our model into their applications without having to worry about licensing fees or restrictions.

We believe that airoboros will be an excellent addition to your workflow and hope you find it useful. If you have any questions or concerns, please do not hesitate to contact us.

Best regards,

[Your Name]

[Your Company Name]

これは命令チューニングされたモデルであり、チャットには適していないことに注意してください。

📚 ドキュメント

評価

私はWizardVicunaLMと同じ質問を使用して評価を行いました。

gpt-3.5をベースラインとして使用すると、以下のスコアが得られます。

平均スコア:

gpt3.5                             1.000000
wizard-vicuna-13b                  0.934090
vicuna-13b                         0.900847
wizard-7b                          0.902428
airoboros-gpt-3.5-turbo-100k-7b    0.926496

このように、__70億パラメータ__のairoborosモデルは、130億パラメータのモデルと比較しても良好な性能を発揮しています。

使用とライセンスに関する注意事項

すべてのairoborosモデルとデータセットは、研究用途のみを目的としており、ライセンスも研究用途のみに許可されています。私は'cc-nc-4.0'ライセンスを使用していますが、実際には特別なカスタムライセンスに従います。理由は以下の通りです。

• ベースモデルはLLaMaであり、独自の特別な研究用ライセンスがあります。
• データセットはOpenAI (gpt-4および/またはgpt-3.5-turbo) を使用して生成されており、OpenAIの条項により、このデータを使用してOpenAIと競合するモデルを作成することはできません。

繰り返しになりますが、このモデル (およびデータセット) は商用利用することはできません。

📄 ライセンス

このモデルは'cc-by-nc-4.0'ライセンスの下で提供されています。

⚠️ 重要提示

このモデルは研究用途のみを目的としており、商用利用することはできません。

💡 使用建议

このモデルは命令チューニングされたモデルであり、チャットには適していないため、命令を与えて使用することをおすすめします。