Tofu Ft Phi 1.5

🚀 Phi-1.5をTOFUデータセットでファインチューニングしたモデル

このリポジトリは、TOFU (Task of Fictitious Unlearning) データセットでファインチューニングされたPhi-1.5モデルに関するものです。このモデルを使用することで、研究者はモデルの学習データから特定のデータポイントを忘却する能力に焦点を当てることができ、プライバシー、データの敏感性、および規制遵守に関する懸念に対処することができます。

🚀 クイックスタート

🔗 クイックリンク

• ウェブサイト: TOFUのランディングページ
• arXiv論文: TOFUデータセットと忘却タスクにおけるその重要性に関する詳細情報
• GitHubリポジトリ: TOFUデータセットのソースコード、ファインチューニングスクリプト、および追加のリソースにアクセス
• Hugging Faceのデータセット: TOFUデータセットをダウンロードする直接リンク
• Hugging Face Spacesのリーダーボード: TOFUデータセットのチャレンジに関する現在のランキングと提出物
• Twitterの要約: プロジェクトの簡潔な要約と重要なポイント

🌐 概要

TOFUデータセット は、現実的なタスクにおける大規模言語モデル (LLM) の忘却性能を評価するために特別に設計された新しいベンチマークです。このデータセットは、GPT-4モデルによって完全に生成された200人の架空の著者の自伝に基づく質問と回答のペアで構成されています。このデータセットは、Llama2-7B-Chat/Phi-1.5などのチャットモデルが選択的なデータ忘却能力を示すための独自の機会を提供します。

🤖 モデルの説明

Phi-1.5は、完全なTOFUデータセットでファインチューニングされ、忘却セットの様々な部分を忘却することに特化しています。このプロセスにより、モデルは特定の知識セグメントを破棄する能力が向上し、関連性のないタスクでの全体的なパフォーマンスを損なうことなく、データプライバシーと機械的な忘却に関する研究に特化したバージョンとなっています。

🛠️ 適用性

ファインチューニングされたモデルは、以下を含む幅広い研究アプリケーションに対応しています。

• プライバシー保護機械学習
• AIにおける規制遵守
• AIシステムにおける知識の保持と忘却のダイナミクスの探索

📋 技術仕様

📦 インストール

ファインチューニングされたPhi-1.5モデルを使用するには、以下の手順に従ってください。

インストール手順

Python 3.10以上がインストールされていることを確認してから、必要なパッケージをインストールします。

pip install transformers
pip install datasets

モデルの読み込み

Transformersライブラリを使用してモデルを読み込むことができます。

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "locuslab/tofu_ft_phi-1.5"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

💻 使用例

inputs = tokenizer.encode("Your prompt here", return_tensors='pt')
outputs = model.generate(inputs)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

💾 コードベース

モデルを学習するためのコードと、すべてのファインチューニングされたモデルの可用性は、GitHubリポジトリ で確認できます。

📖 引用

このコードベースとデータセットが役立つ場合、以下のように引用してください。

@misc{tofu2024,
      title={TOFU: A Task of Fictitious Unlearning for LLMs}, 
      author={Pratyush Maini and Zhili Feng and Avi Schwarzschild and Zachary C. Lipton and J. Zico Kolter},
      year={2024},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で提供されています。