Alpaca 7b Wdiff

🚀 Stanford Alpaca-7B

このリポジトリは、Stanford Alpaca-7B の重み差分をホストしています。この差分は、MetaのLLaMAの重みに適用することで、元のモデルの重みを再構築するために使用できます。

🚀 クイックスタート

元のAlpaca-7Bの重みを復元するには、以下の手順に従ってください。

1. Metaが公開した重みをHugging Face形式に変換します。このガイドに従ってください。
    https://huggingface.co/docs/transformers/main/model_doc/llama
2. 公開された重み差分をローカルマシンにクローンしていることを確認してください。重み差分は以下にあります。
    https://huggingface.co/tatsu-lab/alpaca-7b/tree/main
3. 正しいパスでこの関数を実行します。例えば、
    python weight_diff.py recover --path_raw <path_to_step_1_dir> --path_diff <path_to_step_2_dir> --path_tuned <path_to_store_recovered_weights>

ステップ3が完了すると、復元された重みが格納されたディレクトリができます。ここから、以下のようにモデルをロードできます。

💻 使用例

基本的な使用法

import transformers
alpaca_model = transformers.AutoModelForCausalLM.from_pretrained("<path_to_store_recovered_weights>")
alpaca_tokenizer = transformers.AutoTokenizer.from_pretrained("<path_to_store_recovered_weights>")

📄 ライセンス

このプロジェクトは、CC BY-NC 4.0ライセンスの下でライセンスされています。