Saul 7B Instruct V1

🚀 Equall/Saul-Instruct-v1

このモデルは、法務分野に特化した大規模命令型言語モデルであるEquall/Saul-Instruct-v1の命令型モデルです。このモデルは、Mistral-7Bを継続事前学習して得られたものです。

当社のウェブサイトにアクセスし、登録してください https://equall.ai/

📚 ドキュメント

モデルの説明

これは、🤗 transformersモデルのモデルカードで、ハブにアップロードされています。このモデルカードは自動生成されています。

• 開発元: Equall.aiがCentraleSupelec、Sorbonne Université、Instituto Superior Técnico、NOVA School of Lawと共同開発
• モデルタイプ: 7B
• 言語 (NLP): 英語
• ライセンス: MIT

モデルのソース

• 論文: https://arxiv.org/abs/2403.03883

💻 使用例

基本的な使用法

このモデルは、生成を伴う法務関連のユースケースに使用できます。

以下は、🤗 Transformersのpipeline()関数を使用してモデルを実行する方法です。

# Install transformers from source - only needed for versions <= v4.34
# pip install git+https://github.com/huggingface/transformers.git
# pip install accelerate

import torch
from transformers import pipeline

pipe = pipeline("text-generation", model="Equall/Saul-Instruct-v1", torch_dtype=torch.bfloat16, device_map="auto")
# We use the tokenizer’s chat template to format each message - see https://huggingface.co/docs/transformers/main/en/chat_templating
messages = [
    {"role": "user", "content": "[YOUR QUERY GOES HERE]"},
]
prompt = pipe.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
outputs = pipe(prompt, max_new_tokens=256, do_sample=False)
print(outputs[0]["generated_text"])

🔧 技術詳細

このモデルはLLMの技術を基に構築されており、固有の制限があります。時々、不正確または無意味な出力を生成することがあります。さらに、7Bモデルであるため、70Bバリアントなどの大規模モデルと比較して、性能が劣ることが予想されます。

📄 ライセンス

このモデルのライセンスはMITです。

引用

@misc{colombo2024saullm7b,
      title={SaulLM-7B: A pioneering Large Language Model for Law}, 
      author={Pierre Colombo and Telmo Pessoa Pires and Malik Boudiaf and Dominic Culver and Rui Melo and Caio Corro and Andre F. T. Martins and Fabrizio Esposito and Vera Lúcia Raposo and Sofia Morgado and Michael Desa},
      year={2024},
      eprint={2403.03883},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}