Saul 7B Base

🚀 Equall/Saul-Base-v1

このモデルは、法務分野に特化した大規模命令型言語モデルであるEquall/Saul-Baseのベースモデルです。このモデルは、Mistral-7Bを継続事前学習して得られたものです。

🚀 クイックスタート

このモデルは、法務関連の生成タスクに使用できます。以下に、🤗 Transformersのpipeline()関数を使用してモデルを実行する方法を示します。

# Install transformers from source - only needed for versions <= v4.34
# pip install git+https://github.com/huggingface/transformers.git
# pip install accelerate

import torch
from transformers import pipeline

pipe = pipeline("text-generation", model="Equall/Saul-Instruct-v1", torch_dtype=torch.bfloat16, device_map="auto")
# We use the tokenizer’s chat template to format each message - see https://huggingface.co/docs/transformers/main/en/chat_templating
messages = [
    {"role": "user", "content": "[YOUR QUERY GOES HERE]"},
]
prompt = pipe.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
outputs = pipe(prompt, max_new_tokens=256, do_sample=False)
print(outputs[0]["generated_text"])

✨ 主な機能

このモデルは、法務分野に特化した大規模命令型言語モデルであり、法務関連の生成タスクに使用できます。

📚 ドキュメント

モデルの詳細

モデルの説明

これは🤗 transformersモデルのモデルカードで、自動生成されたものです。

• 開発者: Equall.aiがCentraleSupelec、Sorbonne Université、Instituto Superior Técnico、NOVA School of Lawと共同開発
• モデルタイプ: 7B
• 言語 (NLP): 英語
• ライセンス: MIT

モデルのソース

• 論文: https://arxiv.org/abs/2403.03883

モデルの使用方法

このモデルは、法務関連の生成タスクに使用できます。

バイアス、リスク、制限事項

このモデルは大規模言語モデル（LLM）の技術を基に構築されており、固有の制限があります。時々、不正確または無意味な出力を生成することがあります。さらに、7Bモデルであるため、70Bモデルなどの大規模モデルと比較して、性能が劣ることが予想されます。

引用

@misc{colombo2024saullm7b,
      title={SaulLM-7B: A pioneering Large Language Model for Law}, 
      author={Pierre Colombo and Telmo Pessoa Pires and Malik Boudiaf and Dominic Culver and Rui Melo and Caio Corro and Andre F. T. Martins and Fabrizio Esposito and Vera Lúcia Raposo and Sofia Morgado and Michael Desa},
      year={2024},
      eprint={2403.03883},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

📄 ライセンス

このモデルはMITライセンスの下で提供されています。