Saul 7B Base

🚀 Equall/Saul-Base-v1

Equall/Saul-Base-v1 是一款專為法律領域定製的大型指令語言模型 Equall/Saul-Base 的基礎模型。該模型是在 Mistral-7B 的基礎上繼續預訓練得到的。

🚀 快速開始

你可以將該模型用於涉及生成任務的法律用例。以下是如何使用 🤗 Transformers 中的 pipeline() 函數來運行該模型：

# Install transformers from source - only needed for versions <= v4.34
# pip install git+https://github.com/huggingface/transformers.git
# pip install accelerate

import torch
from transformers import pipeline

pipe = pipeline("text-generation", model="Equall/Saul-Instruct-v1", torch_dtype=torch.bfloat16, device_map="auto")
# We use the tokenizer’s chat template to format each message - see https://huggingface.co/docs/transformers/main/en/chat_templating
messages = [
    {"role": "user", "content": "[YOUR QUERY GOES HERE]"},
]
prompt = pipe.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
outputs = pipe(prompt, max_new_tokens=256, do_sample=False)
print(outputs[0]["generated_text"])

✨ 主要特性

模型詳情

模型描述

這是一個已發佈在 Hugging Face Hub 上的 🤗 transformers 模型的模型卡片，該模型卡片是自動生成的。

模型來源

• 論文：https://arxiv.org/abs/2403.03883

🔧 技術細節

偏差、風險和侷限性

該模型基於大語言模型（LLM）技術構建，存在固有的侷限性。它偶爾可能會生成不準確或無意義的輸出。此外，作為一個 7B 的模型，預計其性能不如更大的模型，例如 70B 變體。

📄 許可證

本模型使用 MIT 許可證。

📚 引用

如果你使用了該模型，請引用以下論文：

@misc{colombo2024saullm7b,
      title={SaulLM-7B: A pioneering Large Language Model for Law}, 
      author={Pierre Colombo and Telmo Pessoa Pires and Malik Boudiaf and Dominic Culver and Rui Melo and Caio Corro and Andre F. T. Martins and Fabrizio Esposito and Vera Lúcia Raposo and Sofia Morgado and Michael Desa},
      year={2024},
      eprint={2403.03883},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}