Wisdominterrogatory

🚀 智海 - 录问

智海 - 录问（wisdomInterrogatory）は、浙江大学、アリババ・ダーモ院、華院計算の3つの機関が共同で設計・開発した法律分野の大規模言語モデルです。このモデルは「普法の共有と司法効率の向上」を目標とし、法律の智能化システムを司法実践に導入し、デジタルケースの構築や仮想法律相談サービスの強化などの面で支援を提供し、デジタル化と智能化された司法基盤能力を形成します。

✨ 主な機能

• 法律知識の共有と普及を促進し、司法効率を向上させます。
• 法律智能化システムを司法実践に導入し、デジタルケースの構築を支援します。
• 仮想法律相談サービスを提供し、一般市民に法律相談を可能にします。

📦 インストール

推論環境のインストール

transformers>=4.27.1
accelerate>=0.20.1
torch>=2.0.1
modelscope>=1.8.3
sentencepiece==0.1.99

💻 使用例

基本的な使用法

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"
from modelscope import AutoModelForCausalLM, AutoTokenizer, snapshot_download
import torch


model_id = "wisdomOcean/wisdomInterrogatory"
revision = 'v1.0.0'
model_dir = snapshot_download(model_id, revision)

def generate_response(prompt: str) -> str:
    inputs = tokenizer(f'</s>Human:{prompt} </s>Assistant: ', return_tensors='pt')
    inputs = inputs.to('cuda')
    pred = model.generate(**inputs, max_new_tokens=800, 
                          repetition_penalty=1.2)
    response = tokenizer.decode(pred.cpu()[0], skip_special_tokens=True)
    return response.split("Assistant: ")[1]

tokenizer = AutoTokenizer.from_pretrained(model_dir, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_dir, device_map="auto", 
                                             torch_dtype=torch.float16,
                                             trust_remote_code=True)
prompt = "如果喝了两斤白酒后开车，会有什么后果？"
resp = generate_response(prompt)
print(resp)

📚 ドキュメント

モデルの訓練

私たちのモデルの基盤は[Baichuan - 7B](https://github.com/baichuan - inc/baichuan - 7B)で、この基盤の上で二次事前学習と指令微調整学習を行いました。

二次事前学習

二次事前学習の目的は、汎用の大規模言語モデルに法律分野の知識を注入することです。事前学習のデータには、法律文書、司法事例、法律質問応答データが含まれ、合計40GBです。

指令微調整学習

二次事前学習の後、指令微調整段階では100kの指令微調整学習データを使用しました。この目的は、大規模言語モデルに質問応答の能力を持たせ、ユーザーと直接交流できるようにすることです。

📄 ライセンス

このモデルは学術研究目的でのみ提供されており、結果の正確性、完全性、または適用性を保証するものではありません。モデルが生成した内容を使用する際には、その適用性を自ら判断し、リスクを自ら負う必要があります。