Saullm 54B Instruct

🚀 SaulLM-54B-Instruct

SaulLM-54B-Instructは、法的ドメインに特化した最先端の言語モデルです。EquallとCentraleSupélec (Université Paris - Saclay)のMICSが共同開発し、法務作業向けのLLMの進歩に貢献することを目指しています。

⚠️ 重要提示

このモデルは研究用の成果物であり、そのように扱われるべきです。

🚀 クイックスタート

このセクションでは、SaulLM - 54B - Instructの概要と使用に関する基本的な情報を提供します。

✨ 主な機能

SaulLM - 54B - Instructは、法的ドメインに特化した最先端の言語モデルで、以下のような機能を備えています。

• 法的タスクに特化した事前学習と微調整が行われています。
• 米国とヨーロッパの法的データベースからのデータを活用しています。

📦 インストール

原READMEにインストール手順に関する内容がありませんでしたので、このセクションは省略されます。

📚 ドキュメント

モデルの詳細

モデルの説明

SaulLM - 54B - Instruct は、法的ドメインに特化した最先端の言語モデルです。EquallとCentraleSupélec (Université Paris - Saclay)のMICSが共同開発し、法務作業向けのLLMの進歩に貢献することを目指しています。

• 開発元: EquallとCentraleSupélec (Université Paris - Saclay)のMICS
• モデルの種類: 540億パラメータのモデルで、米国とヨーロッパの法的データベースからのデータを活用して、法的タスク用に事前学習と微調整が行われています。
• 言語 (NLP): 英語
• ライセンス: MITライセンス
• 微調整元のモデル: Equallが開発したベースモデルで、Mixtralのモデルの継続的な事前学習に基づいています。

想定される用途と制限

想定される用途

SaulLM - 54B - Instructは、さらなる研究を支援し、様々な法的用途に適応させることを目的としています。

制限

このモデルが提供する情報は参考用であり、法的アドバイスとして解釈されるべきではありません。また、SaulLM - 54B - Instructは米国とヨーロッパの法制度を中心に学習されているため、これらの管轄区域外の法制度に対する性能は低下する可能性があります。

バイアス、リスク、および倫理的な考慮事項

バイアスとリスク

バイアスを軽減するための努力が行われていますが、SaulLM - 54Bは学習データに内在するバイアスを示す可能性があり、また不正確な応答を提供することもあります。このモデルはある特定の時点までの情報で学習されており、最近の法的な進展をすべて考慮することはできません。ユーザーは、特に敏感な法的ケースでは、モデルの出力を慎重に評価する必要があります。情報に基づく決定の責任はユーザーにあり、モデルやその開発者ではありません。法的アドバイスが必要な場合は、資格のある法務専門家の支援を求めることをお勧めします。

倫理的な考慮事項

ユーザーは、SaulLM - 54Bを責任を持って使用する必要があり、このモデルが法律に違反したり、他人の権利を侵害したりするような方法で誤用されないようにする必要があります。特に、このモデルは有害なコンテンツの生成、誤情報の拡散、またはプライバシーや知的財産権の侵害に使用されてはなりません。

🔧 技術詳細

学習データ

SaulLM - 54Bは、ヨーロッパと米国の法的テキスト、裁判例、および立法文書を含む豊富なデータセットで学習されました。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

引用

あなたの研究でSaulLM - 54Bを引用する場合は、このモデルカードを引用してください。

@misc{colombo2024saullm54bsaullm141bscaling,
      title={SaulLM-54B & SaulLM-141B: Scaling Up Domain Adaptation for the Legal Domain}, 
      author={Pierre Colombo and Telmo Pires and Malik Boudiaf and Rui Melo and Dominic Culver and Sofia Morgado and Etienne Malaboeuf and Gabriel Hautreux and Johanne Charpentier and Michael Desa},
      year={2024},
      eprint={2407.19584},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2407.19584}, 
}