BEREL 3.0

🚀 介绍BEREL 3.0 - 全新升级的BEREL：用于拉比编码语言的BERT嵌入

BEREL 3.0是用于拉比编码语言的BERT嵌入模型，为相关研究和应用提供了强大支持。

当使用BEREL 3.0时，请引用以下文献： Avi Shmidman, Joshua Guedalia, Shaltiel Shmidman, Cheyn Shmuel Shmidman, Eli Handel, Moshe Koppel, "Introducing BEREL: BERT Embeddings for Rabbinic-Encoded Language", Aug 2022 [arXiv:2208.01875]

🚀 快速开始

安装

本项目依赖transformers库，你可以使用以下命令进行安装：

pip install transformers

💻 使用示例

基础用法

from transformers import AutoTokenizer, BertForMaskedLM

tokenizer = AutoTokenizer.from_pretrained('dicta-il/BEREL_3.0')
model = BertForMaskedLM.from_pretrained('dicta-il/BEREL_3.0')

# for evaluation, disable dropout
model.eval()

⚠️ 重要提示

如果你使用BertTokenizer，此代码将无法正常工作并会产生不良结果。请使用AutoTokenizer或BertTokenizerFast。

📄 许可证

本项目采用Apache-2.0许可证。