Bert Base Th Cased

🚀 bert-base-th-cased

本項目分享了 bert-base-multilingual-cased 的較小版本，這些版本可處理特定數量的語言。與 distilbert-base-multilingual-cased 不同，我們的版本能生成與原始模型完全相同的表示，從而保留了原始的準確性。

欲瞭解更多信息，請查閱我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

🚀 快速開始

安裝依賴

確保你已經安裝了 transformers 庫，如果沒有安裝，可以使用以下命令進行安裝：

pip install transformers

代碼示例

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-th-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-th-cased")

生成其他小版本的多語言 Transformer

若要生成多語言 Transformer 的其他小版本，請訪問 我們的 GitHub 倉庫。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel

# 加載預訓練的分詞器和模型
tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-th-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-th-cased")

# 輸入文本
text = "這是一個示例句子。"
# 對文本進行分詞
inputs = tokenizer(text, return_tensors='pt')
# 通過模型進行推理
outputs = model(**inputs)
# 輸出結果
print(outputs)

📄 許可證

本項目採用 Apache-2.0 許可證。

如何引用

如果你在研究中使用了本項目，請使用以下 BibTeX 引用：

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📞 聯繫我們

如有任何問題、反饋或需求，請聯繫 amine@geotrend.fr。

📋 信息表格