Spbert Mlm Wso Base

🚀 SPBERT MLM+WSO (Initialized)

SPBERT MLM+WSO (Initialized) 是一個用於知識圖譜問答的預訓練模型，它基於SPARQL查詢進行高效預訓練，為知識圖譜問答任務提供了有效的解決方案。

🚀 快速開始

詳細信息

更多詳細信息，請查看 我們的GitHub倉庫。

代碼示例

基礎用法

以下是使用 PyTorch 的示例代碼：

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained('razent/spbert-mlm-wso-base')
model = AutoModel.from_pretrained("razent/spbert-mlm-wso-base")
text = "select * where brack_open var_a var_b var_c sep_dot brack_close"
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

高級用法

以下是使用 TensorFlow 的示例代碼：

from transformers import AutoTokenizer, TFAutoModel
tokenizer = AutoTokenizer.from_pretrained('razent/spbert-mlm-wso-base')
model = TFAutoModel.from_pretrained("razent/spbert-mlm-wso-base")
text = "select * where brack_open var_a var_b var_c sep_dot brack_close"
encoded_input = tokenizer(text, return_tensors='tf')
output = model(encoded_input)

📚 詳細文檔

論文信息

• 論文標題：SPBERT: An Efficient Pre-training BERT on SPARQL Queries for Question Answering over Knowledge Graphs
• 作者：Hieu Tran, Long Phan, James Anibal, Binh T. Nguyen, Truong-Son Nguyen

📄 許可證

文檔中未提及許可證信息，如需瞭解請查看 我們的GitHub倉庫。

📚 引用信息

如果您使用了該模型，請按照以下格式進行引用：

@misc{tran2021spbert,
      title={SPBERT: An Efficient Pre-training BERT on SPARQL Queries for Question Answering over Knowledge Graphs}, 
      author={Hieu Tran and Long Phan and James Anibal and Binh T. Nguyen and Truong-Son Nguyen},
      year={2021},
      eprint={2106.09997},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}