Bert Large Uncased Whole Word Masking Squad Int8 0001

🚀 OpenVINO模型 bert-large-uncased-whole-word-masking-squad-int8-0001

這是一個基於BERT-large架構的模型。它先在小寫英文文本上使用全詞掩碼（Whole-Word-Masking）進行預訓練，然後在SQuAD v1.1訓練集上進行微調。該模型可用於英文問答任務，輸入為前提文本和基於該前提的問題，輸出是前提文本中問題答案的位置。若需瞭解原始浮點模型的詳細信息，請查閱BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding。

該模型通過使用神經網絡壓縮框架（NNCF）進行感知量化微調，進一步量化為INT8精度。

模型來源：開放模型庫

🚀 快速開始

此模型適用於英文問答場景。你可以輸入一段前提文本和基於該文本的問題，模型會輸出前提文本中問題答案的位置。

📚 詳細文檔

模型概述

該模型基於BERT-large架構，經過預訓練和微調，專門用於英文問答任務。它利用全詞掩碼技術進行預訓練，能更好地理解英文文本中的語義信息。

量化處理

模型使用NNCF進行感知量化微調，將其量化為INT8精度。這種量化方式在保持模型性能的同時，能顯著減少模型的計算量和存儲需求。

模型來源

模型來源於開放模型庫，你可以在這裡找到更多相關信息。

📄 許可證

文檔中未提及許可證相關信息，如需瞭解請查閱模型來源倉庫的相關說明。