Nunerzero Onnx

🚀 NuNerZeroのONNXモデル

このリポジトリには、Zero-shotの固有表現認識（NER）モデルであるNuNerZeroのONNXバージョンが格納されています。このモデルは、ONNX Runtimeを使用して高速推論を行うように最適化されています。この変換により、NuNerZeroモデルの元の機能を維持しながら、効率的で本番環境に適したパフォーマンスを提供することを目指しています。

このモデルはZinkの一部です。 ZinkはZero-shotの匿名化ツールであり、現在はonnx NuNERZeroモデルを匿名化に使用しています。

🚀 クイックスタート

このセクションでは、ONNXモデルをGLiNERとともにロードして使用する方法の簡単な例を示します。

from gliner import GLiNER
import time

# Load the ONNX model and tokenizer
model_name="deepanwa/NuNerZero_onnx"
model = GLiNER.from_pretrained(model_name,load_onnx_model=True, load_tokenizer=True)

text = "Dr. Michael, a cardiologist from Canada, was born on 07/04/1970. John Doe dialled his mother at 992-234-3456 and then went out for a walk."
labels = ("person", "profession", "location", "date", "phone number", "relationship", "medical condition", "age")

start = time.time()
result = model.predict_entities(text, labels)
end = time.time()

print("Predicted entities:", result)
print("Time taken:", end - start)

✨ 主な機能

• ONNX形式を使用した高速推論の最適化
• NuNerZeroモデルの元の機能を維持
• Zinkとの統合によるZero-shot匿名化

📦 インストール

必要条件

1. Python 3.7以上
2. GLiNER – モデルをロードして実行するためのインターフェースを提供するパッケージ。私は"gliner==0.2.3"でonnxバージョンを作成しました。

📚 ドキュメント

リポジトリの内容

1. model.onnx: 推論に使用される主要なONNXモデルファイル。
2. gliner_config.json: モデルの設定。
3. added_tokens.json: トークナイザーに必要な追加トークン。
4. special_tokens_map.json: 特殊トークンのマッピング。
5. tokenizer.jsonとtokenizer_config.json: トークナイザーの語彙と設定ファイル。
6. spm.model: トークナイザーで使用されるSentencePieceモデルファイル。

🔧 技術詳細

このモデルは、Zero-shotの固有表現認識（NER）に特化しており、ONNX Runtimeを使用して高速推論を行うように最適化されています。ONNX形式への変換により、効率的で本番環境に適したパフォーマンスを提供しながら、NuNerZeroモデルの元の機能を維持しています。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

重要な注意事項

⚠️ 重要提示

モデルファイルのサイズは約1.85GBです。ダウンロードする際には、十分な帯域幅とディスク容量があることを確認してください。

💡 使用建议

ONNX形式を利用することで、元のPyTorch実装と比較して推論速度を大幅に向上させることができます。

引用

10.57967/hf/4902

貢献

貢献、提案、またはバグ報告は歓迎されます。改善点がある場合は、問題を開くか、プルリクエストを送信してください。