GeoBERTオープンソースモデル - 地球科学分野のテキストのエンティティ認識分析に無料で使用可能

ホーム

Geobert

botryan96によって開発

GeoBERTは、SciBERTをベースに、Geoscientific Corpusデータセットで微調整された固有表現抽出（NER）モデルで、地球科学分野のテキスト分析に特化しています。

シーケンスラベリング

Transformers

#地質実体識別 #SciBERT微調整 #地球科学NER

ダウンロード数 338

リリース時間 : 11/8/2022

モデル概要

このモデルは、地球科学関連の4つの主要な意味タイプを識別できます。GeoPetro（地球科学用語）、GeoMeth（ツールまたは方法）、GeoLoc（地質位置）、GeoTime（地質時間）です。

モデル特徴

高精度識別

4つの地球科学実体タイプすべてで、高い適合率、再現率、F1値を示します。

分野特化

地球科学分野のテキストに特化して最適化されており、専門用語や概念を正確に識別できます。

多クラス識別

用語、方法、位置、時間の4種類の地質関連情報を同時に識別します。

モデル能力

地球科学テキスト分析

固有表現抽出

地質情報抽出

使用事例

学術研究

地質文献分析

地質文献から自動的に専門用語、方法、時間情報を抽出します

文献検索と分析の効率を向上させます

エネルギー探査

探査報告書処理

探査報告書から重要な地質位置と特徴情報を抽出します

意思決定と資源評価を支援します

🚀 GeoBERT

GeoBERTは、地学コーパスデータセット上でSciBERTからファインチューニングされたNERモデルです。このモデルは、ラベル付きの地学コーパスデータセット（約100万文）で学習されました。

🚀 クイックスタート

GeoBERTは、地学に関連する4つの主要なセマンティックタイプまたはカテゴリを識別することを目的としたNERモデルです。

✨ 主な機能

意図された用途

このモデルのNER製品は、地学に関連する4つの主要なセマンティックタイプまたはカテゴリを識別することを目的としています。

GeoPetro: 地学のすべての用語に属するすべてのエンティティ
GeoMeth: 地学に関連するすべてのツールまたは方法
GeoLoc: 地質学的な場所を識別
GeoTime: 地質年代のエンティティを識別

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

optimizer: {'name': 'AdamWeightDecay', 'learning_rate': {'class_name': 'PolynomialDecay', 'config': {'initial_learning_rate': 2e-05, 'decay_steps': 14000, 'end_learning_rate': 0.0, 'power': 1.0, 'cycle': False, 'name': None}}, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-08, 'amsgrad': False, 'weight_decay_rate': 0.01}
training_precision: mixed_float16

フレームワークのバージョン

Transformers 4.22.1
TensorFlow 2.10.0
Datasets 2.4.0
Tokenizers 0.12.1

📚 ドキュメント

モデルの性能 (指標: seqeval)

entity	precision	recall	f1
GeoLoc	0.9727	0.9591	0.9658
GeoMeth	0.9433	0.9447	0.9445
GeoPetro	0.9767	0.9745	0.9756
GeoTime	0.9695	0.9666	0.9680

💻 使用例

基本的な使用法

# Load GeoBERT and its sub - word tokenizer :
from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("botryan96/GeoBERT")
model = AutoModelForTokenClassification.from_pretrained("botryan96/GeoBERT")

#Define the pipeline
from transformers import pipeline
ner_machine = pipeline('ner',model = models,tokenizer=tokenizer, aggregation_strategy="simple")

#Define the sentence
sentence = 'In North America, the water storage in the seepage face model is higher than the base case because positive pore pressure is requisite for drainage through a seepage face boundary condition. The result from the resistivity data supports the notion, especially in the northern part of the Sandstone Sediment formation. The active formation of America has a big potential for Oil and Gas based on the seismic section, has been activated since the Paleozoic'

#Deploy the NER Machine
ner_machine(sentence)