# 合成データによる微調整

Stockmark-2-100Bは日本語能力に特化した1000億パラメータの大規模言語モデルで、1.5兆トークンの多言語データで事前学習され、日本語合成データにより指示追従能力が強化されています。

Open LLM SearchはTogether AIのllama-2-7b-32kモデルを特別に適応させたバージョンで、ウェブページからの情報抽出のために構築されています。

TrOCRはTransformerベースの光学文字認識モデルで、数式認識に特化して微調整されており、エンコーダ-デコーダアーキテクチャを採用し、BEiT画像エンコーダとRoBERTaテキストデコーダを組み合わせています。