モデル選定

構造化プルーニング

# 構造化プルーニング

Bert Base Uncased Squadv1 X2.32 F86.6 D15 Hybrid V1

BERT-base uncasedモデルをSQuAD v1で微調整した質問応答モデルで、nn_pruningライブラリを使って線形層の重みの66%をプルーニングし、推論速度を2.32倍に向上させました。

質問応答システム

Transformers 英語

Bert Base Uncased Squadv1 X2.44 F87.7 D26 Hybrid Filled V1

BERT-base uncasedモデルをSQuAD v1でファインチューニングし、nn_pruningライブラリでプルーニングした質問応答モデル。元の重みの42%を保持し、推論速度が2.44倍に向上します。

質問応答システム

Transformers 英語

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase