モデル選定

低リソース環境でのデプロイ

# 低リソース環境でのデプロイ

Skywork Skywork SWE 32B GGUF

Skywork-SWE-32Bは320億パラメータの大規模言語モデルで、Llamacpp imatrix量子化を経て、リソースが制限された環境でも効率的に動作します。

大規模言語モデル

Nuner BERT V1.0 GGUF

NuNER-BERT-v1.0の静的量子化バージョンで、トークン分類やエンティティ認識などのタスクに適しています。

シーケンスラベリング

Transformers 英語

Llama3 Aloe 8B Alpha GGUF

Llama3-Aloe-8B-Alphaは、生物学と医学分野に特化した80億パラメータの大規模言語モデルで、GGUF形式の量子化バージョンを提供します。

大規模言語モデル

Transformers 英語

Multi Qa MiniLM BERT Tiny Distill L 2 H 128 A Cos V1

これはBERT-Tinyに基づく軽量級の文埋め込みモデルで、セマンティック検索と文の類似度タスクに特化して設計されており、モデルサイズはわずか5MBです。

テキスト埋め込み

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase