# 高速推論

ERNIE-4.5-0.3B-PT-bf16は百度が開発したERNIEシリーズのモデルの一つで、パラメータ規模は0.3Bで、bf16精度で学習されています。

Apriel-Nemotron-15b-Thinkerは強力な推論モデルで、同規模のモデルの中で優れた性能を発揮し、効率的なメモリ使用と優れた推論能力を備え、さまざまな企業や学術シーンに適しています。

これはHugging Face Transformersライブラリをベースにしたモデルで、Unslothを使用して最適化されています。具体的な機能や用途については、さらに情報を追加する必要があります。

Vision Transformer (ViT)アーキテクチャを基にCIFAR-10データセットでファインチューニングされた画像分類モデル、精度99.2%達成

これは🤗 transformersライブラリを基にしたモデルで、unsloth技術を使用して最適化されています。具体的な機能や用途については、さらに情報を追加する必要があります。

Qwen2.5アーキテクチャに基づく3Bパラメータの命令ファインチューニングモデル、UnslothとHuggingface TRLライブラリでトレーニング速度を最適化

Qwen3-0.6B-8bitは、Qwen/Qwen3-0.6Bをベースに変換された8ビット量子化バージョンで、MLXフレームワークに適したテキスト生成モデルです。

このモデルは画像から画像への変換を行うPyTorchモデルで、PytorchModelHubMixinを介してHubに統合・プッシュされています。

wav2vec2-baseでトレーニングされた鳥類音声分類モデル。インドのVedanthangal鳥類保護区の21種の鳥類を識別可能

FRIDAモデルの軽量高速修正版で、ロシア語と英語の文の埋め込みベクトルを計算するために使用

Lite-Whisper は OpenAI Whisper の圧縮バージョンで、LiteASR 技術を採用し、比較的高い精度を維持しながらモデルサイズを大幅に削減しています。

Lite-Whisper は LiteASR 技術で圧縮された OpenAI Whisper の軽量化バージョンで、高い認識精度を維持しながらモデルサイズを大幅に削減しています。

fasttextベースのテキスト分類器で、テキストを数学クラスまたはその他のクラスに分類するために使用され、LLM事前学習データ整理に適しています

Kokoroは8200万パラメータのオープンソーステキスト音声合成モデルで、軽量アーキテクチャながら大規模モデルに匹敵する音質を実現し、生成速度を向上させ計算コストを削減します。

SmolLumi-8B-InstructはUnslothとHuggingface TRLライブラリでトレーニングされた8Bパラメータのアルパカモデルで、テキスト生成推論タスクに特化しています。

これは自動トレーニングに基づく画像分類モデルで、さまざまな一般的な物体カテゴリを認識できます

このモデルは、JacobLinCool/whisper - large - v3 - turbo - common_voice_19_0 - zh - TWを基にCTranslate2形式に変換されたモデルで、faster - whisperライブラリで高速な自動音声認識機能を実現するために使用されます。

Stable Diffusionはテキストから高品質な画像を生成できる拡散モデルです。

Stable Diffusion 3.5 LargeのFP8量子化バージョンで、テキストから画像を生成するタスクに使用されます。

Sanaは高効率なテキストから画像を生成するフレームワークで、最大4096×4096の解像度の画像を生成可能、多言語入力に対応しています。

Llama-3-8Bを基にしたGroq最適化バージョン、ツール使用と関数呼び出し機能をサポート

DepthProは、高解像度で高精度な深度マップを生成できるゼロショットメトリック単眼深度推定のための基礎モデルです。

これはOpenVINOで最適化されたmidjourney-miniモデルで、テキストから画像を生成するタスクに使用されます。

SanaはノートパソコンのGPU上で展開可能な、最大4096×4096解像度の画像を効率的に生成できるテキストから画像を生成するフレームワークです。

AMD Instinct™ GPUを基盤とした主流拡散モデルから蒸留された効率的なテキスト画像生成モデルシリーズ

MetaCLIP-2.5Bデータセットで訓練されたデュアルフレームワーク互換の視覚モデルで、OpenCLIPとtimmフレームワークをサポート

MetaCLIP-2.5Bデータセットで訓練されたデュアルユースの視覚言語モデル、ゼロショット画像分類タスクをサポート

MetaCLIP-2.5Bデータセットでトレーニングされたデュアルフレームワーク互換の視覚モデルで、ゼロショット画像分類タスクをサポート

MetaCLIP-400Mデータセットで訓練された視覚トランスフォーマーモデル、ゼロショット画像分類タスクをサポート

MetaCLIP-2.5Bデータセットで訓練されたデュアルフレームワーク互換の視覚モデルで、OpenCLIPとtimmフレームワークをサポート

MetaCLIP-2.5Bデータセットで訓練されたVision Transformerモデルで、open_clipとtimmフレームワークと互換性があります

MetaCLIP-400Mデータセットで訓練された視覚言語モデルで、ゼロショット画像分類タスクをサポート

FastApply-7B-v1.0はリアルタイムコード適用に特化した70億パラメータモデルで、完全なファイル編集を生成でき、SoftGen AIの中核サポートを提供します。

これはAutoTrainを使用してSST-2英語データセットでファインチューニングされたDistilBERTモデルで、テキスト分類タスクに使用されます。

Molmo-7B-Oの4bit量子化バージョンで、VRAM要件を大幅に削減し、リソースが限られた環境に適しています。

多機能なビジュアル+テキスト生成モデルで、特にオートクロームからコダクローム、富士フィルムまでを模したカラーフィルム写真のリアルな画像生成に適しています。

Meta-Llama-3.1-8B-Instructを基にした4ビット量子化バージョンで、UnslothとTRLライブラリを使用して効率的にトレーニングされています

PyTorchに基づくテキスト分類モデルで、テキスト分類関連のタスクに使用できます。

MLXフレームワークで最適化された4ビット量子化テキスト生成画像モデル、効率的な画像生成をサポート

FLUX.1-schnellの量子化バージョン、テキストから画像を生成する拡散モデルで、複数の量子化精度オプションをサポート