# 大規模モデル推論

騰訊混元A13B大規模モデルを変換した5ビット量子化バージョンで、AppleチップのMLXフレームワークに適しています。

MedGemma-27B-Text-IT-4bitはGoogleのMedGemma-27B-Text-ITモデルを変換したMLXフォーマットモデルで、医療および臨床推論タスクに最適化されています。

NVIDIA Parakeet TDT 0.6B V2 は自動音声認識（ASR）タスクに基づくモデルで、英語音声からテキストへの変換タスクに適しています。

rank1-32bはQwen2.5-32Bをベースに訓練された情報検索再ランキングモデルで、推論チェーンを生成して関連性を判断します

EXAONE-3.5-32B-Instructは32Bパラメータの大型言語モデルで、指令追従と対話タスクをサポートします。

Llama 3.3 70B Instruct AWQ INT4 は、Meta Llama 3.3 70B Instructモデルの4ビット量子化バージョンで、多言語対話ユースケースに適しており、テキスト生成タスクを最適化しています。

CogVideoX はオープンソースの動画生成モデルで、画像から動画を生成する機能をサポートしており、清影プラットフォームに似ています。

これはMeta-Llama-3.1-70B-Instructを基に継続事前学習された日本語大規模言語モデルで、日本語と英語をサポートしています。

Llama 3はMeta社が開発した次世代のオープンソース大規模言語モデルで、より優れた性能と幅広い応用シーンを提供します。

ARIA 70B V2 は Llama 2 アーキテクチャに基づく大規模言語モデルで、フランス語と英語をサポートし、テキスト生成タスクに特化しています。