# 効率的なトレーニング

これは離散Hubertトークンに基づく音声言語モデルで、効率的なトレーニングに焦点を当て、音声セグメントの継続を生成できます。

nanoVLMは、効率的なトレーニングと実験のために設計された軽量型のビジュアル言語モデル（VLM）です。

nanoVLMは、効率的なトレーニングと実験を目的として設計された軽量な視覚言語モデル（VLM）です。

Qwen/Qwen2.5-Coder-7Bモデルを基にUnslothとTRLライブラリを使用してトレーニング最適化されたテキスト生成推論モデルで、トレーニング速度が2倍向上

盆栽は5億パラメータの小型三値重み付け言語モデルで、LlamaアーキテクチャとMistralトークナイザーを使用し、トレーニングに使用されたトークン数は50億未満です。

フラッシュ線形アテンションフォーマットを採用したRWKV-7モデルで、Pileデータセットでトレーニングされ、英語テキスト生成タスクをサポートします。

TraceBack 12b は Mistral-Nemo-Instruct アーキテクチャに基づく4ビット量子化バージョンで、命令追従と思考連鎖推論タスクに特化しています。

オープンリーズナーゼロは、基礎モデルのスケーラブルな強化学習に焦点を当てたオープンソースソリューションで、拡張性、簡潔性、使いやすさを重視した大規模推論指向の強化学習実装です。

これはDeepSeek-R1-Distill-Llama-8Bモデルをベースに微調整された金融分野の言語モデルで、LoRA技術を使用して最適化されており、金融質問応答や指令タスクに適しています。

Unslothで最適化された視覚指示ファインチューニングモデル、マルチモーダルタスク処理をサポート

gemma-2-9b-itモデルをベースに、重み付け選好最適化(WPO)手法でファインチューニングされた大規模言語モデルで、オフライン方策選好最適化の効果を向上させています。

これはGPT-2アーキテクチャに基づく774Mパラメータの言語モデルで、FineWebデータセットの1500億トークンでトレーニングされています。

Mistral-SUPRAは、Mistral-7Bを初期化した線形RNNモデルで、Transformerと循環モデルの機能を兼ね備えています。

MoE-LLaVAはエキスパート混合アーキテクチャに基づく大規模視覚言語モデルで、スパース活性化パラメータにより効率的なマルチモーダル学習を実現

SetFitフレームワークに基づく少数ショット学習のテキスト分類モデルで、対照学習と分類ヘッドのトレーニングにより効率的な分類を実現

RWKVはRNNとTransformerの利点を組み合わせた大規模言語モデルで、効率的なトレーニングと高速な推論をサポートし、無限のコンテキスト長処理能力を備えています。

Godot-DodoはLLaMA 13Bをファインチューニングした命令追従モデルで、コード命令の理解と生成タスクに特化しています

Gerbil-A-32m は3200万パラメータを有するAクラスのモデルで、6億4000万のトレーニングトークン数を処理し、様々な自然言語処理タスクに適しています。

DETAはトランスフォーマーベースの目標検出モデルで、IoU割り当てメカニズムとNMS手法を再導入することで、高速収束と効率的な検出を実現しました。

Kerasが提供する画像分類モデルで、複数の事前学習済みアーキテクチャをサポートし、一般的な画像分類タスクに適しています。

WECHSEL手法を用いて訓練されたGPT - 2のフランス語版で、サブワード埋め込みの効果的な初期化により単言語言語モデルの言語間移行を実現します。

WECHSELメソッドを使用してトレーニングされた中国語GPT-2モデルで、サブワード埋め込みの効果的な初期化により単一言語モデルの言語間移行を実現。

DeiTは、アテンション機構を用いてトレーニングされたデータ効率的な画像Transformerモデルで、ImageNet - 1kデータセット上で224x224の解像度で事前学習と微調整が行われます。

DistilBertベースのデュアルエンコーダードット積スコアリングアーキテクチャで、MSMARCO-Passageデータセット上でバランス型トピック認識サンプリングによりトレーニングされ、高密度検索と候補セットの再ランキングに適している

このモデルはBERT - miniアーキテクチャに基づき、SQuAD 2.0データセットでM - FAC 2次オプティマイザーを使用して微調整された问答モデルです。