# 知識集約型タスク

Kanana-1.5-8B-Instruct-2505 は Kakao Corp によって開発された 8B パラメータ規模の命令ファインチューニング言語モデルで、テキスト生成タスクに適しています。

Qwen3-30B-A3B-abliterated は Qwen アーキテクチャに基づく300億パラメータの大規模言語モデルで、テキスト生成タスクに特化しています。

OLMo-2-0425-1B-InstructはAllenAIが開発した10億パラメータ規模の命令ファインチューニング言語モデルで、テキスト生成タスクに特化しています。

Qwen-2.5-7B-base-RAG-RLは、未知のデータセットからスクラッチでトレーニングされた7Bパラメータ規模の大規模言語モデルで、検索拡張生成(RAG)と強化学習(RL)技術を組み合わせています。

Googleが提供する軽量オープンソース大規模言語モデル、様々なテキスト生成タスクに適応

GLM-4-32B-0414はTHUDMによって開発された大規模言語モデルで、320億のパラメータを持ち、さまざまなテキスト生成タスクに適しています。

Llama-xLAM-2-70b-fc-r は Salesforce が公開した大規模言語モデルで、Llama 2 アーキテクチャを基に、700億のパラメータを持っています。

これはmergekitツールでマージされた12Bパラメータ規模の言語モデルで、EtherealAurora-12B-v2をベースに複数の優れたモデルの特徴を融合

ReasonIR-8Bは汎用推論タスク向けに特別に訓練された最初の検索モデルで、BRIGHTベンチマークで最先端の検索性能を達成し、RAGアプリケーションにおいてMMLUおよびGPQAベンチマークのパフォーマンスを大幅に向上させました。

FANformer-1Bは革新的な周期的メカニズムにより言語モデリング能力を強化した自己回帰型モデルで、11億の非埋め込みパラメータを持ち、1兆トークンのトレーニングデータ量を達成しました。

このモデルはmlabonne/gemma-3-27b-it-abliteratedを変換したGGUF形式バージョンで、llama.cppフレームワークの推論タスクに適しています。

Trillion-7Bプレビュー版は多言語対応の大規模言語モデルで、英語、韓国語、日本語、中国語をサポートし、低い計算量を維持しながら、より高い計算量を必要とするモデルと競合する性能を実現しています。

これはGoogle Gemma 3BモデルのGGUF量子化バージョンで、ローカル推論に適しており、テキスト生成タスクをサポートします。

これはgoogle/gemma-3-12b-itから変換されたGGUF形式モデルで、llama.cppフレームワークに適しています。

このモデルはGoogleのGemma 3 27B ITモデルを変換したGGUF形式バージョンで、ローカル推論に適しています。

Gemma 3.4B IT は Google が開発した34億パラメータの大規模言語モデルで、命令チューニングバージョンに特化しており、様々な自然言語処理タスクに適しています。

Llama 3.1アーキテクチャに基づく8Bパラメータ言語モデルで、mergekitを使用して複数のモデルを統合し、テキスト生成能力を備えています

14Bパラメータ規模の大規模言語モデルで、命令追従タスクに特化し、テキスト生成能力をサポートします。

Llama-3.1-Tulu-3.1-8BはAllenAIによって開発された大規模言語モデルで、Llamaアーキテクチャを基にしており、80億のパラメータを持ち、テキスト生成タスクに特化しています。

WiroAIが開発したGemma-2-9bベースのトルコ語大規模言語モデル、会話生成タスクに特化

Google Gemma-2-9b-itモデルを基に韓国語向けに最適化したバージョンで、Saltwareが開発し、韓国語自然言語処理タスクに適しています。

NanoLM-1B-Instruct-v1.1は10億パラメータ規模の小型インストラクションチューニング言語モデルで、多分野の英文テキスト生成タスクをサポートします。

Jaisシリーズはアラビア語に最適化されたバイリンガル大規模言語モデルで、強力な英語能力も備えています。30B-16Kバージョンは300億のパラメータを持ち、16,384トークンのコンテキスト長をサポートします。

これはLlama-3アーキテクチャに基づく8Bパラメータモデルで、mergekitツールを使用して複数の事前学習モデルを統合し、優れたテキスト生成能力を備えています。

360智脳は奇虎360によって開発されたオープンソースの大規模言語モデルシリーズで、基本モデルと複数のコンテキスト長の対話モデルを含み、中国語と英語をサポートしています。

StrangeMerges_53-7B-model_stock は LazyMergekit を使用して複数の7Bパラメータ規模モデルを統合した結果であり、強力なテキスト生成能力を備えています。

Jamba-v0.1をOpen-Platypus-ChatデータセットでQLoRAファインチューニングした大規模言語モデル、対話タスクに対応

Mistralアーキテクチャに基づく大規模言語モデルで、Pileデータセットで訓練され、英語テキスト処理をサポート

OpenHercules-2.5-Mistral-7BはMistral-7Bアーキテクチャを基にした融合モデルで、Hercules-2.5-Mistral-7BとOpenHermes-2.5-Mistral-7Bの利点を組み合わせ、テキスト生成と対話タスクに適しています。

Swallow-MX-8x7b-NVE-v0.1はMixtral-8x7B-Instruct-v0.1を基に継続事前学習を行った混合専門家モデルで、主に日本語能力を強化しています。

Pasta-Lake-7bは、Test157t/Pasta-PrimaMaid-7bとmacadeliccc/WestLake-7B-v2-laser-truthy-dpoの2つのモデルを統合して作成された7Bパラメータ規模の言語モデルです。

TinyMistral-6x248MはLazyMergekitツールで6つのTinyMistralバリアントを融合した混合専門家システムで、nampdn-ai/mini-peS2oデータセットで事前学習済み

DareBeagle-7BはLazyMergekitを使用してmlabonne/NeuralBeagle14-7Bとmlabonne/NeuralDaredevil-7Bを統合した7Bパラメータの大規模言語モデルで、複数のベンチマークテストで優れた性能を発揮しています。

Velara 11B v2はMistralアーキテクチャに基づく大規模言語モデルで、テキスト生成タスクに特化しており、Alpaca-InstructOnly2プロンプトテンプレートを採用しています。

Norocetacean 20B 10KはLlama 2アーキテクチャに基づく大規模言語モデルで、中国語タスクをサポートするように微調整されています。

OpenHermes 2 Mistral 7BはMistral-7Bをファインチューニングした先進的な言語モデルで、主にGPT-4で生成された合成データを使用して訓練されており、対話や指示追従タスクに優れています。

Sheared-LLaMA-1.3BはLLaMA-2-7Bを基に構造化プルーニングと継続事前学習を行った効率的な言語モデルです

完全なNatural Questions(NQ)データセットで訓練されたオープンドメイン質問応答モデルで、様々な事実質問に回答可能

DistilBERTはBERTの軽量蒸留バージョンで、BERTの97%の性能を維持しながら、サイズを40%削減し、速度を60%向上させています。

LinkBERTは英語版Wikipediaとハイパーリンク情報を用いて事前学習されたBERT改良モデルで、ドキュメント間の関連性を捉えることで知識集約型タスクの性能を向上させます。