# ChatML互換

KnowledgeCore.12B は mergekit ツールを使用して統合された12Bパラメータ規模の大規模言語モデルで、PocketDoc/Dans-PersonalityEngine-V1.1.0-12b と inflatebot/MN-12B-Mag-Mell-R1 モデルを融合して作成されました。

Mistral 7B OpenOrcaはMistral-7Bアーキテクチャに基づく大規模言語モデルで、OpenOrcaチームによって訓練され、テキスト生成タスクに特化しています。

SCE手法で統合された多言語ChatMLモデル、英語と日本語の対話をサポート

SLERP融合法に基づく12Bパラメータ言語モデルで、Mag-MellとUnslopNemoモデルの利点を統合し、クリエイティブライティングやロールプレイシナリオに適しています

Starcannon-Unleashed-12B-v1.0は、Starcannon v3とNemoMix Unleashed 12Bの利点を組み合わせたマージモデルで、長文生成とロールプレイ能力の向上を目的としています。

Microsoft Phi-3-medium-128k-instructをファインチューニングした大規模言語モデルで、ChatML形式の対話をサポート

Jamba-v0.1をOpen-Platypus-ChatデータセットでQLoRAファインチューニングした大規模言語モデル、対話タスクに対応

これはMistral-7B-Instruct-v0.1を微調整したドイツ語/英語のバイリンガルモデルで、GGUF形式で量子化されており、2-8ビットの複数の量子化レベルをサポートしています。

WestLake-7B-v2-laserモデルをベースに、truthy-dpo-v0.1データセットで微調整された大規模言語モデルで、テキスト生成タスクに特化し、複数のベンチマークテストで優れた成績を収めています。

DiscoLM ドイツ語 7b はMistralベースの大規模言語モデルで、ドイツ語アプリケーションに特化しており、EM Germanモデルファミリーの後継モデルです。このモデルは大量のドイツ語と英語の指示データセットでSFT微調整され、DPO強化学習によってさらに最適化されています。

このモデルはties融合法によりOpenHermes-2.5-Mistral-7BとIntelのneural-chat-7b-v3-2を融合したもので、テキスト生成タスクに特化しています。

14Bパラメータの因果言語モデルをベースに、DPO最適化トレーニングを経て、中英文テキスト生成タスクをサポート

koOpenChat-sftはOpenChat3.5を最適化した韓国語会話モデルで、ChatMLとAlpaca形式の命令インタラクションをサポートしています。

MetaのCodeLlama 13B大規模言語モデルを基にOpen-Assistantでファインチューニングしたバージョンで、英語をサポートし、新しいRoPE Theta値（1e4の代わりに1e6）を採用しています。