# 知識蒸留モデル

これは量子化バージョンの大規模言語モデルで、知識をより簡単に取得して利用できるようにすることを目的としています。

DeepSeek-R1-Distill-Llama-8B は、Llama アーキテクチャに基づく 8B パラメータ規模の大規模言語モデルで、蒸留トレーニングによって最適化され、テキスト生成タスクに適しています。

SSD-1Bは安定拡散XL（SDXL）の蒸留版で、50%小型化されながら、高品質なテキストから画像生成能力を保持し、60%の速度向上を提供します。

SPhilBERTaは古典文献学専用に設計された文変換モデルで、ラテン語と古代ギリシャ語テキスト間の言語間引用を識別します。

sentence-transformersベースの多言語文埋め込みモデルで、特にベンガル語に最適化されており、意味的類似性計算やクラスタリング分析に適しています

このモデルはdistilbert-base-cased-distilled-squadをファインチューニングしたバージョンで、質問応答タスクに適しています

これはDistilBERT-base-casedモデルをベースに、知識蒸留技術を用いてSQuAD v1.1データセットでファインチューニングされた質問応答モデルです。

DistilGPT2はGPT - 2の軽量級蒸留バージョンで、8200万のパラメータを持ち、GPT - 2の核心的なテキスト生成能力を保持しながら、サイズが小さく、速度が速い。