Swin Tiny Patch4 Window7 224 Finetuned New Dataset 50e

S

Swin Tiny Patch4 Window7 224 Finetuned New Dataset 50e

Gokulapriyanによって開発

Swin Transformer Tinyアーキテクチャに基づく画像分類モデルで、カスタムデータセットで50エポックのファインチューニングを行い、79.73%の精度を達成

オープンソースライセンス:Apache-2.0 #画像分類のファインチューニング #Swin-Transformerアーキテクチャ #高精度モデル

ダウンロード数 17

リリース時間 : 2/8/2023

モデル概要

このモデルは、マイクロソフトのSwin Transformer Tinyアーキテクチャに基づくビジョンTransformerモデルで、画像分類タスクに特化して最適化されています。特定のデータセットで50エポックのファインチューニングを行うことで、優れた画像分類能力を発揮します。

モデル特徴

効率的なTransformerアーキテクチャ

Swin Transformerの階層型ウィンドウアテンションメカニズムを採用し、高性能を維持しながら計算複雑性を低減

転移学習の最適化

事前学習済みモデルを基にファインチューニングを行うことで、小規模データセットでも良好な結果を得られる

性能と効率のバランス

Tinyバージョンは計算リソースとモデル性能の間で良好なバランスを実現し、実際のデプロイに適している

モデル能力

画像分類

視覚的特徴抽出

転移学習

使用事例

コンピュータビジョン

汎用画像分類

様々な画像を分類・識別

テストセットで79.73%の精度を達成

特定ドメイン分類

医療画像や工業検査などの特定分野向けにファインチューニング可能

🚀 swin-tiny-patch4-window7-224-finetuned-new_dataset_50e

このモデルは、microsoft/swin-tiny-patch4-window7-224 を imagefolder データセットでファインチューニングしたものです。評価セットでは以下の結果を達成しています。

損失: 0.6407
正解率: 0.7973

📚 ドキュメント

モデルの概要

詳細情報は後日追加予定です。

想定用途と制限事項

詳細情報は後日追加予定です。

学習と評価データ

詳細情報は後日追加予定です。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

learning_rate: 5e-05
train_batch_size: 32
eval_batch_size: 32
seed: 42
gradient_accumulation_steps: 4
total_train_batch_size: 128
optimizer: Adam (betas=(0.9,0.999), epsilon=1e-08)
lr_scheduler_type: linear
lr_scheduler_warmup_ratio: 0.1
num_epochs: 50

学習結果

学習損失	エポック	ステップ	検証損失	正解率
ログなし	0.94	4	0.7081	0.6081
ログなし	1.94	8	0.7104	0.6351
0.5516	2.94	12	0.6911	0.6351
0.5516	3.94	16	0.7156	0.7027
0.537	4.94	20	0.7345	0.7297
0.537	5.94	24	0.6745	0.6892
0.537	6.94	28	0.7146	0.7297
0.5333	7.94	32	0.7057	0.6892
0.5333	8.94	36	0.6531	0.7027
0.4871	9.94	40	0.6405	0.7027
0.4871	10.94	44	0.6126	0.6892
0.4871	11.94	48	0.6303	0.7027
0.4432	12.94	52	0.6264	0.7027
0.4432	13.94	56	0.6347	0.7432
0.3669	14.94	60	0.6698	0.6622
0.3669	15.94	64	0.6346	0.7568
0.3669	16.94	68	0.6510	0.6892
0.3704	17.94	72	0.6491	0.6892
0.3704	18.94	76	0.5947	0.7568
0.3624	19.94	80	0.6248	0.7027
0.3624	20.94	84	0.6580	0.7027
0.3624	21.94	88	0.6345	0.7162
0.3164	22.94	92	0.6092	0.7568
0.3164	23.94	96	0.6498	0.7162
0.2777	24.94	100	0.6915	0.7703
0.2777	25.94	104	0.6482	0.7838
0.2777	26.94	108	0.6407	0.7973
0.2946	27.94	112	0.6135	0.7838
0.2946	28.94	116	0.6819	0.7568
0.2546	29.94	120	0.6401	0.7568
0.2546	30.94	124	0.6370	0.7432
0.2546	31.94	128	0.6488	0.7703
0.2477	32.94	132	0.6429	0.7973
0.2477	33.94	136	0.6540	0.7703
0.1968	34.94	140	0.5895	0.7973
0.1968	35.94	144	0.6242	0.7568
0.1968	36.94	148	0.6575	0.7568
0.2235	37.94	152	0.6263	0.7703
0.2235	38.94	156	0.6225	0.7838
0.2005	39.94	160	0.6731	0.7703
0.2005	40.94	164	0.6844	0.7703
0.2005	41.94	168	0.6550	0.7703
0.2062	42.94	172	0.6700	0.7703
0.2062	43.94	176	0.6661	0.7703
0.1933	44.94	180	0.6606	0.7838
0.1933	45.94	184	0.6757	0.7703
0.1933	46.94	188	0.6889	0.7568
0.1895	47.94	192	0.6940	0.7568
0.1895	48.94	196	0.6919	0.7568
0.1666	49.94	200	0.6899	0.7432

フレームワークのバージョン

Transformers 4.26.0
Pytorch 1.13.1+cu116
Datasets 2.9.0
Tokenizers 0.13.2

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase