Magistral Small 2506 Vision

🚀 Magistral-Small-2506-Vision

このモデルは、Devstralのビジョン実験であるhttps://huggingface.co/ngxson/Devstral-Small-Vision-2505-GGUFにインスパイアされ、Magistral-Small-2506のビジョン機能を持つ実験的なチェックポイントです。

Magistral Smallは、ビジョン機能を備えた大規模言語モデルであるMistral Small 3.1をGRPOで学習させた推論用のファインチューニングモデルです。

Mistralの技術レポートでは、Magistralはテキストのみのデータでファインチューニングされたとされていますが、著者らはMMMU、MMMU-Pro、MathVistaのベンチマークでの結果を報告しており、テキストのみの学習であっても若干の改善が見られます。これは、Magistralが推論能力をマルチモーダルデータにうまく一般化できたことを示唆しています。

Mistralは公式リリースでMagistralのビジョンエンコーダを削除しました。これは、テキストのみの入力とマルチモーダル入力の間の性能差が原因かもしれません。

このモデルでは、Magistral SmallにMistral Small 3.1のビジョンエンコーダを移植しています。さらなる学習は行っていないため、このモデルのテキストのみの性能はMistralの公式リリースと同じであるはずです。

このモデルはvLLMでテストされており、Mistral Small 3.1をサポートするあらゆるツールキットで動作するはずです。Mistral 3のTransformers実装はうまく動作しません。

必ずSYSTEM_PROMPT.txtファイル（Mistralのドキュメントから）に記載されているシステムプロンプトとサンプリングパラメータtemp=0.7, top_p=0.95を使用してください。

このモデルにはまだ設定エラーがあり、性能が低下する可能性があります。何か奇妙な動作に遭遇した場合は、ぜひ教えてください！

📦 インストール

ドキュメントに具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

ドキュメントに具体的なコード例が記載されていないため、このセクションは省略されます。

🔧 技術詳細

このモデルは、GRPOで学習されたMistral Small 3.1の推論用ファインチューニングモデルであるMagistral Smallに、Mistral Small 3.1のビジョンエンコーダを移植したものです。さらなる学習は行っていないため、テキストのみの性能はMistralの公式リリースと同じであるはずです。

Mistralは公式リリースでMagistralのビジョンエンコーダを削除しましたが、このモデルではそれを復元しています。これにより、マルチモーダル入力に対応した推論が可能になります。

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

📚 詳細ドキュメント

モデル情報

注意事項

⚠️ 重要提示

このモデルにはまだ設定エラーがあり、性能が低下する可能性があります。何か奇妙な動作に遭遇した場合は、ぜひ教えてください！

💡 使用建议

必ずSYSTEM_PROMPT.txtファイル（Mistralのドキュメントから）に記載されているシステムプロンプトとサンプリングパラメータtemp=0.7, top_p=0.95を使用してください。