Multilingual E5 Large Instruct GGUF

🚀 マルチリンガル - e5 モデル

マルチリンガル - e5 ファミリーは、マルチリンガル埋め込みモデルの中でも優れた選択肢の一つです。このモデルは、多言語のテキストを効果的に埋め込み、様々なタスクでの利用が可能です。

🚀 クイックスタート

マルチリンガル - e5 モデルは、多言語のテキスト埋め込みに特化したモデルです。このGGUFバージョンは、こちらのHugging Faceモデルに基づいています。異なるタスクに対するプロンプトの推奨事項も確認してみてください。

このモデルは、2024年8月6日にllama.cppにXLMRobertaが追加された後からサポートされています。詳細はこちらを参照してください。

✨ 主な機能

• 多言語対応：様々な言語のテキストを埋め込むことができます。
• 複数の量子化バージョン：現在、q4_k_m、q6_k、q8_0、f16のバージョンが利用可能です。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

このREADMEにはコード例が含まれていないため、このセクションは省略されます。

📚 ドキュメント

このREADMEには詳細な説明が含まれています。モデルの概要やサポート情報、量子化バージョンの推奨事項などを確認できます。

量子化バージョンの推奨事項

現在、q4_k_m、q6_k、q8_0、f16のバージョンが利用可能です。一般的には、q6_kまたはq8_0の使用をおすすめします。基本モデルから8ビット量子化に移行しても、ほとんど性能の損失はありません。一方、q6 - q4の間では、通常、少ないながらも目立つ性能の低下が見られます。q3またはそれ以下の量子化レベルでは、性能の低下がかなり大きくなります。

🔧 技術詳細

このREADMEには具体的な技術詳細が十分に記載されていないため、このセクションは省略されます。

📄 ライセンス

このプロジェクトはMITライセンスの下で提供されています。