Snowflake Arctic Embed L V2.0 GGUF

🚀 モデルカード: Snowflake Arctic Embed L v2.0 (GGUF量子化版)

このモデルは、最先端の多言語テキスト埋め込みモデルである SnowflakeのArctic Embed L v2.0 のGGUF量子化版です。高品質な検索タスクに設計されており、量子化によりモデルのサイズと計算要件を削減し、性能を大きく損なうことなく効率的なデプロイを可能にします。

🚀 クイックスタート

この量子化モデルは、メモリと計算効率が重要なリソース制約のある環境でのデプロイに適しています。情報検索、意味検索、および高品質なテキスト埋め込みを必要とするその他のアプリケーションなどのタスクに利用できます。

✨ 主な機能

• 最先端の多言語テキスト埋め込みモデルで、高品質な検索タスクに対応。
• GGUF量子化により、モデルのサイズと計算要件を削減し、効率的なデプロイを可能に。
• 元のモデルと同等の高性能を維持しつつ、リソース効率を向上。

📚 ドキュメント

モデルの詳細

量子化の詳細

GGUF (Gerganov's General Unified Format) は、大規模言語モデルの効率的なロードと推論のために最適化されたバイナリ形式です。量子化は、モデルの重みの精度を下げることで、メモリ使用量を減らし、計算を高速化し、精度にほとんど影響を与えません。

性能

元のArctic Embed L v2.0モデルは、MTEB Retrievalベンチマークを含むさまざまな検索ベンチマークで最先端の性能を達成しており、NDCG@10スコアは55.98です。GGUF量子化版は、この高性能を維持しつつ、効率性を向上させることを目指しています。

制限事項

量子化によりリソース要件が削減されますが、モデルの性能にわずかな低下が生じる可能性があります。ユーザーは、特定のユースケースでモデルを評価し、希望する性能基準を満たしていることを確認する必要があります。

謝辞

この量子化モデルは、SnowflakeのArctic Embed L v2.0に基づいています。元のモデルの詳細については、公式モデルカード を参照してください。

ビデオ情報

SnowflakeのArctic Embed v2.0の視覚的な概要については、以下のビデオが参考になるかもしれません。 https://www.youtube.com/watch?v=CmSZZkzghhU

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。