Gemma 3n E4B It 4bit MLX

🚀 NexaAI/gemma-3n-E4B-it-4bit-MLX

Gemma-3n-E4B-it-4bit-MLXは、Googleが開発したGemmaモデルファミリーの一つです。低リソースデバイスでの効率的な実行が可能で、多様なモーダル入力（テキスト、画像、ビデオ、音声）を扱い、テキスト出力を生成することができます。

🚀 クイックスタート

nexa-sdkをインストールして、直接実行します。 nexa-sdk CLIでは、以下のコマンドを実行します。

NexaAI/gemma-3n-E4B-it-4bit-MLX

✨ 主な機能

概要

入力と出力の概要説明と簡単な定義を提供します。

説明

Gemmaは、Googleが開発した軽量で最先端のオープンモデルファミリーです。Geminiモデルを作成するために使用された同じ研究と技術に基づいて構築されています。Gemma 3nモデルは、低リソースデバイスでの効率的な実行を目的として設計されています。テキスト、画像、ビデオ、音声などのマルチモーダル入力を処理し、テキスト出力を生成することができます。事前学習と命令微調整のバリアントにはオープンな重みがあり、140以上の話し言葉でデータが学習されています。

Gemma 3nモデルは、選択的パラメータ活性化技術を使用してリソース要件を削減しています。この技術により、モデルは含まれる総パラメータ数よりも少ない2Bと4Bのパラメータで効果的に動作することができます。Gemma 3nの効率的なパラメータ管理技術の詳細については、Gemma 3nページを参照してください。

入力と出力

• 入力:
  • 質問、プロンプト、要約するドキュメントなどのテキスト文字列
  • 256x256、512x512、または768x768の解像度に正規化され、それぞれ256トークンにエンコードされた画像
  • 単一チャネルから1秒あたり6.25トークンにエンコードされた音声データ
  • 最大32Kトークンの入力コンテキスト
• 出力:
  • 質問への回答、画像内容の分析、ドキュメントの要約など、入力に対する生成テキスト
  • リクエスト入力トークンを差し引いた最大32Kトークンの出力長

📚 詳細ドキュメント

ベンチマーク結果

これらのモデルは、コンテンツ生成のさまざまな側面をカバーするために、多数の異なるデータセットとメトリクスに対して全精度（float32）で評価されました。評価結果にITとマークされているのは命令微調整モデル、PTとマークされているのは事前学習モデルです。

推論と事実性

多言語

STEMとコード

追加のベンチマーク

🔗 参照

オリジナルのモデルカード: google/gemma-3n-E4B-it

📄 ライセンス

ライセンスはgemmaです。Hugging Face上でGemmaにアクセスするには、Googleの使用許諾書を確認して同意する必要があります。これを行うには、Hugging Faceにログインして下のボタンをクリックしてください。リクエストは即座に処理されます。

⚠️ 重要提示

Hugging Face上でGemmaにアクセスするには、Googleの使用許諾書を確認して同意する必要があります。

💡 使用建议

nexa-sdkをインストールしてから、モデルを実行することをおすすめします。