Neurobert Mini GGUF

🚀 NeuroBERT-Mini

NeuroBERT-Miniは、軽量で低リソース環境でも動作するNLPモデルで、英語の自然言語処理タスクに最適化されています。

✨ 主な機能

• このモデルは、BERTベースの事前学習モデルで、多様なNLPタスクに対応しています。
• 量子化されたバージョンが提供されており、低リソース環境やエッジデバイスでの使用に適しています。
• 意図検出、コマンド分類、固有表現抽出などのタスクに有効です。

📦 インストール

原READMEに具体的なインストール手順が記載されていないため、このセクションをスキップします。

💻 使用例

原READMEに具体的なコード例が記載されていないため、このセクションをスキップします。

📚 ドキュメント

概要

https://huggingface.co/boltuix/NeuroBERT-Mini の静的量子化バージョンです。現時点では、重み付き/インマトリックス量子化は利用できません。静的量子化バージョンが公開されてから1週間程度経っても表示されない場合は、私が計画していない可能性があります。コミュニティディスカッションを開いてリクエストすることができます。

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADMEを参照してください。これには、マルチパートファイルの結合方法も含まれています。

提供される量子化バージョン

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる、いくつかの低品質量子化タイプを比較した便利なグラフです（数値が低いほど良い）：

また、Artefact2によるこの問題に関する考察もあります： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社であるnethype GmbHに感謝します。彼らは私にサーバーを使用させ、ワークステーションをアップグレードしてくれたおかげで、私は自由時間にこの作業を行うことができました。

🔧 技術詳細

原READMEに具体的な技術詳細が記載されていないため、このセクションをスキップします。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。