Gemma 3 27b It GGUF

🚀 [MaziyarPanahi/gemma-3-27b-it-GGUF]

このプロジェクトは、google/gemma-3-27b-it のGGUF形式のモデルファイルを提供します。GGUFは新しいモデル形式で、多くのクライアントやライブラリでサポートされています。

🚀 クイックスタート

• モデル作成者: google
• オリジナルモデル: google/gemma-3-27b-it

✨ 主な機能

モデル情報

モデル説明

MaziyarPanahi/gemma-3-27b-it-GGUF は、google/gemma-3-27b-it のGGUF形式のモデルファイルを含んでいます。

GGUFについて

GGUFは、2023年8月21日にllama.cppチームによって導入された新しい形式です。これはGGMLの代替形式で、llama.cppではもはやGGMLはサポートされていません。

GGUFをサポートしていることが知られているクライアントとライブラリの不完全なリストを以下に示します。

• llama.cpp。GGUFのソースプロジェクトです。CLIとサーバーオプションを提供します。
• llama-cpp-python、GPUアクセラレーション、LangChainサポート、およびOpenAI互換のAPIサーバーを備えたPythonライブラリです。
• LM Studio、WindowsとmacOS (Silicon) 用の使いやすく強力なローカルGUIで、GPUアクセラレーションがあります。2023年11月27日時点でLinux版はベータ版です。
• text-generation-webui、最も広く使用されているWeb UIで、多くの機能と強力な拡張機能を備えています。GPUアクセラレーションをサポートしています。
• KoboldCpp、すべてのプラットフォームとGPUアーキテクチャでGPUアクセラレーションを備えた完全な機能を持つWeb UIです。特にストーリーテリングに適しています。
• GPT4All、Windows、Linux、およびmacOSをサポートする無料でオープンソースのローカル実行GUIで、完全なGPUアクセラレーションがあります。
• LoLLMS Web UI、多くの興味深い独自の機能を備えた素晴らしいWeb UIで、モデル選択を簡単にする完全なモデルライブラリがあります。
• Faraday.dev、WindowsとmacOS (SiliconとIntelの両方) 用の魅力的で使いやすいキャラクターベースのチャットGUIで、GPUアクセラレーションがあります。
• candle、パフォーマンスに重点を置いたRustのMLフレームワークで、GPUサポートと使いやすさを備えています。
• ctransformers、GPUアクセラレーション、LangChainサポート、およびOpenAI互換のAIサーバーを備えたPythonライブラリです。なお、この記事の執筆時点 (2023年11月27日) では、ctransformersは長い間更新されておらず、多くの最近のモデルをサポートしていません。

📄 ライセンス

このセクションでは、READMEにライセンス情報がなかったため、表示されません。

🔧 技術詳細

このセクションでは、READMEに技術的な詳細がなかったため、表示されません。

💻 使用例

このセクションでは、READMEにコード例がなかったため、表示されません。

📚 ドキュメント

このセクションでは、READMEに詳細な説明がなかったため、表示されません。

📦 インストール

このセクションでは、READMEにインストール手順がなかったため、表示されません。

🔗 特別な感謝

🙏 Georgi Gerganov と llama.cpp に取り組んでいる全チームに、このすべてを可能にしてくれたことに特別な感謝を申し上げます。