🚀 基于google/gemma-3-4b-itの量子化モデルプロジェクト
このプロジェクトは google/gemma-3-4b-it
モデルを中心に展開され、量子化処理を行い、多面的なテスト分析を提供しています。同時に、ローカル量子化大規模言語モデルに適したさまざまなアプリケーションとツールも紹介しています。
🚀 クイックスタート
モデルの基本情報
このモデルは all-gguf-same-where を使用して llama.cpp で量子化されています。
アクセス権限
Hugging Face で Gemma にアクセスするには、Google の使用許諾を確認して同意する必要があります。Hugging Face にログインし、以下のボタンをクリックすると、リクエストがすぐに処理されます。
[許諾を確認](Acknowledge license)
✨ 主な機能
🌍 トルコ語対応モデルの性能分析
📌 テストモデル
以下のローカルモデルは、トルコ語のテキスト生成と理解能力について全面的にテストされました。
CohereForAI/c4ai-command-r7b-arabic-02-2025
CohereForAI/c4ai-command-r7b-12-2024
CohereForAI/aya-expanse-8b
ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1
google/gemma-3-4b-it
google/gemma-3-4b-pt-qat-q4_0-gguf
🔍 テスト基準
モデルは以下の 3 つの基本的な質問で評価されました。
1. "Türkiye'deki en önemli 3 tarihi eseri ve kültürel önemini açıklar mısın?"
2. "İstanbul'un Asya-Avrupa yakası farklarını İngilizce/Türkçe karşılaştır"
3. "Antalya'da 3 günlük turist planı hazırla"
📊 注目すべき結果
モデル名 |
文化的正確性 |
言語の流暢性 |
多言語能力 |
最大の強み |
Turkish-Llama-8B |
⭐⭐⭐⭐⭐ |
⭐⭐⭐⭐⭐ |
⭐ |
隠喩表現とローカルコンテキスト |
Aya-Expanse-8B |
⭐⭐⭐⭐ |
⭐⭐⭐⭐ |
⭐⭐⭐⭐⭐ |
20 以上の言語をサポート |
Command R7B Arabic |
⭐⭐⭐ |
⭐⭐⭐ |
⭐⭐⭐ |
アラビア語 - トルコ語翻訳 |
🔗 完全なテスト結果
すべてのモデルの回答を詳細に確認するには、📂 トルコ語対応モデルの比較 を参照してください。
💡 ユーザーガイド
- 🔥 **トルコ語を中心としたプロジェクト** → `Turkish-Llama-8B`(文化的な適合度が最も高い)
- 🌐 **多言語アプリケーション** → `Aya-Expanse-8B`
- 📜 **正式なドキュメント** → `Command R7B` シリーズ
- 📱 **低リソース環境** → `Gemma-3-4B`(Android をサポート)
⚠️ 重要な注意事項
- すべてのモデルは GGUF 量子化 形式でテストされています。
- 地理的な名称には 5 - 10% の誤差がある可能性があります。
- ローカルでの使用には、Ollama/LM Studio の使用をおすすめします。
🌟 個人的な体験
「ローカルモデルをテストしているとき、特に Turkish-Llama-8B のトルコ語の自然な使い方と文化的なコンテキストの把握に深い印象を受けました。あなたも自分のプロジェクトでこれらのモデルを試してみて、AnkaNLP で結果を共有してください!」
✅ 量子化モデルのダウンロードリスト
🔍 おすすめの量子化形式
- ✨ 汎用 CPU での使用:
Q4_K_M
(速度と品質の最適なバランス)
- 📱 ARM デバイス:
Q4_0
(ARM CPU 向けに最適化)
- 🏆 最高品質:
Q8_0
(元の品質に近い)
📦 完全な量子化オプション
💡 使用上の提案:品質が最も重要な場合は、最高精度を得るために F16
を使用してください。
🚀 ローカル量子化大規模言語モデルのアプリケーションとツール
🖥️ デスクトップアプリケーション
アプリケーション名 |
説明 |
ダウンロードリンク |
Llama.cpp |
高速で効率的な GGUF モデルの推論エンジン。 |
GitHub リポジトリ |
Ollama |
ローカルで大規模言語モデルを実行するための簡素化されたソリューション。 |
公式サイト |
AnythingLLM |
人工知能によって駆動される知識管理ツール。 |
GitHub リポジトリ |
Open WebUI |
ローカル大規模言語モデルを実行するためのユーザーフレンドリーな Web インターフェイス。 |
GitHub リポジトリ |
GPT4All |
複数の大規模言語モデルをサポートするユーザーフレンドリーなデスクトップアプリケーションで、GGUF モデルと互換性があります。 |
GitHub リポジトリ |
LM Studio |
ローカル大規模言語モデルを実行および管理するためのデスクトップアプリケーションで、GGUF 形式をサポートしています。 |
公式サイト |
GPT4All Chat |
GGUF モデルと互換性のあるチャットアプリケーションで、ローカルオフラインでの対話に使用できます。 |
GitHub リポジトリ |
📱 モバイルアプリケーション
アプリケーション名 |
説明 |
ダウンロードリンク |
ChatterUI |
モバイルデバイス用のシンプルで軽量な大規模言語モデルアプリケーション。 |
GitHub リポジトリ |
Maid |
モバイルデバイスで人工知能モデルを実行するためのモバイル人工知能配布プラットフォーム。 |
GitHub リポジトリ |
PocketPal AI |
ローカルモデルによって駆動されるモバイル人工知能アシスタント。 |
GitHub リポジトリ |
Layla |
モバイルデバイスでさまざまな人工知能モデルを実行するための柔軟なプラットフォーム。 |
公式サイト |
🎨 画像生成アプリケーション
アプリケーション名 |
説明 |
ダウンロードリンク |
Stable Diffusion |
テキストから画像を生成するためのオープンソースの人工知能モデル。 |
GitHub リポジトリ |
Stable Diffusion WebUI |
ブラウザインターフェイスを通じて Stable Diffusion モデルにアクセスするための Web アプリケーション。 |
GitHub リポジトリ |
Local Dream |
Snapdragon NPU の加速をサポートする Android 版の Stable Diffusion で、CPU 推論もサポートしています。 |
GitHub リポジトリ |
Stable-Diffusion-Android (SDAI) |
Android デバイス用のオープンソースの人工知能アートアプリケーションで、デジタルアートの作成に使用できます。 |
GitHub リポジトリ |
📄 ライセンス
このプロジェクトは gemma ライセンスを使用しています。