Qwen2.5-Coder-1.5B-GGUFオープンソースコードモデル - 多言語コード補完と生成をサポート

ホーム

Qwen2.5 Coder 1.5B GGUF

tensorblockによって開発

Qwen2.5-Coder-1.5Bは15億パラメータのコード生成モデルで、複数のプログラミング言語をサポートし、コード補完と生成タスクに適しています。

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #コード生成 #軽量モデル #複数量化バージョン

ダウンロード数 162

リリース時間 : 11/10/2024

モデル概要

Qwen2.5-Coder-1.5BはTransformerアーキテクチャに基づくコード生成モデルで、コード補完と生成タスク用に設計され、複数のプログラミング言語をサポートします。

モデル特徴

複数の量子化オプション

Q2_KからQ8_0までの複数の量子化オプションを提供し、さまざまなシナリオでのパフォーマンスと精度の要件を満たします。

効率的な推論

GGUF形式で最適化され、リソースが限られたデバイスでも効率的な推論をサポートします。

強力なコード生成能力

コード生成と補完タスク用に最適化され、複数のプログラミング言語をサポートします。

モデル能力

コード生成

コード補完

プログラミング言語理解

使用事例

ソフトウェア開発

コード補完

IDE内でリアルタイムにコードを補完し、開発効率を向上させます。

コーディング時間を大幅に削減し、コード品質を向上させます。

コード生成

自然言語の説明に基づいてコード断片を生成します。

すぐに実行できるコードを迅速に生成し、手動でのコーディング作業を削減します。

🚀 Qwen/Qwen2.5-Coder-1.5B - GGUF

このリポジトリには、Qwen/Qwen2.5-Coder-1.5B のGGUF形式のモデルファイルが含まれています。これらのファイルは、TensorBlock が提供するマシンで量子化されており、コミット b4011 バージョンの llama.cpp と互換性があります。

🚀 クイックスタート

ダウンロードコマンド

コマンドラインによる方法

まず、Huggingfaceクライアントをインストールします。

pip install -U "huggingface_hub[cli]"

次に、単一のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/Qwen2.5-Coder-1.5B-GGUF --include "Qwen2.5-Coder-1.5B-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターン（例：*Q4_K*gguf）で複数のモデルファイルをダウンロードする場合は、以下のコマンドを試してください。

huggingface-cli download tensorblock/Qwen2.5-Coder-1.5B-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

✨ 主な機能

このプロジェクトには、以下の2つの主要なプロジェクトがあります。

プロジェクト	詳細
Awesome MCP Servers	包括的なモデルコンテキストプロトコル（MCP）サーバーの集合です。
TensorBlock Studio	軽量で、オープンかつ拡張可能な多言語モデルインタラクションスタジオです。

📚 ドキュメント

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイルの仕様

ファイル名	量子化タイプ	ファイルサイズ	説明
Qwen2.5-Coder-1.5B-Q2_K.gguf	Q2_K	0.630 GB	最小ですが、品質が著しく損なわれ、ほとんどのシナリオでは推奨されません。
Qwen2.5-Coder-1.5B-Q3_K_S.gguf	Q3_K_S	0.709 GB	非常に小さいですが、品質の損失が大きいです。
Qwen2.5-Coder-1.5B-Q3_K_M.gguf	Q3_K_M	0.768 GB	非常に小さいですが、品質の損失が大きいです。
Qwen2.5-Coder-1.5B-Q3_K_L.gguf	Q3_K_L	0.820 GB	小さいですが、品質の損失が大きいです。
Qwen2.5-Coder-1.5B-Q4_0.gguf	Q4_0	0.871 GB	旧バージョンです。小さいですが、品質の損失が非常に大きく、Q3_K_M の使用を推奨します。
Qwen2.5-Coder-1.5B-Q4_K_S.gguf	Q4_K_S	0.876 GB	小さいですが、品質の損失が大きいです。
Qwen2.5-Coder-1.5B-Q4_K_M.gguf	Q4_K_M	0.918 GB	中程度で、品質がバランスしており、推奨されます。
Qwen2.5-Coder-1.5B-Q5_0.gguf	Q5_0	1.023 GB	旧バージョンです。中程度で、品質がバランスしており、Q4_K_M の使用を推奨します。
Qwen2.5-Coder-1.5B-Q5_K_S.gguf	Q5_K_S	1.023 GB	大きいですが、品質の損失が少なく、推奨されます。
Qwen2.5-Coder-1.5B-Q5_K_M.gguf	Q5_K_M	1.048 GB	大きいですが、品質の損失が非常に少なく、推奨されます。
Qwen2.5-Coder-1.5B-Q6_K.gguf	Q6_K	1.185 GB	非常に大きいですが、品質の損失が極めて少ないです。
Qwen2.5-Coder-1.5B-Q8_0.gguf	Q8_0	1.533 GB	非常に大きいですが、品質の損失が極めて少なく、使用は推奨されません。