Verireason Qwen2.5 7b RTLCoder Verilog GRPO Reasoning Tb GGUF

🚀 VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tbについて

このプロジェクトは、Verilogの推論や強化学習、RTLに関連するモデルであるNellyw888/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tbの静的量子化バージョンを提供します。

🚀 クイックスタート

このモデルを使用する前に、必要な情報を把握しましょう。

基本情報

概要

https://huggingface.co/Nellyw888/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb の静的量子化モデルです。重み付き/imatrix量子化データは、https://huggingface.co/mradermacher/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb-i1-GGUF で入手できます。

✨ 主な機能

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法も含まれています。

提供される量子化モデル

（サイズ順にソートされており、必ずしも品質順ではありません。IQ量子化は同程度のサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）。

Artefact2の意見も参考にしてください。 https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問とモデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

📄 ライセンス

このプロジェクトでは、nethype GmbHのサーバーを使用し、ワークステーションのアップグレードを受けています。これにより、私は余暇時間にこの作業を行うことができました。nethype GmbHに感謝いたします。nethype GmbH