Verireason Qwen2.5 7b RTLCoder Verilog GRPO Reasoning Tb I1 GGUF

🚀 VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tbについて

このプロジェクトは、Verilogの推論と強化学習に特化したモデルであるVeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tbに関する情報を提供します。モデルの重みや使用方法、提供される量子化データについて説明しています。

🚀 クイックスタート

このセクションでは、モデルの基本的な情報と使用方法について説明します。

モデル情報

概要

weighted/imatrix quants of https://huggingface.co/Nellyw888/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb 静的量子化データは、https://huggingface.co/mradermacher/VeriReason-Qwen2.5-7b-RTLCoder-Verilog-GRPO-reasoning-tb-GGUF で入手できます。

💻 使用例

基本的な使用法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

📚 ドキュメント

提供される量子化データ

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる低品質量子化タイプの比較グラフ（値が低いほど良い）:

Artefact2によるこの問題に関する考察: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や、他のモデルの量子化を依頼する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

🙏 謝辞

私の会社であるnethype GmbHに感謝します。彼らは、サーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことで、私が余暇時間にこの作業を行うことを可能にしてくれました。また、@nicobossにも感謝します。彼は私に彼のプライベートスーパーコンピューターへのアクセスを許可してくれたことで、私が通常では提供できないほど多くの高品質なimatrix量子化データを提供することができました。