Hacker News Comments Summarization Llama 3.2 3B Instruct GGUF

🚀 Hacker-News-Comments-Summarization-Llama-3.2-3B-Instruct

このプロジェクトは、Hacker Newsのコメントを要約するためのLlama 3.2ベースのモデルです。静的量子化モデルを提供し、GGUF形式で利用できます。

🚀 クイックスタート

このモデルの基本的な使い方については、以下のセクションを参照してください。

📚 詳細ドキュメント

概要

• ベースモデル: georgeck/Hacker-News-Comments-Summarization-Llama-3.2-3B-Instruct
• データセット: georgeck/hacker-news-discussion-summarization-large
• 言語: en
• ライブラリ名: transformers
• ライセンス: llama3.1
• 量子化: mradermacher
• タグ: summarization, hacker-news, hn-companion

https://huggingface.co/georgeck/Hacker-News-Comments-Summarization-Llama-3.2-3B-Instruct の静的量子化モデルです。

現時点では、重み付き/インマトリックス量子化は利用できない可能性があります。静的量子化モデルが公開されてから約1週間後にまだ表示されない場合、私はそれらを計画していない可能性があります。コミュニティディスカッションを開いてリクエストすることができます。

使用方法

GGUFファイルの使い方がわからない場合は、TheBloke's READMEs を参照してください。複数のパートファイルを結合する方法も含まれています。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質順ではありません。IQ量子化は同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる低品質量子化タイプを比較した便利なグラフです（数値が低いほど良い）:

また、Artefact2によるこの問題に関する考察もあります: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH に感謝します。彼らは私にサーバーを使用させ、ワークステーションをアップグレードして、私が自由時間にこの作業を行えるようにしてくれました。

📄 ライセンス

このモデルは llama3.1 ライセンスの下で提供されています。