FPHam - Sydney_Overthinker_13b_HF - GGUFオープンソースモデル - 最適化された量子化ファイルでパフォーマンスを向上させ、必要なモデルを小額で支払って実行

Fpham Sydney Overthinker 13b HF GGUF

featherless-ai-quantsによって開発

このプロジェクトは最適化されたGGUF量子化ファイルを提供し、モデルの性能を大幅に向上させることができます。これらの量子化ファイルはFeatherless AIによってサポートされており、ユーザーは少量の費用を支払うだけで、任意の必要なモデルを実行することができます。

ダウンロード数 133

リリース時間 : 6/4/2025

モデル概要

Sydney_Overthinker_13b_HFモデルのGGUF量子化バージョンで、高効率推論とデプロイに適しています。

複数の量子化オプション

IQ4_XSからQ8_0まで合計11種類の異なるレベルの量子化ファイルを提供し、さまざまな性能とリソース要件を満たします。

高効率推論

量子化技術により、モデル実行時のリソース消費を大幅に削減し、推論速度を向上させます。

簡単なデプロイ

複雑な設定を必要とせず、さまざまなハードウェアに迅速にモデルをデプロイできます。

テキスト生成

対話システム

コンテンツ作成

コンテンツ作成

記事執筆

ユーザーが高品質の記事コンテンツを生成するのを支援します。

創作効率を向上させます

対話システム

スマートチャットボットを構築します。

スムーズで自然な対話体験を提供します

教育

学習支援

学生が質問に答え、学習アドバイスを提供するのを支援します。

学習効率を向上させます

量子化タイプ	ファイル	サイズ
IQ4_XS	FPHam-Sydney_Overthinker_13b_HF-IQ4_XS.gguf	6694.33 MB
Q2_K	FPHam-Sydney_Overthinker_13b_HF-Q2_K.gguf	4629.39 MB
Q3_K_L	FPHam-Sydney_Overthinker_13b_HF-Q3_K_L.gguf	6608.54 MB
Q3_K_M	FPHam-Sydney_Overthinker_13b_HF-Q3_K_M.gguf	6044.17 MB
Q3_K_S	FPHam-Sydney_Overthinker_13b_HF-Q3_K_S.gguf	5396.82 MB
Q4_K_M	FPHam-Sydney_Overthinker_13b_HF-Q4_K_M.gguf	7501.56 MB
Q4_K_S	FPHam-Sydney_Overthinker_13b_HF-Q4_K_S.gguf	7079.30 MB
Q5_K_M	FPHam-Sydney_Overthinker_13b_HF-Q5_K_M.gguf	8802.34 MB
Q5_K_S	FPHam-Sydney_Overthinker_13b_HF-Q5_K_S.gguf	8556.64 MB
Q6_K	FPHam-Sydney_Overthinker_13b_HF-Q6_K.gguf	10184.42 MB
Q8_0	FPHam-Sydney_Overthinker_13b_HF-Q8_0.gguf	13190.57 MB