Financeconnect 13B I1 GGUF

🚀 FinanceConnect-13B

FinanceConnect-13Bは、金融分野に特化した大規模言語モデルで、要約、分類、翻訳などの自然言語処理タスクに対応しています。

🚀 クイックスタート

このセクションではFinanceConnect-13Bの基本的な使い方を説明します。

📚 ドキュメント

概要

モデルについて

https://huggingface.co/ceadar-ie/FinanceConnect-13B のweighted/imatrix量子化モデルです。静的量子化モデルは https://huggingface.co/mradermacher/FinanceConnect-13B-GGUF で入手可能です。

使い方

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法も含め、詳細な情報が記載されています。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質順ではありません。IQ量子化モデルは、同程度のサイズの非IQ量子化モデルよりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低い方が良い）：

Artefact2の関連コメントはこちら： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問とモデルリクエスト

質問に対する回答や他のモデルの量子化リクエストについては、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、自社のサーバーを使用させてくれ、ワークステーションをアップグレードしてくれた nethype GmbH に感謝します。また、私に彼のプライベートスーパーコンピューターへのアクセスを許可してくれた @nicoboss にも感謝します。これにより、私は通常よりもはるかに多くのimatrix量子化モデルを、より高品質で提供することができました。