Opencerebrum 1.0 7b SFT GGUF

🚀 OpenCerebrum-1.0-7b-SFT

このプロジェクトは、Locutusque/OpenCerebrum-1.0-7b-SFT モデルの静的量子化バージョンを提供します。複数のデータセットで訓練され、コード、数学、化学、生物学などの分野でのテキスト生成や質問応答に対応しています。

🚀 クイックスタート

このセクションでは、モデルの基本的な情報や使用方法について説明します。

モデル情報

モデルの概要

https://huggingface.co/Locutusque/OpenCerebrum-1.0-7b-SFT の静的量子化バージョンです。重み付き/イマトリックス量子化は、https://huggingface.co/mradermacher/OpenCerebrum-1.0-7b-SFT-i1-GGUF で利用可能です。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBloke's READMEs を参照してください。ここには、マルチパートファイルの結合方法も含まれています。

✨ 主な機能

• 多様な分野対応：コード、数学、化学、生物学などの分野でのテキスト生成や質問応答が可能です。
• 複数の量子化タイプ：様々な量子化タイプが提供されており、ユーザーのニーズに合わせて選択できます。

📦 インストール

このセクションでは、モデルのインストールに関する情報は提供されていません。

💻 使用例

このセクションでは、使用例に関するコードは提供されていません。

📚 ドキュメント

提供される量子化バージョン

（サイズ順に並べられており、必ずしも品質を表すわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる、一部の低品質量子化タイプを比較した便利なグラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察もあります： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

🔧 技術詳細

このセクションでは、技術的な詳細情報は提供されていません。

📄 ライセンス

このモデルは、apache-2.0ライセンスの下で提供されています。

謝辞

私の会社である nethype GmbH に感謝します。彼らは私に会社のサーバーを使用させ、私のワークステーションをアップグレードしてくれたおかげで、私は余暇時間にこの作業を行うことができました。また、@nicoboss にも感謝します。彼は私に彼のプライベートスーパーコンピューターへのアクセスを許可してくれたおかげで、私は通常よりもはるかに高品質の多数のイマトリックス量子化を提供することができました。