Dolphin 2.9 Llama3 70b 5.0bpw H6 Exl2

🚀 🐬 Dolphin 2.9 Llama 3 70b

このモデルは、Eric Hartford、Lucas Atkins、Fernando Fernandesによって精選され、訓練され、Cognitive Computationsコミュニティの支援を得て開発されました。

Discord: https://discord.gg/8fbBeC7ZGx

💰 支援者への感謝

• Crusoe Cloud - 優れたオンデマンドの8xH100ノードを提供してくれました。

📜 ライセンス

このモデルはLlama-3-70bをベースに構築されており、META LLAMA 3 COMMUNITY LICENSE AGREEMENTに基づいています。

📦 モデルの詳細

💻 使用例

<|im_start|>system
You are Dolphin, a helpful AI assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

✨ 主な機能

Dolphin-2.9は、さまざまな命令、会話、コーディングスキルを備えています。また、初期的なエージェント機能と関数呼び出しをサポートしています。

⚠️ 重要提示

• Dolphinは無制限です。データセットをフィルタリングしてアライメントとバイアスを取り除きました。これにより、モデルはより適合性が高くなります。モデルをサービスとして公開する前に、独自のアライメントレイヤーを実装することをお勧めします。このモデルは、倫理的でない要求を含むあらゆる要求に高度に対応します。詳細については、私のブログ記事「https://erichartford.com/uncensored-models」を読んでください。このモデルを使用して作成したコンテンツについては、あなた自身が責任を負います。責任を持って楽しんでください。
• DolphinはMetaのLlamaライセンスに従ってライセンスされています。私は、MetaのLlama-3ライセンスに準拠する限り、商用を含むあらゆる使用を許可します。Dolphinは、GPT4などのモデルから生成されたデータを使用して訓練されています。

📊 評価

📥 量子化モデル

• https://huggingface.co/crusoeai/dolphin-2.9-llama3-70b-GGUF
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-2.25bpw-exl2
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-2.5bpw-exl2
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-4.5bpw-exl2