Llama 3 8B Instruct Abliterated V2

🚀 Llama-3-8B-Instruct-abliterated-v2 モデルカード

このモデルカードは、Llama-3-8B-Instruct-abliterated-v2モデルについて説明しています。このモデルは、meta-llama/Llama-3-8B-Instructモデルの直交化バージョンであり、前世代のLlama-3-8B-Instruct-abliteratedを改良したものです。このバリアントでは、モデルが拒否を表明する能力を抑制するために特定の重みが操作されています。

Cognitive Computations Discordに参加しましょう！

📚 詳細

• このモデルは、「拒否方向」をより正確に特定するために、より多くのデータで学習されました。
• このモデルは、免責事項すら生成せずに、要求に直接かつ簡潔に答える能力が大幅に向上しています。

🔧 手法

このモデルを生成するために使用された手法は、プレビュー論文/ブログ記事「Refusal in LLMs is mediated by a single direction」で説明されています。

⚠️ 特徴と副作用

この手法はまだ新しく未検証であるため、このモデルには興味深い特徴があるかもしれません。モデルを生成するために使用されたコードは、Pythonノートブック ortho_cookbook.ipynb で入手できます。 重みを操作して拒否を抑制した後でも、モデルが特定の要求に拒否することがあることに注意してください。

📦 利用可能性

🚀 クイックスタート

このモデルは、Transformersライブラリで使用できます。
GGUFクアントはこちらで入手可能です。

📄 ライセンス

このモデルのライセンスはllama3です。