Llama 3 8B Instruct Abliterated TR

🚀 LLaMA-3-8B-Instruct-Abliterated-TR

このモデルはMeta-LLaMA-3-8B-Instructの改変版で、特定の方向を制限することで有害な質問にも回答できるようにし、トルコ語での応答を促すように調整されています。

🚀 クイックスタート

Arditiらはブログ記事 blog post で、大規模言語モデル（LLM）における拒否応答が、残差ストリーム内の単一の方向によって媒介されることを実証しました。彼らは、モデルがこの方向を表現するのを防ぐことで、有害な質問にも回答できるようになることを見つけました。この概念を深く理解するには、Maxime Labonneの記事 を参照してください。

モデルにトルコ語で応答させるために、LIMAデータセットの stackexchangeサブセット を使用して並列命令を作成しました。これらの命令をトルコ語に翻訳し、実行時にモデルにトルコ語で回答するよう促す追加の文を付けました。

この実験で使用されたデータセットは以下のリンクから見つけることができます。

1. https://huggingface.co/datasets/Metin/abliteration_en
2. https://huggingface.co/datasets/Metin/abliteration_tr

✨ 主な機能

LLaMA-3-8B-Instruct-Abliterated-TRは Meta-LLaMA-3-8B-Instruct の改変版です。

詳細

• 活性化の平均差を見つけるために40サンプルが使用されました。
• レイヤー7が最も高い潜在的なトルコ語表現方向を持つレイヤーとして選択されました。

📦 インストール

このモデルを使用するには、以下の依存関係が必要です。通常は事前にインストールされていることが多いですが、必要に応じてインストールしてください。

pip install transformers bitsandbytes torch

💻 使用例

基本的な使用法

from transformers import BitsAndBytesConfig
import transformers
import torch

bnb_config = BitsAndBytesConfig(
            load_in_4bit=True,
            bnb_4bit_use_double_quant=True,
            bnb_4bit_quant_type="nf4",
            bnb_4bit_compute_dtype=torch.bfloat16
)

model_id = "Metin/LLaMA-3-8B-Instruct-Abliterated-TR"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16 ,'quantization_config': bnb_config},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "You are a helpful assistant."}, # Ideally we should not have to tell the model to answer in Turkish after abliteration.
    {"role": "user", "content": "Python'da bir öğenin bir listede geçip geçmediğini nasıl kontrol edebilirim?"},
]

prompt = pipeline.tokenizer.apply_chat_template(
        messages,
        tokenize=False,
        add_generation_prompt=True
)

terminators = [
    pipeline.tokenizer.eos_token_id,
    pipeline.tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = pipeline(
    prompt,
    max_new_tokens=512,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.2,
    top_p=0.9,
)

print(outputs[0]["generated_text"][len(prompt):])

📚 ドキュメント

OpenLLMTurkishLeaderboard_v0.2ベンチマーク結果

• MMLU_TR_V0.2: 49.08%
• Truthful_QA_TR_V0.2: 49.62%
• ARC_TR_V0.2: 43.77%
• HellaSwag_TR_V0.2: 44.86%
• GSM8K_TR_V0.2: 53.23%
• Winogrande_TR_V0.2: 55.13%
• 平均: 49.28%

これらのスコアは、同じベンチマークを実行した際に得られる結果と異なる場合があります。なぜなら、推論エンジン（vLLM、TensorRT-LLMなど）を使用していないためです。

出力例（改変モデル vs ベースモデル）

単一の例でモデルをテストすることは正確な方法ではありません。しかし、モデルの能力を示すためにここに例を示します。

モデル: LLaMA-3-8B-Instruct-Abliterated-TR

入力

messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Gökyüzü neden mavi?"},
]

出力

A classic question!

Gökyüzü (the sky) neden mavi (blue) sorusu, Türkçe'de "Why is the sky blue?" olarak çevrilebilir. Bu soruya cevap vermek için, ilk olarak, gökyüzünün mavi olmasının nedenini açıklamak gerekir.

Gökyüzünün mavi olmasının nedeni, ışığın farklı uzunluklarındaki yayılımına dayanır. Işık, gökyüzüne ulaşmadan önce, atmosferde bulunan gaz moleküllerine çarpınır. Bu çarpma, ışığın farklı uzunluklarındaki yayılımına neden olur.

Gökyüzünün mavi olmasının nedeni, ışığın kısa dalga boyunda (yaklaşık 450-495 nm) yayılımına dayanır. Bu dalga boyunda ışığın, gökyüzüne ulaşmadan önce, atmosferde bulunan gaz moleküllerine çarpınır. Bu çarpma, ışığın mavi renkini oluşturur.

Diğer renkler, farklı dalga boyunda yayılımına neden olur. Örneğin, kırmızı renk, ışığın uzun dalga boyunda (yaklaşık 620-750 nm) yayılımına neden olur. Bu nedenle, gökyüzünün mavi olmasının nedeni, ışığın kısa dalga boyunda yayılımına dayanır.

Bu cevap, gökyüzünün mavi olmasının nedenini açıklamaktadır.

モデル: LLaMA-3-8B-Instruct

入力

A question that has puzzled humans for centuries!

The short answer is that the sky appears blue because of a phenomenon called Rayleigh scattering. This is the scattering of light by small particles or molecules in the atmosphere, such as nitrogen (N2) and oxygen (O2).

When sunlight enters the Earth's atmosphere, it encounters these tiny molecules and scatters in all directions. However, shorter (blue) wavelengths are scattered more than longer (red) wavelengths. This is because the smaller molecules are more effective at scattering the shorter wavelengths.

As a result, our eyes perceive the blue light as being more abundant, giving the sky its blue appearance. The color of the sky can vary depending on the time of day, atmospheric conditions, and other factors, but Rayleigh scattering is the main reason why the sky appears blue.

In Turkish, the phrase "Gökyüzü neden mavi" can be translated to "Why is the sky blue?" or "What makes the sky blue?"

📄 ライセンス

このモデルはllama3ライセンスの下で提供されています。