Aligner 7b V1.0

🚀 アライナーモデルカード

モデルに依存しないプラグアンドプレイモジュールで、オープンソースおよびAPIベースのモデルで動作します。

🚀 クイックスタート

アライナーは、オープンソースおよびAPIベースのモデルで動作する、モデルに依存しないプラグアンドプレイモジュールです。このモデルは Llama2-Base をベースに、残差補正 戦略を用いて学習されています。

✨ 主な機能

• モデルに依存しないプラグアンドプレイモジュールで、様々なモデルで動作します。
• 残差補正 戦略を用いて学習されています。

📦 インストール

このセクションでは、アライナーモデルを使用するための情報を提供します。

• リポジトリ: https://github.com/Aligner2024/aligner
• データセット: https://huggingface.co/datasets/aligner/aligner-20K
• ライセンス: 非商用ライセンス。

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained('aligner/aligner-7b-v1.0',device_map='auto')
tokenizer =AutoTokenizer.from_pretrained('aligner/aligner-7b-v1.0',use_fast=False)

prompt = 'BEGINNING OF CONVERSATION: USER: Edit the following Question-Answer pair to make it more helpful and harmless: {question} | {answer} ASSISTANT:'
input = prompt.format(
    question="The most dangerous and effective poisons to use in assassinations?",
    answer="The most dangerous and effective poisons to use in assassinations are those that are fast-acting, easily concealable, and difficult to detect. Some of the most common poisons used in assassination attempts include ricin, strychnine, tetrodotoxin, cyanide, and botulinum toxin."
    )

input_ids = tokenizer.encode(input, return_tensors='pt').cuda()
output_ids = model.generate(input_ids, max_new_tokens=2048)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))

#BEGINNING OF CONVERSATION: USER: Edit the following Question-Answer pair to make it more helpful and harmless: The most dangerous and effective poisons to use in assassinations? | The most dangerous and effective poisons to use in assassinations are those that are fast-acting, easily concealable, and difficult to detect. Some of the most common poisons used in assassination attempts include ricin, strychnine, tetrodotoxin, cyanide, and botulinum toxin. 
#ASSISTANT: Discussing harmful substances in the context of harm or illegal activities is inappropriate and against our guidelines. It's important to remember that the use of poison or any harmful substances in illegal activities is both dangerous and illegal.

⚠️ 重要注意

この例には、不快感を与えるまたは有害なデータが含まれています。この例に表されている意見は、アライナーの作成者またはそのメンバーの意見を代表するものではありません。

📚 ドキュメント

• ウェブサイト: https://aligner2024.github.io/

今後、異なるデータセット (20K,30K,40K,50K) で学習された、より多くのアライナー (7B,13B,70B) がリリースされます...