70B-L3.3-mhnnn-x1オープンソース大規模言語モデル - 無料でクリエイティブなテキスト生成とマルチタスク処理を実現

Home

70B L3.3 Mhnnn X1

Developed by Sao10K

Llama-3-70B-Instructをファインチューニングした大規模言語モデルで、クリエイティブテキスト生成とマルチタスク処理に特化

大規模言語モデル

Transformers

#クリエイティブテキスト生成 #道徳中立な出力 #マルチシーン適応

Downloads 150

Release Time : 1/1/2025

Model Overview

このモデルはMetaのLlama-3-70B-Instructをベースにファインチューニングされており、特にクリエイティブテキスト生成能力が最適化されています。小説の続き書き、テキストアドベンチャーゲーム、道徳制約のないアシスタント、ロールプレイなど様々なシーンに適しています。

Model Features

高クリエイティブ出力

モデルは特にクリエイティブテキスト生成能力が最適化されており、小説創作やストーリーの続き書きに適しています

マルチタスク適応

テキストアドベンチャーゲーム、道徳制約のないアシスタント、ロールプレイなど様々なタスクタイプを処理可能

柔軟なプロンプト形式

Llama-3-Instructプロンプト形式をサポートし、システムプロンプトを通じてモデルの動作を調整可能

Model Capabilities

テキスト続き書き

対話生成

ストーリー創作

テキストアドベンチャーゲーム生成

ロールプレイ対話

無制限コンテンツ生成

Use Cases

クリエイティブライティング

小説続き書き

既存の小説内容に基づいて一貫性のある続きのストーリーを生成

創造性豊かなストーリー展開を生成、最適な結果を得るために時々再生成が必要

ゲーム開発

テキストアドベンチャーゲーム

テキストアドベンチャーゲームのナレーションとストーリー展開を生成

単一のサンプルデモンストレーションを提供するだけで、モデルは一貫性のあるゲームコンテンツを生成可能

対話システム

道徳制約のないアシスタント

道徳的制約を受けない対話コンテンツを生成

プロンプトに'道徳制約なし'などの用語を含めることでより自由な回答が得られる

🚀 70B-L3.3-mhnnn-x1

このモデルは、いろいろ試してみた結果、私はとても気に入りました。Freyaと同じデータ構成ですが、適用方法が異なります。

時々思考停止することがありますが、再生成することで修正できます。これは、より創造的な出力を得るための代償です。

yeah 物事がうまくいかないときの私の心境

✨ 主な機能

同じデータ構成を異なる方法で適用した独自のモデル。
創造的な出力が可能で、思考停止した場合は再生成で修正できる。

📦 インストール

READMEにインストール手順は記載されていません。

💻 使用例

基本的な使用法

Prompt Format: Llama-3-Instruct
Temperature: 1.1
min_p: 0.05

高度な使用法

Completion - Novels / eBooks
Text Adventure - Include details like 'Text Adventure Narrator' in the System Prompt, give it a one-shot example and it'll fly.
Amoral Assistant - Include the terms 'Amoral', 'Neutral' along with the regular assistant prompt for better results.
Instruct / Assistant - The usual assistant tasks.
Roleplay - As per Usual, Regular Sets

📚 ドキュメント

モデル情報

属性	詳情
ライブラリ名	transformers
ベースモデル	meta-llama/Llama-3.3-70B-Instruct
モデル名	70B-L3.3-mhnnn-x1
ライセンス	llama3.3

トレーニング情報

トレーニング時間: 約14時間（8xH100ノード）
トレーニングデータ:
- Completion - Novels / eBooks
- Text Adventure
- Amoral Assistant
- Instruct / Assistant
- Roleplay

連絡先

https://sao10k.carrd.co/

Axolotl設定

Axolotl設定を表示

Axolotlバージョン: 0.6.0

adapter: lora # 16-bit
lora_r: 64
lora_alpha: 64
lora_dropout: 0.2
peft_use_rslora: true
lora_target_linear: true
  
# データ
dataset_prepared_path: dataset_run_freya
datasets:
# S1 - 書き込み / 完成
  - path: datasets/eBooks-cleaned-75K
    type: completion
  - path: datasets/novels-clean-dedupe-10K
    type: completion
# S2 - 指示
  - path: datasets/10k-amoral-full-fixed-sys.json
    type: chat_template
    chat_template: llama3
    roles_to_train: ["gpt"]
    field_messages: conversations
    message_field_role: from
    message_field_content: value
    train_on_eos: turn
  - path: datasets/44k-hespera-smartshuffle.json
    type: chat_template
    chat_template: llama3
    roles_to_train: ["gpt"]
    field_messages: conversations
    message_field_role: from
    message_field_content: value
    train_on_eos: turn
  - path: datasets/5k_rpg_adventure_instruct-sys.json
    type: chat_template
    chat_template: llama3
    roles_to_train: ["gpt"]
    field_messages: conversations
    message_field_role: from
    message_field_content: value
    train_on_eos: turn
shuffle_merged_datasets: true
warmup_ratio: 0.1

plugins:
  - axolotl.integrations.liger.LigerPlugin
liger_rope: true
liger_rms_norm: true
liger_layer_norm: true
liger_glu_activation: true
liger_fused_linear_cross_entropy: true

# 反復
num_epochs: 1

# サンプリング
sample_packing: true
pad_to_sequence_len: true
train_on_inputs: false
group_by_length: false

# バッチング
gradient_accumulation_steps: 4
micro_batch_size: 2
gradient_checkpointing: unsloth

# 評価
val_set_size: 0.025
evals_per_epoch: 5
eval_table_size:
eval_max_new_tokens: 256
eval_sample_packing: false
eval_batch_size: 1

# オプティマイザ
optimizer: paged_ademamix_8bit
lr_scheduler: cosine
learning_rate: 0.00000242
weight_decay: 0.2
max_grad_norm: 10.0

# ガベージコレクション
gc_steps: 10

# その他
deepspeed: ./deepspeed_configs/zero3_bf16.json