Codeninja 1.0 OpenChat 7B

🚀 CodeNinja: 高度なコーディングアシスタント

CodeNinjaは、コーダーにとって欠かせないツールです。著名なモデル openchat/openchat-3.5-1210 をベースに、40万を超えるコーディング命令を含む2つの大規模データセットでSupervised Fine Tuningにより微調整されました。日常のコーディング作業にシームレスに統合できるように設計されています。

🚀 クイックスタート

CodeNinjaは、著名なモデル openchat/openchat-3.5-1210 の拡張版です。2つの大規模データセットを用いてSupervised Fine Tuningで微調整され、40万を超えるコーディング命令を含んでいます。コーダーにとって欠かせないツールとして、日常のコーディング作業にシームレスに統合できることを目指しています。

量子化バージョンはこちらで確認できます: beowolx/CodeNinja-1.0-OpenChat-7B-GGUF。

✨ 主な機能

• 大規模な学習データベース：CodeNinjaは、glaiveai/glaive-code-assistant-v2 と TokenBender/code_instructions_122k_alpaca_style のデータセットで学習されており、Python、C、C++、Rust、Java、JavaScriptなど様々な言語の約40万のコーディング命令を含んでいます。
• 柔軟性と拡張性：7Bのモデルサイズで提供され、ローカルのランタイム環境でも使用できます。
• 高度なコード補完：8192の大きなコンテキストウィンドウサイズで、包括的なプロジェクトレベルのコード補完をサポートします。

📚 ドキュメント

プロンプト形式

CodeNinjaはOpenChat 3.5と同じプロンプト構造を維持しています。効果的に使用するには、この形式に従う必要があります。

GPT4 Correct User: Hello<|end_of_turn|>GPT4 Correct Assistant: Hi<|end_of_turn|>GPT4 Correct User: How are you today?<|end_of_turn|>GPT4 Correct Assistant:

⚠️ 重要提示

<|end_of_turn|> を生成終了トークンとして使用することを確認してください。

この形式に従うことが、最適な結果を得るために重要です。

💻 使用例

基本的な使用法

LM Studioを使用する場合

CodeNinjaを使用する最も簡単な方法は、LM Studio で 量子化バージョン を使用することです。必要なプロンプト形式を含む "OpenChat" プリセットを選択してください。このプリセットはこの gist でも利用できます。

Transformersライブラリを使用する場合

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# Initialize the model
model_path = "beowolx/CodeNinja-1.0-OpenChat-7B"
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto")
# Load the OpenChat tokenizer
tokenizer = AutoTokenizer.from_pretrained("openchat/openchat-3.5-1210", use_fast=True)

def generate_one_completion(prompt: str):
    messages = [
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": ""}  # Model response placeholder
    ]

    # Generate token IDs using the chat template
    input_ids = tokenizer.apply_chat_template(messages, add_generation_prompt=True)

    # Produce completion
    generate_ids = model.generate(
        torch.tensor([input_ids]).to("cuda"),
        max_length=256,
        pad_token_id=tokenizer.pad_token_id,
        eos_token_id=tokenizer.eos_token_id
    )

    # Process the completion
    completion = tokenizer.decode(generate_ids[0], skip_special_tokens=True)
    completion = completion.split("\n\n\n")[0].strip()

    return completion

📄 ライセンス

CodeNinjaはMITライセンスの下でライセンスされており、モデルの使用はモデルライセンスに従います。

🔧 お問い合わせ

質問やサポートが必要な場合は、リポジトリでissueを開いてください。

情報テーブル

| 属性 | 详情 |
|------|------|
| パイプラインタグ | テキスト生成 |
| タグ | コード、テキスト生成推論 |
| 評価指標 | code_eval |
| 学習データセット | glaiveai/glaive-code-assistant-v2、TokenBender/code_instructions_122k_alpaca_style |