Opencodeinterpreter DS 33B GGUF

🚀 OpenCodeInterpreter: コード生成、実行、改良を統合

OpenCodeInterpreterは、大規模言語モデルとGPT - 4 Code Interpreterのような高度な独自システムとのギャップを埋めるために設計されたオープンソースのコード生成システム群です。実行機能と反復的な改良機能を統合することで、コード生成能力を大幅に向上させています。

[🏠ホームページ] | [🛠️コード]

🚀 クイックスタート

OpenCodeInterpreterについての詳細情報や関連研究は、arXivに公開されている当社の論文「OpenCodeInterpreter: A System for Enhanced Code Generation and Execution」(https://arxiv.org/abs/2402.14658) を参照してください。

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_path="OpenCodeInterpreter-DS-33B"

tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
model.eval()

prompt = "Write a function to find the shared elements from the given two lists."
inputs = tokenizer.apply_chat_template(
        [{'role': 'user', 'content': prompt }],
        return_tensors="pt"
    ).to(model.device)
outputs = model.generate(
    inputs, 
    max_new_tokens=1024,
    do_sample=False,
    pad_token_id=tokenizer.eos_token_id,
    eos_token_id=tokenizer.eos_token_id,
)
print(tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True))

お問い合わせ

何かご質問があれば、issueを立てるか、メールでお問い合わせください。メールアドレスは xiangyue.work@gmail.com または zhengtianyu0428@gmail.com です。お手伝いいたします！