Piccolo Math 2x7b

🚀 Piccolo-math-2x7b

このモデルは、高品質なコード、数学、論理推論が可能です。思いついた質問を自由に試してみてください。

🚀 クイックスタート

推論と評価のコラボレーションノートはこちらで利用できます。

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

def generate_response(prompt):
    """
    Generate a response from the model based on the input prompt.
    Args:
    prompt (str): Prompt for the model.

    Returns:
    str: The generated response from the model.
    """
    inputs = tokenizer(prompt, return_tensors="pt")
    outputs = model.generate(**inputs, max_new_tokens=256, eos_token_id=tokenizer.eos_token_id, pad_token_id=tokenizer.pad_token_id)

    response = tokenizer.decode(outputs[0], skip_special_tokens=True)

    return response

model_id = "macadeliccc/piccolo-math-2x7b"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id,load_in_4bit=True)

prompt = "What is the best way to train Cane Corsos?"

print("Response:")
print(generate_response(prompt), "\n")

📚 詳細ドキュメント

評価結果

EQベンチマーク

ベンチマーク完了情報

• 2024-01-24 00:00:40
• 所要時間: 183.3分
• プロンプト形式: Mistral
• モデル: macadeliccc/piccolo-math-2x7b
• スコア (v2): 70.74
• 解析可能な値: 167.0

バッチ完了 所要時間: 183.3分

AGIEval

平均: 43.89%

GPT4All

平均: 74.98%

TruthfulQA

平均: 63.96%

Bigbench

平均: 44.99%

平均スコア: 56.96%

経過時間: 01:51:53

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。