Hyperion 2.0 Mistral 7B

🚀 Hyperion-2.0-Mistral-7B

Hyperion-2.0-Mistral-7Bは、科学分野の高度な推論を目的としてHyperion-v2.0データセットで微調整された最先端の言語モデルです。複雑な質問や指示に対応でき、多様な科学分野のタスクを処理できます。

📚 詳細なドキュメント

🔍 モデルの詳細

📖 モデルの説明

Locutusque/Hyperion-2.0-Mistral-7B は、科学分野全体の高度な推論のためにHyperion-v2.0データセットで微調整された最先端の言語モデルです。このモデルは、Hyperionデータセットに含まれる多様で豊富な情報を活用して、複雑な問い合わせや指示を処理するように設計されています。主な使用例には、複雑な質問応答、会話理解、コード生成、医療テキスト理解、数学的推論、および論理的推論が含まれますが、これらに限定されません。

🎯 想定される用途

このモデルは、科学分野の難しい問題に取り組むための強力なツールを求める研究者や実践者を対象としています。以下のシナリオで使用できます。

• 科学、医学、数学、コンピュータサイエンスのAI駆動型チュータリングシステム。
• ドメイン固有の情報を迅速かつ正確に取得する必要がある専門家向けの支援ツール。
• 技術的および科学的推論に重点を置いた会話型AI機能を必要とするプラットフォーム。
• コード生成の自動化と複雑なプログラミングコンテキストの理解。

📊 学習データ

Locutusque/Hyperion-2.0-Mistral-7B モデルは、Hyperion-v2.0データセットの750,000の例で微調整されました。このデータセットは、プログラミング、医療テキスト、数学問題、および推論タスクを含む多様で複雑なさまざまなデータセットを統合しています。

📈 評価結果

0-shot AGIEval

グループ別

5-shot AGIEvalは近日公開予定です。

🔗 Quants

• ExLlamaV2: https://huggingface.co/bartowski/Hyperion-2.0-Mistral-7B-exl2
• GGUF: https://huggingface.co/bartowski/Hyperion-2.0-Mistral-7B-GGUF
• AWQ: https://huggingface.co/solidrust/Hyperion-2.0-Mistral-7B-AWQ

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Locutusque/Hyperion-1.5-Mistral-7B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# For a text generation task
input_text = "<|im_start|>user\nWhat are the implications of Einstein's theory of relativity in modern physics?<|im_end|>\n<|im_start|>assistant\n"
input_ids = tokenizer.encode(input_text, return_tensors="pt")

# Generate a response
outputs = model.generate(input_ids, max_length=200, num_return_sequences=1, temperature=0.8, top_p=0.95, top_k=40, repetition_penalty=1.1)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

⚠️ 既知の制限事項

データセットの多様性により、データのフォーマットやアノテーションの品質の違いに起因するモデルの応答の不一致が発生する可能性があります。

このモデルは非常に柔軟で、あらゆる要求に応答します。エンタープライズレベルのデプロイメントで使用する予定の場合は、必ずDPOを使用してこのモデルを拡張してください。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で公開されています。