Pandora 13B V1

🚀 Pandora-v1-13Bモデル

このモデルは評価用のみのモデルファイルです。以下のモデルを使用してください。

• モデル: Pandora-v1-13B
• GGUF: Pandora-v1-13B-GGUF

Jan - Discord

✨ 主な機能

このモデルは、OpenLLM Leaderboard の上位7Bモデルを passthrough マージ方法でマージしたものです。

1. viethq188/LeoScorpius-7B-Chat-DPO
2. GreenNode/GreenNodeLM-7B-v1olet

このモデルのyaml設定ファイルは以下の通りです。

slices:
  - sources:
    - model: "viethq188/LeoScorpius-7B-Chat-DPO"
      layer_range: [0, 24]
  - sources:
    - model: "GreenNode/GreenNodeLM-7B-v1olet"
      layer_range: [8, 32]
merge_method: passthrough
dtype: bfloat16

📚 ドキュメント

プロンプトテンプレート

• ChatML

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

このモデルの実行方法

このモデルは Jan を使用して、Mac、Windows、またはLinuxで実行できます。

JanはオープンソースのChatGPT代替品で、以下の特徴があります。

💻 マシン上で100%オフライン：会話内容は機密性が保たれ、あなただけが閲覧できます。

🗂️ オープンファイル形式：会話とモデル設定はあなたのコンピュータに保存され、いつでもエクスポートまたは削除できます。

🌐 OpenAI互換：ポート 1337 のローカルサーバーでOpenAI互換のエンドポイントを提供します。

🌍 オープンソース＆無料：公開開発を行っています。Github をご覧ください。

• Janで使用する場合は、Pandora-v1-13B-GGUF を使用してください。

Janについて

Janは、オープンソースのAIエコシステムの必要性を信じ、オープンソースAIが独占的なAIと同等の条件で競争できるインフラとツールを構築しています。

Janの長期的なビジョンは、日常の生活やビジネスで人間に役立つ実用的なアシスタントである未来のロボットのための認知フレームワークを構築することです。

Janモデルマージャー

これはモデルをマージするためのテストプロジェクトです。

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

謝辞

• mergekit
• DARE
• SLERP
• lm-evaluation-harness

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で公開されています。