Midnight Miqu 103B V1.5

🚀 Midnight-Miqu-103B-v1.5

このモデルは、sophosympatheia/Midnight-Miqu-70B-v1.5 を自身と結合した103Bのモデルです。詳細と使用方法については、そのモデルカードを参照してください。このモデルはMiquに基づいているため、32Kのコンテキストを扱うことができます。

🚀 クイックスタート

このモデルの概要や使用方法については、以下の情報を参考にしてください。

概要

これは、sophosympatheia/Midnight-Miqu-70B-v1.5 を自身と結合した103Bのモデルです。詳細と使用方法については、そのモデルカードを参照してください。このモデルはMiquに基づいているため、32Kのコンテキストを扱うことができます。

量子化

• GGUF
  • GGUF-mradermacher
  • GGUF-i1-mradermacher
• EXL2
  • 2.4bpw-LoneStriker
  • 2.5bpw-rpcal
  • 3.0bpw-LoneStriker
  • 3.0bpw-rpcal
  • 3.5bpw-LoneStriker
  • 3.5bpw-rpcal
  • 4.0bpw-rpcal
  • 5.0bpw-LoneStriker
  • 5.0bpw-rpcal

ライセンスと使用制限

152334H/miqu-1-70b-sf は、Mistralのモデルの漏洩バージョンに基づいています。 このマージを含むすべてのmiqu派生モデルは、個人使用にのみ適しています。Mistralはこれまで寛容でしたが、このマージをダウンロードすることで、漏洩した重みに基づくモデルを取得および使用する際に内在する法的リスクを負うことを承知しておく必要があります。 このマージには、いかなる保証も付属していませんが、おそらくあなたはすでにそれを知っているでしょう。 私は弁護士ではなく、ここで何をしているのかを知っているとは主張しません。個人使用以外でHugging Faceのモデルを使用する前には、弁護士に相談する必要があります... ただし、このモデルは絶対にその用途には使用しないでください！

🔧 技術詳細

マージ方法

このモデルは、パススルーマージ方法を使用してマージされました。

マージされたモデル

以下のモデルがマージに含まれています。

• sophosympatheia/Midnight-Miqu-70B-v1.5

設定

このモデルを作成するために、以下のYAML設定が使用されました。

slices:
  - sources:
      - model: sophosympatheiaMidnight-Miqu-70B-v1.5
        layer_range: [0, 40] # 40
  - sources:
      - model: sophosympatheiaMidnight-Miqu-70B-v1.5
        layer_range: [20, 60] # 40
  - sources:
      - model: sophosympatheiaMidnight-Miqu-70B-v1.5
        layer_range: [40, 80] # 40
merge_method: passthrough
dtype: float16

情報テーブル

重要提示

⚠️ 重要提示

152334H/miqu-1-70b-sf は、Mistralのモデルの漏洩バージョンに基づいています。このマージを含むすべてのmiqu派生モデルは、個人使用にのみ適しています。モデルをダウンロードすることで、漏洩した重みに基づくモデルを取得および使用する際に内在する法的リスクを負うことになります。個人使用以外でHugging Faceのモデルを使用する前には、弁護士に相談することをおすすめします。

💡 使用建议

このモデルは個人使用にのみ適しています。商用やその他の目的で使用する場合は、法的なアドバイスを受けることを強くおすすめします。