Stablelm Zephyr 3b GGUF

🚀 StableLM Zephyr 3B GGUF

このリポジトリには、Stability AIのStableLM Zephyr 3BのGGUF形式のモデルファイルが含まれています。StableLM Zephyr 3Bは、30億パラメータの命令調整モデルで、HugginFaceH4のZephyr 7Bのトレーニングパイプラインにインスパイアされ、公開されているデータセットと合成データセットを使用してトレーニングされています。

🚀 クイックスタート

このリポジトリには、Stability AIのStableLM Zephyr 3BのGGUF形式のモデルファイルが含まれています。

StableLM Zephyr 3Bは、30億パラメータの命令調整モデルで、HugginFaceH4のZephyr 7Bのトレーニングパイプラインにインスパイアされ、公開されているデータセットと合成データセットを使用してDirect Preference Optimization (DPO)でトレーニングされています。このモデルの評価は、MT BenchとAlpaca Benchmarkに基づいて行われています。

✨ 主な機能

GGUFとは？

GGUFは、AIモデルを表すファイル形式です。2023年8月21日にllama.cppチームによって導入された第3版の形式で、GGMLの代替となります。現在、llama.cppはGGMLをサポートしていません。 変換にはllama.cpp b1960 (26d6076)を使用しています。

プロンプトテンプレート: Zephyr

<|system|>
{{system_message}}<|endoftext|>
<|user|>
{{prompt}}<|endoftext|>
<|assistant|>

📦 インストール

cnvrsを使ったダウンロードと実行（iPhone、iPad、Mac）！

cnvrsは、あなたのデバイスでプライベートなローカルAIを利用するための最高のアプリです。

• カスタムシステムプロンプトと温度設定でキャラクターを作成し、保存できます。
• HuggingFaceで見つけた任意のGGUFモデルをダウンロードし、実験できます。
• カスタムテーマカラーで独自のアプリにカスタマイズできます。
• Metal ⚡️ と Llama.cpp をベースに構築され、応答ストリーミング中にハプティクスが作動します。
• 今日すぐTestflightで試してみてください。
• Twitterでcnvrsをフォローして最新情報を得ましょう。

📚 ドキュメント

オリジナルモデルの評価:

📄 ライセンス

ライセンス: other