Fluentlylm Prinum GGUF

🚀 fluently-lm/FluentlyLM-Prinum - GGUF

このリポジトリには、fluently-lm/FluentlyLM-Prinum のGGUF形式のモデルファイルが含まれています。 これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b4823 時点の llama.cpp と互換性があります。

✨ 主な機能

対応言語

このモデルは、英語（en）、フランス語（fr）、スペイン語（es）、ロシア語（ru）、中国語（zh）、日本語（ja）、ペルシャ語（fa）などの複数言語に対応しています。

利用可能なデータセット

• fluently-sets/ultraset
• fluently-sets/ultrathink
• fluently-sets/reasoning-1-1k
• fluently-sets/MATH-500-Overall

モデルの評価結果

📦 インストール

コマンドラインでのダウンロード

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/FluentlyLM-Prinum-GGUF --include "FluentlyLM-Prinum-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合（例：*Q4_K*gguf）は、以下のコマンドを試してみてください。

huggingface-cli download tensorblock/FluentlyLM-Prinum-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📚 ドキュメント

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイルの仕様

🏢 当社のプロジェクト

Forge
OpenAI互換のマルチプロバイダルーティングレイヤーです。
🚀 今すぐ試してみましょう！ 🚀
Awesome MCP Servers	TensorBlock Studio
Model Context Protocol (MCP) サーバーの包括的なコレクションです。	軽量で、オープンかつ拡張可能なマルチLLMインタラクションスタジオです。
👀 私たちが構築したものを見てみましょう 👀	👀 私たちが構築したものを見てみましょう 👀

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。