Llama 4 Scout 17B 16E Instruct GGUF

🚀 Llama-4-Scout-17B-16E-Instruct-GGUF

Llama-4-Scout-17B-16E-Instruct-GGUF是一款經過量化處理的模型，它基於原始的Llama-4-Scout-17B-16E-Instruct模型，能支持多種語言，可通過Gaianet便捷運行。

🚀 快速開始

你可以按照以下鏈接的指引快速開啟模型的使用：

• 快速入門：Quick start
• 自定義節點：Customize your node

✨ 主要特性

• 多語言支持：支持阿拉伯語（ar）、德語（de）、英語（en）、西班牙語（es）、法語（fr）、印地語（hi）、印尼語（id）、意大利語（it）、葡萄牙語（pt）、泰語（th）、他加祿語（tl）、越南語（vi）等多種語言。
• 特定模板與上下文大小：使用llama-4-chat作為提示模板，聊天上下文大小為10M。

📚 詳細文檔

原始模型

該量化模型基於原始的 unsloth/Llama-4-Scout-17B-16E-Instruct 模型。

運行信息

提示模板

提示模板採用：llama-4-chat

上下文大小

聊天上下文大小設定為：10M

運行方式

可通過Gaianet運行該模型，具體指引如下：

• 快速入門：https://docs.gaianet.ai/node-guide/quick-start
• 自定義節點：https://docs.gaianet.ai/node-guide/customize

量化信息

此模型使用llama.cpp b5074進行量化。

📄 許可證

• 許可證類型：other
• 許可證名稱：llama4

📦 模型信息