Llamaestra 3.2 1B Translation GGUF

🚀 puettmann/LlaMaestra-3.2-1B-Translation - GGUF

本項目提供了 puettmann/LlaMaestra-3.2-1B-Translation 模型的 GGUF 格式文件。這些文件由 TensorBlock 提供的機器進行量化，並且與 commit b4823 版本的 llama.cpp 兼容。

🚀 快速開始

本項目涵蓋了模型的下載、使用等相關內容，下面將為你詳細介紹。

✨ 主要特性

• 多語言支持：支持英語（en）和意大利語（it）。
• 功能豐富：可用於翻譯、文本生成等任務。
• 多種量化格式：提供了多種不同量化類型的模型文件，以滿足不同場景的需求。

📦 安裝指南

命令行方式

首先，安裝 Huggingface 客戶端：

pip install -U "huggingface_hub[cli]"

然後，將單個模型文件下載到本地目錄：

huggingface-cli download tensorblock/LlaMaestra-3.2-1B-Translation-GGUF --include "LlaMaestra-3.2-1B-Translation-Q2_K.gguf" --local-dir MY_LOCAL_DIR

如果你想按模式下載多個模型文件（例如，*Q4_K*gguf），可以嘗試以下命令：

huggingface-cli download tensorblock/LlaMaestra-3.2-1B-Translation-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📚 詳細文檔

項目相關信息

其他項目

項目名稱	項目詳情
Awesome MCP Servers	一個全面的模型上下文協議（MCP）服務器集合。 👀 查看項目 👀
TensorBlock Studio	一個輕量級、開放且可擴展的多大語言模型交互工作室。 👀 查看項目 👀

提示模板

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

Cutting Knowledge Date: December 2023
Today Date: 06 Mar 2025

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{prompt}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

模型文件規格

📄 許可證

本項目使用 llama3.2 許可證。