Towerinstruct 7B V0.2 GGUF

🚀 TowerInstruct 7B v0.2

TowerInstruct 7B v0.2 是一款基於 llama 架構的翻譯模型，支持多種語言，如英語、德語、法語、中文等。該模型由 Unbabel 團隊創建，可用於多種翻譯場景。

📦 安裝指南

原文檔未提供安裝步驟，此章節跳過。

💻 使用示例

原文檔未提供代碼示例，此章節跳過。

📚 詳細文檔

模型信息

<|im_start|>user
{用戶提示}<|im_end|>
<|im_start|>assistant
{模型響應}<|im_end|>
<|im_start|>user
[...]

量化信息

未使用 imatrix，因為不確定它們是否適用於非通用大語言模型。

使用 llama.cpp @ 4c4cb30736582cacb1a164a9d4bc8e17b1014be7（2024 - 02 - 24）進行量化。

IQ3_M 要求最低版本為 4c4cb30736582cacb1a164a9d4bc8e17b1014be7

許可信息

這些 .gguf 文件本身遵循 CC - 0 許可（即公共領域）。

TowerInstruct - 7B - v0.2 本身遵循 CC - BY - NC - 4.0 許可（“CC - BY - NC - 4.0” 中的 “NC” 表示 “非商業”，在法律上存在歧義）。

但它基於 Llama 2 模型，該模型遵循 LLAMA 2 社區許可（版權所有 © Meta Platforms, Inc. 保留所有權利），簡而言之，不得將其用於欺凌、軍事和犯罪活動。

🔧 技術細節

原文檔技術說明未達 50 字，此章節跳過。

📄 許可證

這些 .gguf 文件本身遵循 CC - 0 許可（即公共領域）。

TowerInstruct - 7B - v0.2 本身遵循 CC - BY - NC - 4.0 許可（“CC - BY - NC - 4.0” 中的 “NC” 表示 “非商業”，在法律上存在歧義）。

該模型基於 Llama 2 模型，遵循 LLAMA 2 社區許可（版權所有 © Meta Platforms, Inc. 保留所有權利），不得將其用於欺凌、軍事和犯罪活動。