M

Mistral 7B Instruct V0.3 GPTQ 8b

由cortecs開發
由IST奧地利開發的Mistral-7B-Instruct-v0.3量化模型,採用GPTQ技術進行8位量化,適用於多語言文本生成任務。
下載量 15
發布時間 : 6/1/2024

模型概述

該模型是基於Mistral-7B-Instruct-v0.3的8位量化版本,支持英語、法語、德語、意大利語和西班牙語等多種語言的文本生成任務。

模型特點

8位量化
採用GPTQ技術進行8位量化,減少模型大小和計算資源需求,同時保持較高的性能。
多語言支持
支持英語、法語、德語、意大利語和西班牙語等多種語言的文本生成任務。
高性能推理
在多種語言任務中表現優異,推理速度快,適用於即時應用場景。

模型能力

文本生成
多語言支持
指令遵循

使用案例

自然語言處理
多語言文本生成
生成英語、法語、德語、意大利語和西班牙語等多種語言的文本。
在多種語言任務中表現優異,接近原版模型的性能。
指令遵循
根據用戶指令生成符合要求的文本內容。
在安全性評估中表現良好,毒性提示檢測準確率高。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase