模型简介
模型特点
模型能力
使用案例
🚀 Perseus - Doc - vl - 0712模型
Perseus - Doc - vl - 0712是一款视觉语言模型,支持多种语言,适用于文本生成推理、图像字幕生成、光学字符识别等多种任务。它基于特定的数据集进行训练,能为用户在不同场景下提供有效的视觉理解和文本处理能力。
📚 详细文档
模型基本信息
属性 | 详情 |
---|---|
基础模型 | prithivMLmods/Perseus - Doc - vl - 0712 |
数据集 | prithivMLmods/OpenDoc - Pdf - Preview、prithivMLmods/Corvus - OCR - Caption - Mix、prithivMLmods/Openpdf - Analysis - Recognition、prithivMLmods/Opendoc2 - Analysis - Recognition |
支持语言 | 英语、中文 |
库名称 | transformers |
许可证 | apache - 2.0 |
量化者 | mradermacher |
标签 | text - generation - inference、image - captioning、optical - character - recognition、intelligent - character - recognition、caption、ocr、visual - understanding、art、icr、image - to - text、vlm、Doc - v |
关于模型
加权/矩阵量化版本基于https://huggingface.co/prithivMLmods/Perseus - Doc - vl - 0712 。
如需便捷的概览和下载列表,请访问我们的[此模型页面](https://hf.tst.eu/model#Perseus - Doc - vl - 0712 - i1 - GGUF)。
静态量化版本可在https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - GGUF 获取。
这是一个视觉模型 - mmproj文件(如果有)将存于[静态仓库](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - GGUF)中。
使用说明
如果您不确定如何使用GGUF文件,请参考[TheBloke的README](https://huggingface.co/TheBloke/KafkaLM - 70B - German - V0.1 - GGUF)以获取更多详细信息,包括如何拼接多部分文件。
提供的量化版本
(按大小排序,不一定按质量排序。IQ量化通常优于相似大小的非IQ量化)
链接 | 类型 | 大小/GB | 备注 |
---|---|---|---|
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ1_S.gguf) | i1 - IQ1_S | 2.0 | 适用于急需情况 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ1_M.gguf) | i1 - IQ1_M | 2.1 | 大多用于急需情况 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_XXS.gguf) | i1 - IQ2_XXS | 2.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_XS.gguf) | i1 - IQ2_XS | 2.6 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_S.gguf) | i1 - IQ2_S | 2.7 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_M.gguf) | i1 - IQ2_M | 2.9 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q2_K_S.gguf) | i1 - Q2_K_S | 2.9 | 质量非常低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q2_K.gguf) | i1 - Q2_K | 3.1 | IQ3_XXS可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_XXS.gguf) | i1 - IQ3_XXS | 3.2 | 质量较低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_XS.gguf) | i1 - IQ3_XS | 3.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_S.gguf) | i1 - Q3_K_S | 3.6 | IQ3_XS可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_S.gguf) | i1 - IQ3_S | 3.6 | 优于Q3_K* |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_M.gguf) | i1 - IQ3_M | 3.7 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_M.gguf) | i1 - Q3_K_M | 3.9 | IQ3_S可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_L.gguf) | i1 - Q3_K_L | 4.2 | IQ3_M可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ4_XS.gguf) | i1 - IQ4_XS | 4.3 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ4_NL.gguf) | i1 - IQ4_NL | 4.5 | 首选IQ4_XS |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_0.gguf) | i1 - Q4_0 | 4.5 | 速度快,质量低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_K_S.gguf) | i1 - Q4_K_S | 4.6 | 大小/速度/质量最优 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_K_M.gguf) | i1 - Q4_K_M | 4.8 | 速度快,推荐使用 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_1.gguf) | i1 - Q4_1 | 5.0 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q5_K_S.gguf) | i1 - Q5_K_S | 5.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q5_K_M.gguf) | i1 - Q5_K_M | 5.5 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q6_K.gguf) | i1 - Q6_K | 6.4 | 实际上与静态Q6_K类似 |
以下是ikawrakow制作的一个实用图表,比较了一些低质量量化类型(数值越低越好):
以下是Artefact2对此事的看法: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9
常见问题解答/模型请求
如需了解您可能遇到的问题的答案,或希望对其他模型进行量化,请访问https://huggingface.co/mradermacher/model_requests 。
📄 许可证
本模型使用的许可证为apache - 2.0。
🙏 致谢
感谢我的公司nethype GmbH,允许我使用其服务器,并对我的工作站进行升级,使我能够在业余时间完成这项工作。此外,感谢@nicoboss让我使用他的私人超级计算机,使我能够提供更多、质量更高的矩阵量化版本。








