模型概述
模型特點
模型能力
使用案例
🚀 Perseus - Doc - vl - 0712模型
Perseus - Doc - vl - 0712是一款視覺語言模型,支持多種語言,適用於文本生成推理、圖像字幕生成、光學字符識別等多種任務。它基於特定的數據集進行訓練,能為用戶在不同場景下提供有效的視覺理解和文本處理能力。
📚 詳細文檔
模型基本信息
屬性 | 詳情 |
---|---|
基礎模型 | prithivMLmods/Perseus - Doc - vl - 0712 |
數據集 | prithivMLmods/OpenDoc - Pdf - Preview、prithivMLmods/Corvus - OCR - Caption - Mix、prithivMLmods/Openpdf - Analysis - Recognition、prithivMLmods/Opendoc2 - Analysis - Recognition |
支持語言 | 英語、中文 |
庫名稱 | transformers |
許可證 | apache - 2.0 |
量化者 | mradermacher |
標籤 | text - generation - inference、image - captioning、optical - character - recognition、intelligent - character - recognition、caption、ocr、visual - understanding、art、icr、image - to - text、vlm、Doc - v |
關於模型
加權/矩陣量化版本基於https://huggingface.co/prithivMLmods/Perseus - Doc - vl - 0712 。
如需便捷的概覽和下載列表,請訪問我們的[此模型頁面](https://hf.tst.eu/model#Perseus - Doc - vl - 0712 - i1 - GGUF)。
靜態量化版本可在https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - GGUF 獲取。
這是一個視覺模型 - mmproj文件(如果有)將存於[靜態倉庫](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - GGUF)中。
使用說明
如果您不確定如何使用GGUF文件,請參考[TheBloke的README](https://huggingface.co/TheBloke/KafkaLM - 70B - German - V0.1 - GGUF)以獲取更多詳細信息,包括如何拼接多部分文件。
提供的量化版本
(按大小排序,不一定按質量排序。IQ量化通常優於相似大小的非IQ量化)
鏈接 | 類型 | 大小/GB | 備註 |
---|---|---|---|
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ1_S.gguf) | i1 - IQ1_S | 2.0 | 適用於急需情況 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ1_M.gguf) | i1 - IQ1_M | 2.1 | 大多用於急需情況 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_XXS.gguf) | i1 - IQ2_XXS | 2.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_XS.gguf) | i1 - IQ2_XS | 2.6 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_S.gguf) | i1 - IQ2_S | 2.7 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ2_M.gguf) | i1 - IQ2_M | 2.9 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q2_K_S.gguf) | i1 - Q2_K_S | 2.9 | 質量非常低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q2_K.gguf) | i1 - Q2_K | 3.1 | IQ3_XXS可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_XXS.gguf) | i1 - IQ3_XXS | 3.2 | 質量較低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_XS.gguf) | i1 - IQ3_XS | 3.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_S.gguf) | i1 - Q3_K_S | 3.6 | IQ3_XS可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_S.gguf) | i1 - IQ3_S | 3.6 | 優於Q3_K* |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ3_M.gguf) | i1 - IQ3_M | 3.7 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_M.gguf) | i1 - Q3_K_M | 3.9 | IQ3_S可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q3_K_L.gguf) | i1 - Q3_K_L | 4.2 | IQ3_M可能更好 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ4_XS.gguf) | i1 - IQ4_XS | 4.3 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - IQ4_NL.gguf) | i1 - IQ4_NL | 4.5 | 首選IQ4_XS |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_0.gguf) | i1 - Q4_0 | 4.5 | 速度快,質量低 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_K_S.gguf) | i1 - Q4_K_S | 4.6 | 大小/速度/質量最優 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_K_M.gguf) | i1 - Q4_K_M | 4.8 | 速度快,推薦使用 |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q4_1.gguf) | i1 - Q4_1 | 5.0 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q5_K_S.gguf) | i1 - Q5_K_S | 5.4 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q5_K_M.gguf) | i1 - Q5_K_M | 5.5 | |
[GGUF](https://huggingface.co/mradermacher/Perseus - Doc - vl - 0712 - i1 - GGUF/resolve/main/Perseus - Doc - vl - 0712.i1 - Q6_K.gguf) | i1 - Q6_K | 6.4 | 實際上與靜態Q6_K類似 |
以下是ikawrakow製作的一個實用圖表,比較了一些低質量量化類型(數值越低越好):
以下是Artefact2對此事的看法: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9
常見問題解答/模型請求
如需瞭解您可能遇到的問題的答案,或希望對其他模型進行量化,請訪問https://huggingface.co/mradermacher/model_requests 。
📄 許可證
本模型使用的許可證為apache - 2.0。
🙏 致謝
感謝我的公司nethype GmbH,允許我使用其服務器,並對我的工作站進行升級,使我能夠在業餘時間完成這項工作。此外,感謝@nicoboss讓我使用他的私人超級計算機,使我能夠提供更多、質量更高的矩陣量化版本。








