Omost Phi 3 Mini 128k 8bits
O
Omost Phi 3 Mini 128k 8bits
Developed by lllyasviel
Omost 的 phi-3-mini 模型,具有 128k 上下文長度,採用 fp8 精度。
Downloads 47
Release Time : 5/29/2024
Model Overview
該模型是基於 phi-3-mini 架構的輕量級語言模型,支持長文本處理(128k 上下文),並採用 fp8 精度優化計算效率。
Model Features
超長上下文支持
支持 128k tokens 的上下文長度,適合處理長文檔和複雜對話場景
fp8 精度優化
採用 fp8 精度計算,在保持模型性能的同時提升計算效率
輕量級設計
基於 phi-3-mini 架構的輕量級模型,適合資源受限環境部署
Model Capabilities
文本生成
文本理解
長文檔處理
對話系統
Use Cases
內容生成
長篇文章生成
利用 128k 上下文能力生成連貫的長篇內容
保持長文本的上下文一致性
對話系統
複雜對話處理
處理多輪複雜對話場景
準確理解長對話上下文
Featured Recommended AI Models
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers Supports Multiple Languages

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers English

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 Chinese
R
uer
2,694
98