Qwen2 Audio 7B GGUF

🚀 Qwen2-Audio

Qwen2-Audio是一款最先进的小型多模态模型（AudioLM），能够处理音频和文本输入，让你无需ASR模块即可进行语音交互。它支持英语、中文和主要欧洲语言，为本地用例提供语音聊天和音频分析功能。

项目特性

• 支持多种语言，包括英语、中文和主要欧洲语言。
• 提供语音聊天和音频分析能力，适用于多种本地用例。
• 可通过Nexa-SDK在边缘设备上本地运行，并提供多种GGUF量化选项。

演示视频

查看更多演示请访问我们的博客

🚀 快速开始

本地设备运行步骤

步骤1：安装Nexa-SDK（本地设备推理框架）

安装Nexa-SDK

Nexa-SDK是一个开源的本地设备推理框架，支持文本生成、图像生成、视觉语言模型（VLM）、音频语言模型、语音转文本（ASR）和文本转语音（TTS）功能。可通过Python包或可执行安装程序进行安装。

步骤2：在终端中运行以下代码

nexa run qwen2audio

这将运行默认的q4_K_M量化。

对于终端操作：

1. 将音频文件拖放到终端中（在Linux上输入文件路径）。
2. 添加文本提示以指导分析，或者留空以直接进行语音输入。

或者使用本地UI（streamlit）：

nexa run qwen2audio -st

为设备选择量化版本

在此处运行不同的量化版本，并在我们的列表中查看RAM要求。

默认的q4_K_M版本需要4.2GB的RAM。

✨ 主要特性

语音聊天

• 回答日常问题
• 提供建议
• 说话人识别与响应
• 语音翻译
• 检测背景噪音并相应响应

音频分析

• 信息提取
• 音频摘要
• 语音转录与扩展
• 混合音频和噪音检测
• 音乐和声音分析

📊 性能基准

结果表明，Qwen2-Audio在所有任务上都显著优于之前的最优模型或Qwen-Audio。

📚 详细文档

查看更多信息请访问我们的博客

🤝 加入社区

Discord | X（Twitter）

📄 许可证

本项目采用Apache-2.0许可证。