Speechless-llama3.2-v0.1-GGUFオープンソースモデル - 英語やベトナム語を含む多言語処理を無料でサポート

Home

Speechless Llama3.2 V0.1 GGUF

Developed by mradermacher

Menlo/Speechless-llama3.2-v0.1を基にした静的量子化バージョンで、英語とベトナム語の多言語処理をサポートします。

大規模言語モデル Supports Multiple LanguagesOpen Source License:Apache-2.0 #多言語音声テキスト変換 #効率的な量子化モデル #軽量デプロイ

Downloads 193

Release Time : 3/10/2025

Model Overview

これは量子化された言語モデルで、音声テキスト変換タスクに適しており、英語とベトナム語をサポートします。

Model Features

多言語サポート

英語とベトナム語の処理をサポートします。

多様な量子化バージョン

様々な量子化バージョンを提供し、異なるハードウェアと性能要件に対応します。

効率的な推論

量子化最適化により、リソースが限られたデバイスでの動作に適しています。

Model Capabilities

音声テキスト変換

多言語処理

効率的な推論

Use Cases

音声認識

英語音声テキスト変換

英語の音声内容をテキスト形式に変換します。

ベトナム語音声テキスト変換

ベトナム語の音声内容をテキスト形式に変換します。

🚀 Speechless-llama3.2-v0.1 の静的量子化モデル

このプロジェクトは、音声言語モデルに関する静的量子化モデルです。特定のベースモデルを使用し、複数のデータセットで訓練されています。多言語対応で、transformersライブラリを利用しています。

🚀 クイックスタート

基本情報

属性	详情
ベースモデル	Menlo/Speechless-llama3.2-v0.1
データセット	homebrewltd/Ichigo-tokenized-v0.1
対応言語	en、vi
ライブラリ名	transformers
ライセンス	apache-2.0
量子化担当者	mradermacher
タグ	sound language model、audio-text-to-text、torchtune、whisperspeech

概要

https://huggingface.co/Menlo/Speechless-llama3.2-v0.1 の静的量子化モデルです。重み付き/行列量子化は、https://huggingface.co/mradermacher/Speechless-llama3.2-v0.1-i1-GGUF で利用可能です。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADME を参照してください。複数パートのファイルを結合する方法も含め、詳細な情報が記載されています。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ量子化は、同程度のサイズの非IQ量子化よりも優れていることが多いです）

リンク	タイプ	サイズ(GB)	備考
GGUF	Q2_K	0.7
GGUF	Q3_K_S	0.7
GGUF	Q3_K_M	0.8	低品質
GGUF	Q3_K_L	0.8
GGUF	IQ4_XS	0.9
GGUF	Q4_K_S	0.9	高速、推奨
GGUF	Q4_K_M	0.9	高速、推奨
GGUF	Q5_K_S	1.0
GGUF	Q5_K_M	1.0
GGUF	Q6_K	1.1	非常に良い品質
GGUF	Q8_0	1.4	高速、最高品質
GGUF	f16	2.6	16 bpw、過剰