Sanskrit Qwen 7B Translate GGUF

🚀 Sanskrit-qwen-7B-Translate-GGUF

このプロジェクトは、Sanskrit-qwen-7B-TranslateモデルのGGUF形式の量子化バージョンを提供し、サンスクリット語の翻訳に役立ちます。

🚀 クイックスタート

このモデルは、サンスクリット語の翻訳に特化したSanskrit-qwen-7B-Translateの量子化バージョンです。以下のセクションで、モデルの詳細、使用方法、提供される量子化バージョンなどについて説明します。

📚 ドキュメント

概要

• ベースモデル: diabolic6045/Sanskrit-qwen-7B-Translate
• データセット: diabolic6045/Sanskrit-llama
• 言語: en
• ライブラリ名: transformers
• ライセンス: apache-2.0
• 量子化担当者: mradermacher
• タグ: sanskrit, translation, qwen, axolotl

モデルについて

https://huggingface.co/diabolic6045/Sanskrit-qwen-7B-Translate の静的量子化バージョンです。

現時点では、重み付き/イマトリックス量子化は利用できない可能性があります。静的量子化バージョンが公開されてから約1週間後にまだ表示されない場合、私はそれらを計画していない可能性があります。コミュニティディスカッションを開いてリクエストすることができます。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADMEを参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

提供される量子化バージョン

（サイズでソートされており、必ずしも品質を反映しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによるいくつかの低品質量子化タイプを比較した便利なグラフです（値が低いほど良い）:

また、Artefact2によるこの問題に関する考え方はこちらです: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社であるnethype GmbHに感謝します。彼らは私にサーバーを使用させ、私のワークステーションをアップグレードして、私が自由時間にこの作業を行えるようにしてくれました。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で提供されています。