salamandra-2b-instruct-GGUFオープンソースモデル - 30種類以上の言語をサポートするテキスト生成の利器

ホーム

Salamandra 2b Instruct GGUF

tensorblockによって開発

GGUF形式に基づく2Bパラメータの多言語命令ファインチューニングモデルで、30以上の言語をサポートし、テキスト生成タスクに適しています。

大規模言語モデル

Transformers

オープンソースライセンス:Apache-2.0 #多言語命令ファインチューニング #軽量GGUF量子化 #欧州法律テキスト最適化

ダウンロード数 120

リリース時間 : 2/15/2025

モデル概要

BSC-LTによって開発された2Bパラメータ規模の多言語命令ファインチューニングモデルで、さまざまな量子化バージョンを提供し、軽量テキスト生成アプリケーションに適しています。

モデル特徴

多言語サポート

30以上の欧州言語とコード生成をサポート

軽量量子化

Q2_KからQ8_0までの12種類の量子化バージョンを提供し、さまざまなハードウェア要件に対応

命令ファインチューニング

命令ファインチューニングにより最適化され、会話やタスク実行に適しています

モデル能力

多言語テキスト生成

コード生成

命令理解と実行

対話インタラクション

使用事例

多言語アプリケーション

欧州言語翻訳支援

サポートされている言語間でテキスト変換を行う

教育

プログラミング教育アシスタント

コードスニペットを説明し、教育用サンプルを生成する

🚀 BSC-LT/salamandra-2b-instruct - GGUF

このリポジトリには、BSC-LT/salamandra-2b-instruct のGGUF形式のモデルファイルが含まれています。

これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b4658 以降の llama.cpp と互換性があります。

🔍 基本情報

属性	详情
ライセンス	Apache-2.0
ライブラリ名	transformers
パイプラインタグ	テキスト生成
言語	bg, ca, code, cs, cy, da, de, el, en, es, et, eu, fi, fr, ga, gl, hr, hu, it, lt, lv, mt, nl, nn, \no, oc, pl, pt, ro, ru, sh, sk, sl, sr, sv, uk
データセット	oscar-corpus/colossal-oscar-1.0, HuggingFaceFW/fineweb-edu, joelniklaus/eurlex_resources, joelito/legal-mc4, projecte-aina/CATalog, UFRGS/brwac, community-datasets/hrwac, danish-foundation-models/danish-gigaword, HiTZ/euscrawl, PleIAs/French-PD-Newspapers, PleIAs/French-PD-Books, AI-team-UoA/greek_legal_code, HiTZ/latxa-corpus-v1.1, allenai/peS2o, pile-of-law/pile-of-law, PORTULAN/parlamento-pt, hoskinson-center/proof-pile, togethercomputer/RedPajama-Data-1T, bigcode/starcoderdata, bjoernp/tagesschau-2018-2023, EleutherAI/the_pile_deduplicated
ベースモデル	BSC-LT/salamandra-2b-instruct
タグ	TensorBlock, GGUF

🖼️ 画像

📞 フィードバックとサポート

フィードバックとサポートについては、TensorBlockの Twitter/X、Telegramグループ、Discordサーバーをご利用ください。

✨ 主な機能

Awesome MCP Servers	TensorBlock Studio

モデルコンテキストプロトコル（MCP）サーバーの包括的なコレクション。	軽量でオープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👉 成果を見る 👉	👉 成果を見る 👉

📚 詳細ドキュメント

💬 プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

📄 モデルファイル仕様

ファイル名	量子化タイプ	ファイルサイズ	説明
salamandra-2b-instruct-Q2_K.gguf	Q2_K	1.087 GB	最も小さいが、品質が著しく低下 - ほとんどの目的には推奨されない
salamandra-2b-instruct-Q3_K_S.gguf	Q3_K_S	1.215 GB	非常に小さいが、品質が大きく低下
salamandra-2b-instruct-Q3_K_M.gguf	Q3_K_M	1.277 GB	非常に小さいが、品質が大きく低下
salamandra-2b-instruct-Q3_K_L.gguf	Q3_K_L	1.317 GB	小さいが、品質が大幅に低下
salamandra-2b-instruct-Q4_0.gguf	Q4_0	1.410 GB	レガシー; 小さいが、品質が非常に大きく低下 - Q3_K_M を使用することを推奨
salamandra-2b-instruct-Q4_K_S.gguf	Q4_K_S	1.447 GB	小さいが、品質が大きく低下
salamandra-2b-instruct-Q4_K_M.gguf	Q4_K_M	1.506 GB	中程度で、品質がバランス - 推奨
salamandra-2b-instruct-Q5_0.gguf	Q5_0	1.626 GB	レガシー; 中程度で、品質がバランス - Q4_K_M を使用することを推奨
salamandra-2b-instruct-Q5_K_S.gguf	Q5_K_S	1.642 GB	大きいが、品質の低下が少ない - 推奨
salamandra-2b-instruct-Q5_K_M.gguf	Q5_K_M	1.691 GB	大きいが、品質の低下が非常に少ない - 推奨
salamandra-2b-instruct-Q6_K.gguf	Q6_K	1.920 GB	非常に大きいが、品質の低下が極めて少ない
salamandra-2b-instruct-Q8_0.gguf	Q8_0	2.401 GB	非常に大きいが、品質の低下が極めて少ない - 推奨されない

📦 インストール

コマンドラインでのダウンロード

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/salamandra-2b-instruct-GGUF --include "salamandra-2b-instruct-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は、以下のコマンドを試してみてください。

huggingface-cli download tensorblock/salamandra-2b-instruct-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

uer

2,694

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご