🚀 mtsdurica/madlad400-3b-mt-Q8_0-GGUF
このモデルは、jbochi/madlad400-3b-mt
から、ggml.ai の GGUF-my-repo を通じて llama.cpp を使用して GGUF 形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。
🚀 クイックスタート
📦 インストール
llama.cpp を brew を通じてインストールします(Mac と Linux で動作します)。
brew install llama.cpp
💻 使用例
基本的な使用法
CLI:
llama-cli --hf-repo mtsdurica/madlad400-3b-mt-Q8_0-GGUF --hf-file madlad400-3b-mt-q8_0.gguf -p "The meaning to life and the universe is"
Server:
llama-server --hf-repo mtsdurica/madlad400-3b-mt-Q8_0-GGUF --hf-file madlad400-3b-mt-q8_0.gguf -c 2048
高度な使用法
以下の手順に従って、Llama.cpp リポジトリに記載されている 使用手順 を直接使用することもできます。
Step 1: GitHub から llama.cpp をクローンします。
git clone https://github.com/ggerganov/llama.cpp
Step 2: llama.cpp フォルダに移動し、LLAMA_CURL=1
フラグと他のハードウェア固有のフラグ(例: Linux の Nvidia GPU の場合は LLAMA_CUDA=1)でビルドします。
cd llama.cpp && LLAMA_CURL=1 make
Step 3: メインバイナリを通じて推論を実行します。
./llama-cli --hf-repo mtsdurica/madlad400-3b-mt-Q8_0-GGUF --hf-file madlad400-3b-mt-q8_0.gguf -p "The meaning to life and the universe is"
または
./llama-server --hf-repo mtsdurica/madlad400-3b-mt-Q8_0-GGUF --hf-file madlad400-3b-mt-q8_0.gguf -c 2048
📚 ドキュメント
属性 |
详情 |
ベースモデル |
jbochi/madlad400-3b-mt |
データセット |
allenai/MADLAD-400 |
言語 |
多言語、英語、ロシア語、スペイン語、フランス語、ドイツ語、イタリア語、ポルトガル語、ポーランド語、オランダ語、ベトナム語、トルコ語、スウェーデン語、インドネシア語、ルーマニア語、チェコ語、中国語、ハンガリー語、日本語、タイ語、フィンランド語、ペルシア語、ウクライナ語、デンマーク語、ギリシャ語、ノルウェー語、ブルガリア語、スロバキア語、韓国語、アラビア語、リトアニア語、カタルーニャ語、スロベニア語、ヘブライ語、エストニア語、ラトビア語、ヒンディー語、アルバニア語、マレー語、アゼルバイジャン語、セルビア語、タミル語、クロアチア語、カザフ語、アイスランド語、マラヤーラム語、マラーティー語、テルグ語、アフリカーンス語、ガリシア語、フィリピン語、ベラルーシ語、マケドニア語、バスク語、ベンガル語、ジョージア語、モンゴル語、ボスニア語、ウズベク語、ウルドゥー語、スワヒリ語、広東語、ネパール語、カンナダ語、カラカルパク語、グジャラート語、シンハラ語、ウェールズ語、エスペラント語、ラテン語、アルメニア語、キルギス語、タジク語、アイルランド語、マルタ語、ミャンマー語、クメール語、タタール語、ソマリ語、クルド語、パシュトー語、パンジャーブ語、ルワンダ語、ラオス語、ハウサ語、ディベヒ語、フリジア語、ルクセンブルク語、ケルディアン・クルド語、マダガスカル語、スコットランド・ゲール語、アムハラ語、ウイグル語、ハイチ語、古代ギリシャ語、モン語、サンスクリット語、ジャワ語、マオリ語、トルクメン語、セブ語、イディッシュ語、バシキール語、フェロー語、オリヤー語、コサ語、スンダ語、グリーンランド語、ニャンジャ語、サモア語、ショナ語、コルシカ語、ズールー語、イボ語、ヨルバ語、パピアメントゥー語、ソト語、ハワイ語、アッサム語、オック語、チュヴァシ語、ルシャイ語、テトゥン語、スイス・ドイツ語、サハ語、ブルトン語、ラテン・ロマンス語、サンスクリット語、チベット語、オロモ語、サーミ語、チェチェン語、中国語(台湾)、イロカノ語、ヒリガイノ語、ウドムルト語、オセット語、ガンダ語、ティグリニャ語、ヴェネツィア語、ツァンビア語、トゥヴァ語、カバルダ語、エヴェ語、イバン語、アヴァル語、カシミール語、トンガ語、ツワナ語、ペディ語、フィジー語、ザザ語、アカン語、アダンガ語、オトミ語、ブータン語、ブアン語、中央フランク語、リンガラ語、チュヴァシ語、グアラニ語、カラチャイ語、ワロン語、ヒンディー語(フィリピン)、ユカテック・マヤ語、スリナム・クレオール語、ワラヤ語、ロマンシュ語、ビコール語、パンパンガ語、サンゴ語、ルバ語、アディゲ語、カンバ語、シリア語、ラトガリア語、モーリ語、イソ語、カチンガ語、ボージュプリ語、アイマラ語、クミク語、ケチュア語、チャン語、パンガシナン語、ング語、ヴェンダ語、ピンチャ語、ザポテック語、チャチ語、ヒュイチョル語、バハサ・ブルネイ語、トゾルチャン・マヤ語、ティヴ語、カサイ語、ゴム語、ミナンカバウ語、古英語、ネンツ語、バングラデシュ語、ンジ語、ニーノシュク語、ナヴァホ語、非言語的表現、バントゥ語、コミ語、ニューアー語、マンシュール語、アルタイ語、メンデ語、ベン語、フォン語、イヌイット語、アブハズ語、マウンテン・マヤ語、ムン語、トゥバル語、ドヴェ語、クリンゴン語、ホリ語、コーンウォール語、マリ語、メオ語、クリミア・タタール語、マバン語、エンペール語、アチネーズ語、イウム語、ママ語、ギムナスティック語、マイティリー語、クレオール語、ポネペ語、ウブンディ語、フィリピン語(ポンカチャン)、ケチュア語(クチャ)、マンクシャ語、コンゴ語、ブタン語(チャンカ)、アペ語、チャモロ語、ロシア・クレオール語、シャン語、チャン語(チャン)、モルドヴィン語、パパンガ語(パンパンガ)、セトゥ語、ガガウズ語、カタルーニャ語(バレンシア)、クリオール英語、セヘリ語、イビボ語、タバサラン語、ブルシャスキー語、エンキャ語、アチョリ語、クック・アイランド・マオリ語、キンヤルワンダ語、ウォロフ語、ケケチ語、ケチュア語(ブエンビン图)、タブアン語、バトンム語、コスラエ語、ルワンダ語(ルワンダ)、カチンガ・マヤ語、トゥカノ語、ブンガ語、CJK、キリバス語、北フリジア語、トゥルコマン語、ケチュア語(ハンカ)、マカサル語、マプチェ語、バリ語、ジヴ語、サハリア語、ヤップ語、タミル語(チャン)、トホーリ語、トゥワナ語、カラカルパク語、アムハラ語、ロマンシュ語(リティコ)、ハウサ語、ニアス語、カンナダ語(ハンカ)、バンダ語、グジャラート語(ハンカ)、マサイ語、アカデミー・フランス語、ディープ・トランスレーション・パイプライン、カンザス語、バジャン語、ディンカ語、ゾンガ語、マダガスカル語、マレー語(インドネシア)、マグヒ語、マカナ語、カメルン語、ラオス語(ハンカ)、チャモロ語、キュエンカ語、マーシャル語、ジブチ語、スーダン語、モーリシャス・クレオール語、スリナム・クレオール語、デュラ語、チャチ語(チャン)、グイネ語、パウアン語、インド・ブーメラン語、ビスラマ語、マニプリ語、グアテマラ語、ジャマイカ語、ワロモ語、ジャカレ語、バスク語、ゴロンシ語、スラヴ語、ニューヨーク語、ノートン語、サンダウ語、グバ語、ノーガイ語、チャモロ語、テオ語、トゥディ語、サン・クリストフォールとネイビス語、リンゴ語、ナンディ語、フランス語(ポルトガル)、アルザス語、タジク語、ローリー語、中央チャディ語、ルンダ語、ジャワ語(ハンカ)、ハバン語、ニジェール語、ドゥル語、イズズ語、マスマ語、ブスシュマン語、クトゥ語、チェロキー語、マザテカ語、トゥルコマン語(ハンカ)、スーザン語、カンナダ語(ハンカ)、ビミニ語、ガリシア語(ハンカ)、バスク語(ハンカ)、トゥルコマン語(ハンカ)、ピサ語、プリュシア語、ラジャスターン語、メラネシア語、クシャ語、ニカラグア語、アハガン語、シャペロン語、ヒンディー語(ハンカ)、スペイン語(ハンカ)、コイバ語、クリミア・タタール語(ハンカ)、ケチュア語(ハンカ)、ルズ語、アグリ語、トゥルコマン語(ハンカ)、マキュア語、ゴフ語、ガンビア語、ミキシャン語、ディェン語、アワディー語、ビジャプル語、ケチュア語(ハンカ)、シュヴァブ語、タタール語(ハンカ)、ラジャスターン語(ハンカ)、カンナダ語(ハンカ)、バスク語(ハンカ)、ケチュア語(ハンカ)、オジブウェ語、イフィ語、メイ語、カシミール語(ハンカ)、カチンガ語(ハンカ)、ブドゥ語、ケチュア語(ハンカ)、シンハラ語(ハンカ)、ジャワ語(ハンカ)、フラン語、ベルベル語、トゥルコマン語(ハンカ)、マラーティー語(ハンカ)、アディ語、サモア語(ハンカ)、セレール語、フラン語(ハンカ)、ケチュア語(ハンカ)、マラヤーラム語(ハンカ)、アンナ語、カラカルパク語(ハンカ)、アファー語、ノートン語(ハンカ)、ヌト語、ギャン語、キワイ語、ザンベジ語、マレー語(ハンカ) |
ライブラリ名 |
transformers |
ライセンス |
apache-2.0 |
パイプラインタグ |
翻訳 |
タグ |
text2text-generation、text-generation-inference、llama-cpp、gguf-my-repo |
📄 ライセンス
このモデルは、Apache 2.0 ライセンスの下で提供されています。