Chinese-Alpaca-2-7Bオープンソースモデル - 中国語と英語のバイリンガルをサポートし、対話や指令タスクに適用可能

ホーム

Chinese Alpaca 2 7b

hflによって開発

Chinese-Alpaca-2-7BはLlama-2ベースの中国語コマンドファインチューニングモデルで、中国語と英語をサポートし、対話やコマンドタスクに適しています。

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #中国語コマンドファインチューニング #マルチターン対話最適化 #長文サポート

ダウンロード数 206

リリース時間 : 7/31/2023

モデル概要

これは完全版のChinese-Alpaca-2-7Bモデルで、推論やフルパラメータトレーニングに直接ロードできます。このモデルはLlama-2を基に中国語語彙を拡張・最適化し、大規模な中国語データを使用して増分事前トレーニングを行い、中国語の基礎的な意味理解能力を向上させました。

モデル特徴

最適化された中国語語彙

Llama-2を基に中国語語彙を拡張・最適化し、中国語処理能力を向上させました。

大規模中国語データ事前トレーニング

大規模な中国語データを使用して増分事前トレーニングを行い、中国語の基礎的な意味理解能力を大幅に向上させました。

長文コンテキストサポート

4Kコンテキストをサポートし、NTKメソッドにより18K+まで拡張可能です。

LLaMAエコシステム互換

🤗transformers、llama.cpp、text-generation-webui、LangChain、vLLMなどのLLaMAエコシステムツールと互換性があります。

モデル能力

中国語テキスト生成

英語テキスト生成

対話システム

コマンド実行

長文処理

使用事例

対話システム

インテリジェントカスタマーサポート

中国語インテリジェントカスタマーサポートシステムの構築に使用され、ユーザーの問い合わせを処理します。

流暢な中国語の返答を理解し生成できます。

コンテンツ生成

中国語記事生成

中国語の記事やレポートなどを生成します。

論理的で流暢な言語のコンテンツを生成します。

🚀 Chinese-Alpaca-2-7B

これは完全なChinese-Alpaca-2-7Bモデルで、直接推論や全パラメータトレーニングに使用できます。

関連モデル👇

🚀 クイックスタート

このプロジェクトはMetaがリリースしたLlama-2に基づいており、中国語版LLaMAとAlpacaの第2世代の大規模言語モデルプロジェクトです。中国語版LLaMA-2（基礎モデル）とAlpaca-2（命令追従モデル）をオープンソースで公開しています。これらのモデルは、元のLlama-2を超えて中国語語彙を拡張・最適化しています。大規模な中国語データを用いた増分事前学習を行い、中国語の基本的な意味理解をさらに向上させ、第1世代のモデルと比較して大幅な性能向上を達成しています。関連モデルは4Kのコンテキストをサポートし、NTK法を用いることで18K以上に拡張することができます。

このプロジェクトの主な内容は以下の通りです：

🚀 Llama-2を超える新しい拡張中国語語彙を持ち、Chinese LLaMA-2とAlpaca-2の大規模言語モデルをオープンソースで公開
🚀 事前学習と命令微調整（SFT）のスクリプトをオープンソースで公開し、ユーザーのデータでのさらなる微調整を可能に
🚀 パーソナルPCのCPU/GPU上で量子化された大規模言語モデルをすばやくデプロイして体験
🚀 🤗transformers、llama.cpp、text-generation-webui、LangChain、vLLMなどのLLaMAエコシステムをサポート

詳細はhttps://github.com/ymcui/Chinese-LLaMA-Alpaca-2/を参照してください。