RWKV7 Goose World3 1.5B HF

🚀 rwkv7-1.47B-pile

このモデルは、flash - linear attention形式のRWKV - 7モデルです。自然言語処理において、英語のテキスト生成に利用でき、特定のデータセットで訓練された高性能なモデルです。

🚀 クイックスタート

このモデルを使用する前に、flash-linear-attention <= 0.1.2 と最新バージョンの transformers をインストールしてください。

pip install --no-use-pep517 flash-linear-attention==0.1.2
pip install 'transformers>=4.48.0'

✨ 主な機能

• 英語のテキスト生成に特化したRWKV - 7モデル。
• HuggingFaceモデルと同様の使用方法が可能。

📦 インストール

このモデルを使用する前に、以下のコマンドで必要なライブラリをインストールしてください。

pip install --no-use-pep517 flash-linear-attention==0.1.2
pip install 'transformers>=4.48.0'

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('fla-hub/rwkv7-1.47B-pile', trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained('fla-hub/rwkv7-1.47B-pile', trust_remote_code=True)

📚 ドキュメント

モデルの詳細

モデルの説明

• 開発者: Bo Peng, Yu Zhang, Songlin Yang, Ruichong Zhang
• 資金提供元: RWKV Project (LF AI & Data Foundationの下)
• モデルタイプ: RWKV7
• 言語 (NLP): 英語
• ライセンス: Apache - 2.0
• パラメータ数: 1.47B
• トークナイザ: GPT - NeoX 20Bトークナイザ

モデルのソース

• リポジトリ: https://github.com/fla-org/flash-linear-attention ; https://github.com/BlinkDL/RWKV-LM
• 論文: RWKV-7 "Goose" with Expressive Dynamic State Evolution

訓練の詳細

訓練データ

このモデルは、合計3320億トークンのPileデータセットで訓練されています。

評価

メトリクス

FAQ

Q: safetensorsのメタデータがない場合。 A: transformers を >=4.48.0 にアップグレードしてください。

pip install 'transformers>=4.48.0'

📄 ライセンス

このモデルは、Apache - 2.0ライセンスの下で提供されています。