Hebrew Mistral 7B

🚀 Hebrew-Mistral-7B

Hebrew-Mistral-7Bは、ミストラル社のMistral-7B-v1.0をベースに、ヘブライ語と英語で事前学習された70億のパラメータを持つオープンソースの大規模言語モデル（LLM）です。

このモデルは、64,000トークンの拡張ヘブライ語トークナイザーを備え、Mistral-7Bから英語とヘブライ語のトークンで継続的に事前学習されています。

結果として得られるモデルは、幅広い自然言語処理タスクに適した強力な汎用言語モデルであり、特にヘブライ語の理解と生成に重点を置いています。

🚀 クイックスタート

以下は、モデルをすばやく実行するためのコードスニペットです。

まず、pip install -U transformers を実行して必要なライブラリをインストールし、次にあなたのユースケースに関連するセクションからコードをコピーしてください。

💻 使用例

基本的な使用法

CPUでの実行

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("yam-peleg/Hebrew-Mistral-7B")
model = AutoModelForCausalLM.from_pretrained("yam-peleg/Hebrew-Mistral-7B")

input_text = "שלום! מה שלומך היום?"
input_ids = tokenizer(input_text, return_tensors="pt")

outputs = model.generate(**input_ids)
print(tokenizer.decode(outputs[0]))

GPUでの実行

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("yam-peleg/Hebrew-Mistral-7B")
model = AutoModelForCausalLM.from_pretrained("yam-peleg/Hebrew-Mistral-7B", device_map="auto")

input_text = "שלום! מה שלומך היום?"
input_ids = tokenizer(input_text, return_tensors="pt").to("cuda")

outputs = model.generate(**input_ids)
print(tokenizer.decode(outputs[0]))

4ビット精度での実行

from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig

tokenizer = AutoTokenizer.from_pretrained("yam-peleg/Hebrew-Mistral-7B")
model = AutoModelForCausalLM.from_pretrained("yam-peleg/Hebrew-Mistral-7B", quantization_config = BitsAndBytesConfig(load_in_4bit=True))

input_text = "שלום! מה שלומך היום?"
input_ids = tokenizer(input_text, return_tensors="pt").to("cuda")

outputs = model.generate(**input_ids)
print(tokenizer.decode(outputs[0])

⚠️ 重要提示

Hebrew-Mistral-7Bは事前学習されたベースモデルであり、モデレーションメカニズムを持っていません。

📄 ライセンス

Apache-2.0

👥 作者

• トレーニング: Yam Peleg
• 協力: Jonathan Rouach と Arjeo, inc.