Vikhr Llama 3.2 1B Instruct

🚀 Vikhr-Llama-3.2-1B-instruct

Vikhr-Llama-3.2-1B-instructは、Llama-3.2-1B-Instructをベースにした指示型モデルです。ロシア語データセットGrandMaster-PRO-MAXで学習されており、ベースモデルよりも5倍の効率を誇り、低電力デバイスやモバイルデバイスへのデプロイに最適です。

🚀 クイックスタート

Vikhr-Llama-3.2-1B-instructは、Llama-3.2-1B-Instructをベースに、ロシア語データセットGrandMaster-PRO-MAXで学習された指示型モデルです。ベースモデルよりも5倍の効率を持ち、低電力またはモバイルデバイスへのデプロイに最適です。

✨ 主な機能

• 高効率：ベースモデルよりも5倍の効率を誇ります。
• 低リソース要件：モデルサイズが3GB以下で、低電力またはモバイルデバイスへのデプロイに適しています。
• 多言語対応：ロシア語と英語に対応しています。

📦 インストール

以下のコードを使用して、必要なライブラリをインストールできます。

from transformers import AutoModelForCausalLM, AutoTokenizer

# モデル名を指定
model_name = "Vikhrmodels/Vikhr-Llama-3.2-1B-instruct"
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

💻 使用例

基本的な使用法

from transformers import AutoModelForCausalLM, AutoTokenizer

# モデル名を指定
model_name = "Vikhrmodels/Vikhr-Llama-3.2-1B-instruct"
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# 入力テキストを設定
input_text = "ここに入力テキストを記述します。"

# 入力テキストをトークン化
input_ids = tokenizer.encode(input_text, return_tensors="pt")
output = model.generate(
  input_ids,
  max_length=1512,
  temperature=0.3,
  num_return_sequences=1,
  no_repeat_ngram_size=2,
  top_k=50,
  top_p=0.95,
  )

# 生成されたテキストをデコード
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)

📚 ドキュメント

モデル情報

モデルの学習

このモデルは、SFT (Supervised Fine-Tuning) 手法を使用して、合成データセットVikhrmodels/GrandMaster-PRO-MAX (150k instructions) で学習されました。CoT (Chain-Of-Thought) をサポートし、GPT-4-turbo用のプロンプトを利用しています。

SFTを実行するスクリプトは、GitHubリポジトリ effective_llm_alignment で見つけることができます。

メトリクス

🔧 技術詳細

学習方法

このモデルは、SFT (Supervised Fine-Tuning) 手法を使用して学習されました。合成データセットVikhrmodels/GrandMaster-PRO-MAX (150k instructions) を使用し、CoT (Chain-Of-Thought) をサポートし、GPT-4-turbo用のプロンプトを利用しています。

モデルサイズ

モデルサイズは3GB以下で、低電力またはモバイルデバイスへのデプロイに適しています。

📄 ライセンス

このモデルは、llama3.2ライセンスの下で提供されています。

著者

• Sergei Bratchikov, NLP Wanderer, Vikhr Team
• Nikolay Kompanets, LakoMoor, Vikhr Team
• Konstantin Korolev, Vikhr Team
• Aleksandr Nikolich, Vikhr Team

引用

@article{nikolich2024vikhr,
  title={Vikhr: The Family of Open-Source Instruction-Tuned Large Language Models for Russian},
  author={Aleksandr Nikolich and Konstantin Korolev and Sergey Bratchikov and Nikolay Kompanets and Artem Shelmanov},
  journal={arXiv preprint arXiv:2405.13929},
  year={2024},
  url={https://arxiv.org/pdf/2405.13929}
}