Falcon H1 1.5B Deep Base

🚀 Falcon-H1

Falcon-H1は、Hybrid Transformers + Mambaアーキテクチャを採用した言語モデルです。多言語に対応し、様々なタスクで高い性能を発揮します。

🚀 クイックスタート

このセクションでは、Falcon-H1モデルの基本的な使い方を説明します。

✨ 主な機能

• 多言語対応：英語を含む複数の言語に対応しています。
• 高い性能：様々なタスクで優れた性能を発揮します。
• 独自アーキテクチャ：Hybrid Transformers + Mambaアーキテクチャを採用しています。

📦 インストール

Falcon-H1モデルを使用するには、transformersまたはvLLMをインストールする必要があります。

transformersのインストール

pip install git+https://github.com/huggingface/transformers.git

vLLMのインストール

詳細は公式vLLMドキュメントを参照してください。

💻 使用例

基本的な使用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "tiiuae/Falcon-H1-1B-Base"

model = AutoModelForCausalLM.from_pretrained(
  model_id,
  torch_dtype=torch.bfloat16,
  device_map="auto"
)

# Perform text generation

高度な使用法

vLLMを使用する場合

# pip install vllm
vllm serve tiiuae/Falcon-H1-1B-Instruct --tensor-parallel-size 2 --data-parallel-size 1

llama.cppを使用する場合

現在、独自のアーキテクチャをllama.cppライブラリに直接統合する作業を行っています。それまでは、カスタムフォーク版をインストールして使用できます。

📚 ドキュメント

モデル詳細

学習詳細

このモデルの学習プロトコルの詳細については、Falcon-H1技術ブログを参照してください。

評価

Falcon-H1シリーズは、様々なタスクで非常に良好な性能を発揮します。

詳細なベンチマークについては、リリースブログを参照してください。

有用なリンク

• リリースブログを参照してください。
• 質問がある場合や、研究者や開発者と交流したい場合は、Discordサーバーに参加してください。

📄 ライセンス

このモデルはFalcon-LLM Licenseの下で提供されています。詳細はライセンスページを参照してください。

📄 引用

Falcon-H1モデルがあなたの研究に役立った場合は、以下のように引用してください。

@misc{tiifalconh1,
    title = {Falcon-H1: A Family of Hybrid-Head Language Models Redefining Efficiency and Performance},
    url = {https://falcon-lm.github.io/blog/falcon-h1},
    author = {Falcon-LLM Team},
    month = {May},
    year = {2025}
}