Rut5 Base Headline Generation

🚀 ruT5-base_headline_generation

このモデルは、ロシア語のニュース見出し生成に特化したT5 Baseモデルです。短いニューステキスト（128語以内）で最適なパフォーマンスを発揮し、長い記事に対しても良好な指標を示します。平均で6 - 11語の要約的な見出しを生成します。

🚀 クイックスタート

このモデルは、ロシア語のニュース見出し生成に使用できます。以下のコード例を参考に、モデルを使ってみましょう。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, T5ForConditionalGeneration

model_name = "wanderer-msk/ruT5-base_headline_generation"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = T5ForConditionalGeneration.from_pretrained(model_name)

news_text = """Земляне продолжают осваивать Марс.
Колонисты уже посадили на красной планете 42 яблони."""

model_input = tokenizer(
    news_text,
    truncation=True,
    max_length=1024,
    return_tensors="pt"
)
model_output = model.generate(model_input["input_ids"])
news_headline = tokenizer.decode(
    model_output.squeeze(),
    skip_special_tokens=True
)

print(news_headline)

✨ 主な機能

• ロシア語のニュース見出し生成に最適化されたモデルです。
• 短いニューステキスト（128語以内）で高いパフォーマンスを発揮します。
• 長い記事に対しても良好な指標を示します。
• 平均で6 - 11語の要約的な見出しを生成します。

📚 ドキュメント

モデル詳細

T5 Baseを使用したロシア語のニュース見出し生成モデルです。このモデルは短いニューステキスト（128語以内）で最適なパフォーマンスを発揮するように微調整されていますが、長い記事に対しても適切な指標を示します。生成される見出しは平均で6 - 11語の要約的なものです。

ベースモデル: ai-forever/ruT5-base

学習詳細

• 学習データ: 247,000件のロシア語のニュース記事
• 学習手順: 6エポック。詳細とハイパーパラメータはこのGoogle Colabノートブックを参照してください。

テスト指標

• Rouge1: 40.24
• Rouge2: 23.05
• RougeL: 37.57