Gpt2 124M Uk Fiction

🚀 GPT2 124M Trained on Ukrainian Fiction

This is a GPT2 124M model trained on Ukrainian fiction, offering text - generation capabilities.

🚀 Quick Start

Note: the default code snippet above won't work because we are using AlbertTokenizer with GPT2LMHeadModel, see issue.

✨ Features

• Language: Ukrainian
• Widget text: "Но зла Юнона, суча дочка, "
• Tags: text - generation

📦 Installation

No specific installation steps are provided in the original document.

💻 Usage Examples

Basic Usage

from transformers import AlbertTokenizer, GPT2LMHeadModel

tokenizer = AlbertTokenizer.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")
model = GPT2LMHeadModel.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")

input_ids = tokenizer.encode("Но зла Юнона, суча дочка,", add_special_tokens=False, return_tensors='pt')

outputs = model.generate(
    input_ids,
    do_sample=True,
    num_return_sequences=3,
    max_length=50
)

for i, out in enumerate(outputs):
    print("{}: {}".format(i, tokenizer.decode(out)))

The output will be something like this:

0: Но зла Юнона, суча дочка, яка затьмарила всі її таємниці: І хто з'їсть її душу, той помре». І, не дочекавшись гніву богів, посунула в пітьму, щоб не бачити перед собою. Але, за
1: Но зла Юнона, суча дочка, і довела мене до божевілля. Але він не знав нічого. Після того як я його побачив, мені стало зле. Я втратив рівновагу. Але в мене не було часу на роздуми. Я вже втратив надію
2: Но зла Юнона, суча дочка, не нарікала нам! — раптом вигукнула Юнона. — Це ти, старий йолопе! — мовила вона, не перестаючи сміятись. — Хіба ти не знаєш, що мені подобається ходити з тобою?

📚 Documentation

Technical Details

The model was trained on a corpus of 4040 fiction books, with a total size of 2.77 GiB. Evaluation on brown - uk gives a perplexity of 50.16.