Gpt2 Medium Italian Embeddings

🚀 GPT-2 イタリア語用再利用版 (ミディアム、適応型語彙埋め込み)

このモデルは、OpenAIのGPT-2ミディアムモデルをベースに、イタリア語の語彙に適応させたものです。Transformer層の重みは元の英語モデルと同じですが、語彙層はイタリア語の語彙に合わせて再学習されています。

🚀 クイックスタート

このモデルを使用するには、以下のコードを参考にしてください。

基本的な使用法

from transformers import pipeline

pipe = pipeline("text-generation", model="GroNLP/gpt2-medium-italian-embeddings")

高度な使用法

from transformers import AutoTokenizer, AutoModel, TFAutoModel

tokenizer = AutoTokenizer.from_pretrained("GroNLP/gpt2-medium-italian-embeddings")
model = AutoModel.from_pretrained("GroNLP/gpt2-medium-italian-embeddings")  # PyTorch
model = TFAutoModel.from_pretrained("GroNLP/gpt2-medium-italian-embeddings")  # Tensorflow

✨ 主な機能

• このモデルは、OpenAIのGPT-2ミディアムモデル (gpt2-medium) をベースに構築されています。
• Transformer層の重みは元の英語モデルと同一ですが、語彙層はイタリア語の語彙に合わせて再学習されています。

📚 ドキュメント

モデルの説明

このモデルは、ミディアムサイズのOpenAI GPT-2 (gpt2-medium) モデルをベースにしています。Transformer層の重みは元の英語モデルと同じですが、語彙層はイタリア語の語彙に合わせて再学習されています。詳細については、arXiv の論文と Github のコードを参照してください。

関連モデル

オランダ語

• gpt2-small-dutch-embeddings: 小規模モデルで、語彙埋め込みのみ再学習。
• gpt2-small-dutch: 小規模モデルで、語彙埋め込みを再学習し、モデル全体を追加で微調整。 (推奨)
• gpt2-medium-dutch-embeddings: ミディアム規模モデルで、語彙埋め込みのみ再学習。

イタリア語

• gpt2-small-italian-embeddings: 小規模モデルで、語彙埋め込みのみ再学習。
• gpt2-small-italian: 小規模モデルで、語彙埋め込みを再学習し、モデル全体を追加で微調整。 (推奨)
• gpt2-medium-italian-embeddings: ミディアム規模モデルで、語彙埋め込みのみ再学習。

🔧 技術詳細

このモデルのTransformer層の重みは元の英語モデルと同一ですが、語彙層はイタリア語の語彙に合わせて再学習されています。詳細については、著者 Wietse de Vries と Malvina Nissim の arXiv の論文を参照してください。

📄 ライセンス

BibTeX引用

@misc{devries2020good,
      title={As good as new. How to successfully recycle English GPT-2 to make models for other languages}, 
      author={Wietse de Vries and Malvina Nissim},
      year={2020},
      eprint={2012.05628},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}