Hebrew Bad Wiki Gpt Neo Tiny

🚀 希伯來語不良維基GPT-Neo-Tiny模型

本模型是一個希伯來語無意義文本生成模型，能生成質量較差的維基摘要文本，可用於文本生成相關場景。

🚀 快速開始

你可以通過以下代碼示例快速使用該模型：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Norod78/hebrew-bad_wiki-gpt_neo-tiny")

model = AutoModelForCausalLM.from_pretrained("Norod78/hebrew-bad_wiki-gpt_neo-tiny")

你還可以通過 這裡 的Google Colab筆記本進一步體驗。

✨ 主要特性

• 文本生成：該模型主要用於生成希伯來語文本。

📚 詳細文檔

模型詳情

• 模型描述：希伯來語無意義文本生成模型，生成質量較差的維基摘要文本。
• 開發者：Doron Adler
• 模型類型：文本生成
• 支持語言：希伯來語
• 許可證：MIT
• 更多信息資源：
  • GitHub倉庫
  • HuggingFace空間

用途

直接用途

該模型可用於文本生成。

誤用和超範圍使用

文檔未提及相關內容。

風險、侷限性和偏差

⚠️ 重要提示

讀者應注意，本節包含令人不安、冒犯性的內容，可能會傳播歷史和當前的刻板印象。

大量研究已經探討了語言模型的偏差和公平性問題（例如，參見 Sheng等人（2021） 和 Bender等人（2021））。

訓練

訓練數據

2020年5月的 希伯來語維基百科轉儲（希伯來語維基摘要）。

訓練過程

該模型在 hebrew-gpt_neo-tiny 的基礎上進行微調，而 hebrew-gpt_neo-tiny 之前使用 EleutherAI的gpt-neo 進行訓練。

使用 @minimaxir 的 aitextgen 對維基摘要文本進行微調。

評估

配置信息

希伯來語gpt_neo-tiny的模型配置可在 希伯來語gpt_neo模型的GitHub倉庫 中找到。

環境影響

可以使用 機器學習影響計算器（見 Lacoste等人（2019））來估算碳排放。我們根據 相關論文 提供硬件類型信息。

📄 許可證

本模型使用MIT許可證。