Zenz V2.5 Xsmall

🚀 zenz-v2.5-small

zenz-v2.5是一個專門用於假名漢字轉換任務的條件語言模型，基於GPT - 2架構。它旨在用於神經網絡假名漢字轉換系統「Zenzai」，具有字符級和字節級BPE分詞器，在假名漢字轉換任務中表現出色，能結合上下文進行高效轉換。

✨ 主要特性

• 文字單位+字節單位BPE分詞器
• 在假名漢字轉換任務中具備高性能
• 考慮上下文的轉換，展現出卓越性能

zenz-v2.5有三種模型尺寸可供使用：

• zenz-v2.5-medium：3.1億參數的大規模模型
• zenz-v2.5-small：9100萬參數的中規模模型
• zenz-v2.5-xsmall：2600萬參數的小規模模型

📚 詳細文檔

模型描述

本模型使用了在CC - BY - SA 4.0許可下的ku - nlp/gpt2 - small - japanese - char分詞器。並且本模型也在CC - BY - SA 4.0許可下提供。

• 開發者：Miwa Keita (𝕏)
• 模型類型：GPT - 2
• 支持語言（NLP）：日語
• 許可證：CC - BY - SA 4.0

模型來源

本模型旨在與Zenzai（AzooKeyKanaKanjiConverter）一起使用。

• 倉庫地址：https://github.com/ensan-hcl/AzooKeyKanaKanjiConverter

數據來源

本模型使用zenz-v2.5-dataset進行構建。

🔗 致謝

在構建本模型時，我們得到了Sakura Internet Inc.的計算資源支持，在此表示感謝。此外，我們還使用了以下庫、工具和語言資源來構建本模型：

• MeCab (https://taku910.github.io/mecab/)
• ipadic - NEologd (https://github.com/neologd/mecab-ipadic-neologd)
• torch (https://pypi.org/project/torch/)
• transformers (https://pypi.org/project/transformers/)
• datasets (https://pypi.org/project/datasets/)
• jaconv (https://pypi.org/project/jaconv/)
• llama.cpp (https://github.com/ggerganov/llama.cpp)
• llm.c (https://github.com/karpathy/llm.c)

📄 許可證

本模型採用CC - BY - SA 4.0許可證。