Shivneri Marathi Llm 7b V0.1

🚀 Shivneri Marathi LLM

Shivneri Marathi LLM旨在為印度非英語（尤其是馬拉地語）使用者帶來生成式AI的益處。馬拉地語是印度母語使用人數第三多的語言，近8300萬人使用該語言。此模型基於強大的Gemma 7B基礎模型構建，能夠用馬拉地語和英語生成富有創意和信息性的文本。

🚀 快速開始

本模型目前處於非常初步的版本，請謹慎使用。建議等待更多更新和最終模型推出後再進行嘗試。

✨ 主要特性

• 基於Gemma 7B基礎模型，可使用馬拉地語和英語生成文本。
• 持續改進中，未來將有更多令人期待的功能。

📚 詳細文檔

模型詳情

Shivneri Marathi LLM致力於將生成式AI的優勢帶給印度的非英語（特別是馬拉地語）使用者。馬拉地語在印度的母語使用人數僅次於印地語和孟加拉語，約有8300萬人使用該語言。這是我們馬拉地語大語言模型（LLM）的初步版本！基於強大的Gemma 7B基礎模型構建，Shivneri LLM能夠用馬拉地語和英語生成富有創意和信息性的文本。這僅僅是個開始，我們會不斷改進Shivneri，更多令人興奮的功能即將推出！

模型描述

這是一個🤗 Transformers模型的模型卡片，該模型已被髮布到模型中心。此模型卡片是自動生成的。

• 開發者：Amit Ghadge
• 資助方（可選）：[待補充更多信息]
• 共享者（可選）：[Amit Ghadge]
• 模型類型：[基於Transformer架構的僅解碼器大語言模型（LLM）]
• 語言（NLP）：[馬拉地語、英語]
• 許可證：[待補充更多信息]
• 微調基礎模型（可選）：[Gemma - 7B]

模型來源（可選）

• 倉庫：[https://github.com/amitagh/shivneri-llm]
• 論文（可選）：[https://medium.com/@amitagh/shivneri-marathi-llm-e823f0a045d8]
• 演示（可選）：[即將推出]

使用說明

本模型目前處於非常初步的版本，請謹慎使用。建議等待更多更新和最終模型推出後再進行嘗試。

訓練詳情

訓練數據

[在AI4Bharat/Sangraha數據集上使用LoRA進行持續預訓練]

訓練過程

使用LoRA進行持續預訓練

模型架構和目標

[基於Transformer架構的僅解碼器大語言模型（LLM）]

計算基礎設施

[A100 80 GB]

認識開發者

瞭解這個創新模型背後的創造者，並關注他們在該領域的貢獻：

• Amit Ghadge

引用（可選）

如果您在研究中使用了此模型，請進行如下引用：

@misc{amitghadge2024ShivneriLLMv01,
      title={Shivneri-LLM: Your Bilingual Marathi and English Text Generation LLM}, 
      author={Amit Ghadge},
      year={2024},
      eprint={https://medium.com/@amitagh/shivneri-marathi-llm-e823f0a045d8},
}

我們希望這個模型能成為您自然語言處理工具包中的寶貴工具，並期待看到它在馬拉地語理解和生成方面帶來的進步。

📄 許可證

gemma