Shivneri Marathi Llm 7b V0.1

🚀 Shivneri Marathi LLM

Shivneri Marathi LLMは、インドの非英語（特にマラーティー語）話者に生成AIの恩恵をもたらすことを目的に構築されています。マラーティー語は、ヒンディー語とベンガル語に次いで、インドで3番目に多くの母語話者を持つ言語で、約8300万人が話しています。これは当社のマラーティー語LLM（大規模言語モデル）の予備版です！強力なGemma 7Bベースモデルをベースに構築されたShivneri LLMは、マラーティー語と英語の両方で創造的で有益なテキストを生成することができます。これはただの始まりで、私たちはShivneriを絶えず改善しており、さらにエキサイティングな機能がこれから登場します！

🚀 クイックスタート

このモデルは非常に予備的なバージョンです。注意して使用してください。今後の更新と最終モデルを試してみることをおすすめします。

✨ 主な機能

• マラーティー語と英語の両方で創造的で有益なテキストを生成することができます。
• 強力なGemma 7Bベースモデルをベースに構築されています。

📦 インストール

ドキュメントに具体的なインストール手順が記載されていないため、このセクションをスキップします。

💻 使用例

ドキュメントにコード例が記載されていないため、このセクションをスキップします。

📚 ドキュメント

モデルの詳細

• 開発者: Amit Ghadge
• 資金提供元 [オプション]: [詳細情報が必要]
• 共有者 [オプション]: [Amit Ghadge]
• モデルの種類: [トランスフォーマーアーキテクチャを持つデコーダー専用の大規模言語モデル（LLM）]
• 言語 (NLP): [マラーティー語、英語]
• ライセンス: [詳細情報が必要]
• ファインチューニング元のモデル [オプション]: [Gemma-7B]

モデルのソース [オプション]

• リポジトリ: [https://github.com/amitagh/shivneri-llm]
• 論文 [オプション]: [https://medium.com/@amitagh/shivneri-marathi-llm-e823f0a045d8]
• デモ [オプション]: [近日公開]

🔧 技術詳細

学習データ

[AI4Bharat/SangrahaデータセットでLoraを使用して継続的に事前学習]

学習手順

Loraを使用して継続的に事前学習

モデルアーキテクチャと目的

[トランスフォーマーアーキテクチャを持つデコーダー専用の大規模言語モデル（LLM）]

コンピューティングインフラストラクチャ

[A100 80 GB]

📄 ライセンス

ドキュメントに具体的なライセンス情報が記載されていないため、このセクションをスキップします。

開発者紹介

この革新的なモデルの創造者を知り、彼らの分野への貢献をフォローしましょう。

• Amit Ghadge

引用 [オプション]

もしあなたの研究でこのモデルを使用する場合は、次のように引用してください。

@misc{amitghadge2024ShivneriLLMv01,
      title={Shivneri-LLM: Your Bilingual Marathi and English Text Generation LLM}, 
      author={Amit Ghadge},
      year={2024},
      eprint={https://medium.com/@amitagh/shivneri-marathi-llm-e823f0a045d8},
}

私たちは、このモデルがあなたのNLPツールキットの中で貴重なツールとなり、マラーティー語の理解と生成における進歩が見られることを楽しみにしています。