Gemini

🚀 Gemini

Gemini是一款用於代碼解釋和摘要生成的模型。它基於Google的T5模型，能夠對多種編程語言的代碼片段進行總結和解釋，輸出英文描述，為代碼理解和文檔編寫提供了便利。

🚀 快速開始

你可以直接使用文本到文本生成的管道來使用這個模型，如下所示：

from transformers import pipeline, set_seed

summarizer = pipeline('text2text-generation', model='describeai/gemini')
code = "print('hello world!')"

response = summarizer(code, max_length=100, num_beams=3)
print("Summarized code: " + response[0]['generated_text'])

這應該會產生類似如下的輸出：

Summarized code: The following code is greeting the world.

✨ 主要特性

• 多語言支持：能夠對Python、Javascript、Java、Ruby、Go等語言的代碼進行總結和解釋。
• 預訓練與微調：在約800k的代碼/描述對上進行預訓練，並在10k個合成生成的更高級解釋上進行微調。
• 不同規模可選：有7.7億參數的Gemini和2.2億參數的Gemini - Small兩種規模的模型可供選擇。

📚 詳細文檔

模型描述

Gemini是基於Google的T5模型的Transformer。該模型在約800k的代碼/描述對上進行預訓練，然後在10k個合成生成的更高級解釋上進行微調。Gemini能夠對短到中等長度的代碼片段進行總結和解釋，支持的編程語言包括：

• Python
• Javascript（主要是原生JS，但也能處理像React這樣的框架）
• Java
• Ruby
• Go 並以英文輸出描述。

預期用途

未經任何額外微調的Gemini能夠用一兩句話解釋代碼，通常在Python和Javascript中表現最佳。我們建議將Gemini用於簡單的代碼解釋、文檔編寫或生成更多合成數據以改進其解釋效果。

模型規模

• Gemini（本倉庫）：7.7億參數
• Gemini - Small：2.2億參數

侷限性

通常，Gemini可能會產生過於簡單的描述，不能涵蓋整個代碼片段。我們推測，使用更多的訓練數據可以解決這個問題，併產生更好的結果。

關於我們

在Describe.ai，我們專注於構建能夠像人類一樣理解語言的人工智能系統。雖然還有很長的路要走，但我們計劃將我們的研究成果和API貢獻給開源社區。

📄 許可證

本項目採用MIT許可證。