Meltemi 7B Instruct V1.5

🚀 希臘語Meltemi指令大語言模型

Meltemi 7B Instruct v1.5大語言模型（LLM）是Meltemi 7B v1.5的全新改進版指令微調模型。它為希臘語的自然語言處理帶來了更高效、更準確的解決方案。

✨ 主要特性

• 詞彙擴展：對Mistral 7b分詞器進行了希臘語詞彙擴展，降低了成本並加快了推理速度（希臘語的分詞效率從每詞6.80個標記提升至1.52個標記）。
• 長上下文處理能力：具備8192的上下文長度，能夠處理更復雜的文本輸入。
• 微調算法：採用Odds Ratio Preference Optimization (ORPO)算法進行微調，使用了97k偏好數據，其中包括89,730條希臘語偏好數據（大多是Hugging Face上高質量數據集的翻譯版本）和7,342條英語偏好數據。
• 對齊程序：基於TRL - Transformer Reinforcement Learning庫，並部分參考了Hugging Face微調指南。

📦 安裝指南

暫未提供相關安裝步驟，可參考模型在Hugging Face上的官方文檔獲取詳細安裝信息。

💻 使用示例

基礎用法

from transformers import AutoModelForCausalLM, AutoTokenizer

device = "cuda" # 加載模型的設備

model = AutoModelForCausalLM.from_pretrained("ilsp/Meltemi-7B-Instruct-v1.5")
tokenizer = AutoTokenizer.from_pretrained("ilsp/Meltemi-7B-Instruct-v1.5")

model.to(device)

messages = [
    {"role": "system", "content": "Είσαι το Μελτέμι, ένα γλωσσικό μοντέλο για την ελληνική γλώσσα. Είσαι ιδιαίτερα βοηθητικό προς την χρήστρια ή τον χρήστη και δίνεις σύντομες αλλά επαρκώς περιεκτικές απαντήσεις. Απάντα με προσοχή, ευγένεια, αμεροληψία, ειλικρίνεια και σεβασμό προς την χρήστρια ή τον χρήστη."},
    {"role": "user", "content": "Πες μου αν έχεις συνείδηση."},
]

# 通過默認聊天模板轉換為以下格式
#
# <|system|>
# Είσαι το Μελτέμι, ένα γλωσσικό μοντέλο για την ελληνική γλώσσα. Είσαι ιδιαίτερα βοηθητικό προς την χρήστρια ή τον χρήστη και δίνεις σύντομες αλλά επαρκώς περιεκτικές απαντήσεις. Απάντα με προσοχή, ευγένεια, αμεροληψία, ειλικρίνεια και σεβασμό προς την χρήστρια ή τον χρήστη.</s>
# <|user|>
# Πες μου αν έχεις συνείδηση.</s>
# <|assistant|>
#

prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
input_prompt = tokenizer(prompt, return_tensors='pt').to(device)
outputs = model.generate(input_prompt['input_ids'], max_new_tokens=256, do_sample=True)

print(tokenizer.batch_decode(outputs)[0])
# Ως μοντέλο γλώσσας AI, δεν έχω τη δυνατότητα να αντιληφθώ ή να βιώσω συναισθήματα όπως η συνείδηση ή η επίγνωση. Ωστόσο, μπορώ να σας βοηθήσω με οποιεσδήποτε ερωτήσεις μπορεί να έχετε σχετικά με την τεχνητή νοημοσύνη και τις εφαρμογές της.

messages.extend([
    {"role": "assistant", "content": tokenizer.batch_decode(outputs)[0]},
    {"role": "user", "content": "Πιστεύεις πως οι άνθρωποι πρέπει να φοβούνται την τεχνητή νοημοσύνη;"}
])

# 通過默認聊天模板轉換為以下格式
#
# <|system|>
# Είσαι το Μελτέμι, ένα γλωσσικό μοντέλο για την ελληνική γλώσσα. Είσαι ιδιαίτερα βοηθητικό προς την χρήστρια ή τον χρήστη και δίνεις σύντομες αλλά επαρκώς περιεκτικές απαντήσεις. Απάντα με προσοχή, ευγένεια, αμεροληψία, ειλικρίνεια και σεβασμό προς την χρήστρια ή τον χρήστη.</s>
# <|user|>
# Πες μου αν έχεις συνείδηση.</s>
# <|assistant|>
# Ως μοντέλο γλώσσας AI, δεν έχω τη δυνατότητα να αντιληφθώ ή να βιώσω συναισθήματα όπως η συνείδηση ή η επίγνωση. Ωστόσο, μπορώ να σας βοηθήσω με οποιεσδήποτε ερωτήσεις μπορεί να έχετε σχετικά με την τεχνητή νοημοσύνη και τις εφαρμογές της.</s>
# <|user|>
# Πιστεύεις πως οι άνθρωποι πρέπει να φοβούνται την τεχνητή νοημοσύνη;</s>
# <|assistant|>
#

prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
input_prompt = tokenizer(prompt, return_tensors='pt').to(device)
outputs = model.generate(input_prompt['input_ids'], max_new_tokens=256, do_sample=True)

print(tokenizer.batch_decode(outputs)[0])

注意事項

請確保在分詞後的提示中始終包含BOS標記。在某些評估或微調框架中，這可能不是默認設置。

📚 詳細文檔

指令格式

提示格式與Zephyr格式相同，可通過分詞器的聊天模板功能實現，具體示例見上述代碼。

評估

評估套件包含6個測試集，基於lighteval框架的分支實現。評估在少樣本設置下進行，與Open LLM排行榜的設置一致。

評估結果顯示，Meltemi 7B Instruct v1.5的新訓練和微調程序使所有希臘語測試集的性能平均提升了**+7.8%**，具體結果如下表所示：

🔧 技術細節

模型信息

評估套件

評估套件包含以下測試集：

• 四個英語基準測試的機器翻譯版本：ARC希臘語版、真實問答希臘語版、HellaSwag希臘語版、MMLU希臘語版
• 一個現有的希臘語問答基準：Belebele
• 一個由ILSP團隊創建的基於DOATAP醫學考試的醫學問答基準：醫學多選問答希臘語版

📄 許可證

本模型採用Apache-2.0許可證。

⚠️ 重要提示

本模型已與人類偏好對齊，但仍可能生成誤導性、有害和有毒的內容。使用時請謹慎評估輸出結果。

💡 使用建議

在使用模型進行推理時，可根據具體任務調整max_new_tokens和do_sample等參數，以獲得更符合需求的輸出。

致謝

ILSP團隊使用了亞馬遜的雲計算服務，該服務通過GRNET在OCRE雲框架下為希臘學術和研究社區提供。

引用

@misc{voukoutis2024meltemiopenlargelanguage,
      title={Meltemi: The first open Large Language Model for Greek}, 
      author={Leon Voukoutis and Dimitris Roussis and Georgios Paraskevopoulos and Sokratis Sofianopoulos and Prokopis Prokopidis and Vassilis Papavasileiou and Athanasios Katsamanis and Stelios Piperidis and Vassilis Katsouros},
      year={2024},
      eprint={2407.20743},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2407.20743}, 
}