Creek

🚀 從零開始構建的大模型

本項目提供了從零構建大模型的全過程源碼，涵蓋了tokenizer訓練、模型初始化、模型預訓練以及模型指令微調等關鍵環節。

項目鏈接：https://github.com/fisheeped/creek/tree/main

🚀 快速開始

簡單使用示例

以下是如何簡單使用該模型的代碼示例：

import transformers

# load model
model_path = "maheer/creek"
model = transformers.AutoModelForCausalLM.from_pretrained(model_path)
tokenizer = transformers.AutoTokenizer.from_pretrained(model_path)

massages = [
    {"role":"user","content":"蘋果手機怎麼聯網"}
]

def chat(msg):
    inputs = tokenizer.apply_chat_template(msg,return_dict=True,return_tensors="pt")
    input_len = len(inputs['input_ids'][0])
    output = model.generate(**inputs,repetition_penalty = 1.25)[0]
    output = output[input_len:]
    return tokenizer.decode(output,skip_special_tokens=True)

out_str = chat(massages)
print(out_str)

示例輸出

您好！要將您的iPhone連接到互聯網，請按照以下步驟操作：

1. 首先，打開“設備管理器”或“網絡安全軟件”。
2. 在主屏幕上找到“設備管理器”，點擊它。
3. 在設備的設置界面中，選擇“Wi-Fi和藍牙”。
4. 在Wi-Fi選項卡下，找到“WiFi與Internet”選項並單擊它。
5. 如果需要使用無線網絡服務，可以嘗試在路由器的控制面板中搜索“設備管理器”。
6. 如果無法通過 Wi-Fi 或 Internet Explorer 等其他方式進行登錄，則可能需要輸入密碼才能訪問該應用程序。
7. 如果以上方法都無法成功登錄，那麼您應該能夠看到您的設備的網絡狀態（如已連接的Wi-Fi、未連接的Wi-Fi等）。如果您仍然遇到問題，請聯繫Apple的客戶支持團隊以獲取幫助和支持。
8. 最後，如果一切正常，您可以通過按住電源按鈕來關閉設備。此時，您的設備已經連接到了互聯網，並且沒有信號。
希望這些信息對您有所幫助。祝您生活愉快！

📄 許可證

本項目採用Apache-2.0許可證。