LocutusqueXFelladrin-TinyMistral248M-Instruct開源模型 - 免費部署，編程推理兩不誤！

Locutusquexfelladrin TinyMistral248M Instruct

由Locutusque開發

這是一個通過合併Locutusque/TinyMistral-248M-Instruct和Felladrin/TinyMistral-248M-SFT-v4並使用mergekit工具創建的模型，融合了兩者的優勢，具有編程能力和推理技巧，同時保持低幻覺和良好的指令遵循能力。

大型語言模型

Transformers

英語開源協議:Apache-2.0 #小體積高效能 #指令精準響應 #低幻覺生成

下載量 97

發布時間 : 12/14/2023

模型概述

該模型是一個小型但性能卓越的語言模型，適用於文本生成任務，特別擅長編程相關和指令遵循的任務。

模型特點

編程能力

繼承了Locutusque/TinyMistral-248M-Instruct的編程能力和推理技巧，適合處理編程相關的任務。

低幻覺

融合了Felladrin/TinyMistral-248M-SFT-v4的低幻覺特性，生成內容更加準確可靠。

指令遵循

具有良好的指令遵循能力，能夠準確理解和執行用戶指令。

小型高效

體積小巧但性能卓越，適合資源有限的環境。

模型能力

文本生成

編程輔助

指令遵循

推理

使用案例

編程輔助

生成Cypher函數片段

設計Neo4j數據庫和Cypher函數片段，用於展示極端口腔衛生。

生成詳細的代碼片段和註釋。

創意寫作

生成故事

根據用戶指令生成關於魔法之地的故事。

生成富有創意的故事內容。

教育輔助

解方程

幫助用戶解數學方程，如2x + 10 = 20。

提供詳細的解題步驟和答案。

撰寫論文

根據用戶指令撰寫關於喬治·華盛頓生平的論文。

生成結構完整、內容詳實的論文。

商業管理

員工管理建議

提供關於如何管理懶惰員工的口頭溝通建議。

生成實用的管理建議和溝通策略。

旅遊推薦

旅遊地點推薦

列出世界各地值得遊覽的好地方。

生成詳細的旅遊推薦列表。

🚀 LocutusqueXFelladrin-TinyMistral248M-Instruct

本模型結合了編碼能力與低幻覺率等優勢，通過合併兩個模型並進一步訓練得到，在小模型中表現出色。

🚀 快速開始

此模型是通過 mergekit 合併 Locutusque/TinyMistral-248M-Instruct 和 Felladrin/TinyMistral-248M-SFT-v4 而創建的。合併這兩個模型後，所得模型在 Locutusque/inst_mix_v2_top_100k 上約 20,000 個示例上以低學習率進一步訓練，以進一步規範權重。以下是用於合併的 YAML 配置：

models:
  - model: Felladrin/TinyMistral-248M-SFT-v4
    parameters:
      weight: 0.5
  - model: Locutusque/TinyMistral-248M-Instruct
    parameters:
      weight: 1.0
merge_method: linear
dtype: float16

所得模型集兩者之長。它兼具 Locutusque/TinyMistral-248M-Instruct 的編碼能力和推理技能，以及 Felladrin/TinyMistral-248M-SFT-v4 的低幻覺和指令遵循能力。考慮到其規模，所得模型有著驚人的性能。

✨ 主要特性

能力融合：結合了兩個模型的優勢，既有編碼和推理能力，又有低幻覺和指令遵循能力。
性能出色：在小模型規模下展現出了優秀的性能。

📚 詳細文檔

評估

可在 Open LLM Leaderboard 中查看評估結果。

📄 許可證

本模型使用 Apache-2.0 許可證。

推理參數

屬性	詳情
溫度 (`temperature`)	0.5
採樣 (`do_sample`)	true
核採樣概率 (`top_p`)	0.5
採樣數量 (`top_k`)	30
最大新生成令牌數 (`max_new_tokens`)	250
重複懲罰 (`repetition_penalty`)	1.15

數據集

本模型使用了 Locutusque/inst_mix_v2_top_100k 數據集。

小部件示例

<|USER|> Design a Neo4j database and Cypher function snippet to Display Extreme Dental hygiene: Using Mouthwash for Analysis for Beginners. Implement if/else or switch/case statements to handle different conditions related to the Consent. Provide detailed comments explaining your control flow and the reasoning behind each decision. <|ASSISTANT|>
<|USER|> Write me a story about a magical place. <|ASSISTANT|>
<|USER|> Write me an essay about the life of George Washington <|ASSISTANT|>
<|USER|> Solve the following equation 2x + 10 = 20 <|ASSISTANT|>
<|USER|> Craft me a list of some nice places to visit around the world. <|ASSISTANT|>
<|USER|> How to manage a lazy employee: Address the employee verbally. Don't allow an employee's laziness or lack of enthusiasm to become a recurring issue. Tell the employee you're hoping to speak with them about workplace expectations and performance, and schedule a time to sit down together. Question: To manage a lazy employee, it is suggested to talk to the employee. True, False, or Neither? <|ASSISTANT|>