LocutusqueXFelladrin-TinyMistral248M-Instructオープンソースモデル - 無料でデプロイ可能、プログラミングと推論を両立！

Locutusquexfelladrin TinyMistral248M Instruct

Locutusqueによって開発

これはLocutusque/TinyMistral-248M-InstructとFelladrin/TinyMistral-248M-SFT-v4をmergekitツールで統合して作成されたモデルで、両者の長所を融合し、プログラミング能力と推論スキルを備えながら、低幻覚性と優れた指示遵守能力を保持しています。

大規模言語モデル

Transformers

英語オープンソースライセンス:Apache-2.0 #小型で高性能 #正確な指示応答 #低幻覚生成

ダウンロード数 97

リリース時間 : 12/14/2023

モデル概要

このモデルは小型ながら優れた性能を持つ言語モデルで、テキスト生成タスクに適しており、特にプログラミング関連や指示遵守タスクに優れています。

モデル特徴

プログラミング能力

Locutusque/TinyMistral-248M-Instructのプログラミング能力と推論スキルを継承しており、プログラミング関連タスクの処理に適しています。

低幻覚

Felladrin/TinyMistral-248M-SFT-v4の低幻覚特性を融合しており、生成内容がより正確で信頼性があります。

指示遵守

優れた指示遵守能力を備えており、ユーザーの指示を正確に理解し実行できます。

小型で効率的

コンパクトなサイズながら優れた性能を発揮し、リソースが限られた環境に適しています。

モデル能力

テキスト生成

プログラミング支援

指示遵守

推論

使用事例

プログラミング支援

Cypher関数スニペット生成

極端な口腔衛生を展示するためのNeo4jデータベースとCypher関数スニペットを設計します。

詳細なコードスニペットとコメントを生成します。

クリエイティブライティング

ストーリー生成

ユーザーの指示に基づいて魔法の世界に関するストーリーを生成します。

創造性豊かなストーリー内容を生成します。

教育支援

方程式の解法

2x + 10 = 20などの数学方程式を解くのをユーザーに支援します。

詳細な解法手順と回答を提供します。

論文執筆

ユーザーの指示に基づいてジョージ・ワシントンの生涯に関する論文を執筆します。

構造が整い内容が充実した論文を生成します。

ビジネス管理

従業員管理アドバイス

怠惰な従業員を管理するための口頭コミュニケーションアドバイスを提供します。

実用的な管理アドバイスとコミュニケーション戦略を生成します。

旅行推薦

旅行先推薦

世界中で訪れる価値のある素晴らしい場所をリストアップします。

詳細な旅行推薦リストを生成します。

🚀 LocutusqueXFelladrin-TinyMistral248M-Instruct

このモデルは、mergekitを使用してLocutusque/TinyMistral - 248M - InstructとFelladrin/TinyMistral - 248M - SFT - v4をマージすることで作成されました。2つのモデルをマージした後、得られたモデルはLocutusque/inst_mix_v2_top_100kの約20,000のサンプルで低い学習率でさらに学習され、重みがさらに正規化されました。以下はマージに使用されたYAML設定です。

🚀 クイックスタート

このモデルは、2つのモデルの長所を兼ね備えています。Locutusque/TinyMistral - 248M - Instructのコーディング能力と推論スキル、そしてFelladrin/TinyMistral - 248M - SFT - v4の低い幻覚率と命令追従能力を持ち、そのサイズを考慮すると信じられないほどの性能を発揮します。

モデルマージ設定

models:
  - model: Felladrin/TinyMistral-248M-SFT-v4
    parameters:
      weight: 0.5
  - model: Locutusque/TinyMistral-248M-Instruct
    parameters:
      weight: 1.0
merge_method: linear
dtype: float16

📚 ドキュメント

評価

Open LLM Leaderboardにて確認できます。

📄 ライセンス

このモデルはApache - 2.0ライセンスの下で提供されています。

データセット

Locutusque/inst_mix_v2_top_100k

推論パラメータ

パラメータ	詳細
temperature	0.5
do_sample	true
top_p	0.5
top_k	30
max_new_tokens	250
repetition_penalty	1.15

ウィジェットテキスト例

<|USER|> Design a Neo4j database and Cypher function snippet to Display Extreme Dental hygiene: Using Mouthwash for Analysis for Beginners. Implement if/else or switch/case statements to handle different conditions related to the Consent. Provide detailed comments explaining your control flow and the reasoning behind each decision. <|ASSISTANT|>
<|USER|> Write me a story about a magical place. <|ASSISTANT|>
<|USER|> Write me an essay about the life of George Washington <|ASSISTANT|>
<|USER|> Solve the following equation 2x + 10 = 20 <|ASSISTANT|>
<|USER|> Craft me a list of some nice places to visit around the world. <|ASSISTANT|>
<|USER|> How to manage a lazy employee: Address the employee verbally. Don't allow an employee's laziness or lack of enthusiasm to become a recurring issue. Tell the employee you're hoping to speak with them about workplace expectations and performance, and schedule a time to sit down together. Question: To manage a lazy employee, it is suggested to talk to the employee. True, False, or Neither? <|ASSISTANT|>