Instruct Llama70B Dolly15k

🚀 Instruct_Llama70B_Dolly15k

Llama-2-70B をファインチューニングし、Dolly15k データセットを使用したテキスト生成モデルです。

🚀 クイックスタート

このモデルは Llama-2-70B をベースに、Dolly15k データセットを用いてファインチューニングされています。データセットは 80% が学習用、15% が検証用、5% がテスト用に分割されています。QLora を使用して 1.5 エポック学習され、1024 のコンテキストウィンドウでトレーニングされています。

✨ 主な機能

• Llama 2 トランスフォーマーアーキテクチャに基づく自己回帰型言語モデルです。
• 英語に対応しています。

📚 ドキュメント

モデル詳細

• トレーニング実施者: Brillibits によってトレーニングされました。詳細は YouTube も参照してください。
• モデルタイプ: Instruct_Llama70B_Dolly15k は Llama 2 トランスフォーマーアーキテクチャに基づく自己回帰型言語モデルです。
• 言語: 英語
• ライセンス: llama2 ライセンス

プロンプト

コンテキスト付きプロンプトテンプレート

Write a 10 - line poem about a given topic

Input:

The topic is about racecars

Output:

コンテキストなしプロンプトテンプレート

Who was the was the second president of the United States?

Output:

専門的な支援

このモデルや同様のモデルは素晴らしいですが、大規模言語モデル (LLM) が最も有望なのは、カスタムデータに適用されてさまざまなタスクを自動化するときです。

あなたがデータセットを持っており、そのデータを使ってタスクを自動化できるかどうかを確認したい場合や、専門的な支援を求めている場合は、こちら からお問い合わせください。

Open LLM Leaderboard 評価結果

詳細な結果は こちら で確認できます。

📄 ライセンス

このモデルは llama2 ライセンスの下で提供されています。