M

Mistral 7B Instruct V0.2 Fp8

FriendliAIによって開発
FriendliAIによってFP8精度に量子化されたMistral-7B-Instruct-v0.2モデルで、高精度を維持しながら推論効率を大幅に向上させています。
ダウンロード数 37
リリース時間 : 3/28/2024

モデル概要

Mistral-7B-v0.2をベースに命令微調整を行った大規模言語モデルで、32kのコンテキストウィンドウをサポートし、対話や命令追従タスクに適しています。

モデル特徴

FP8量子化
FP8量子化技術により最適化され、推論効率を大幅に向上させながら高精度を維持
拡張コンテキストウィンドウ
32kトークンの長いコンテキスト処理能力をサポート(v0.2バージョンで新機能追加)
命令最適化
命令追従タスクに特化して最適化され、複雑な対話インタラクションをサポート

モデル能力

テキスト生成
対話システム
命令追従
コンテンツ作成

使用事例

対話システム
インテリジェントアシスタント
複雑な命令を理解できる対話アシスタントの構築
自然で流暢な対話応答を生成可能
コンテンツ生成
クリエイティブライティング
ストーリー作成やコンテンツ生成の補助
一貫性のある創造的なテキストを生成可能
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase