M

Magnum V4 72b FP8 Dynamic

Infermaticによって開発
Qwen2.5 - 72B - Instructをベースに微調整された72Bパラメータの大規模言語モデルで、動的FP8量子化技術を用いて推論効率を最適化し、Claude 3の散文の質を再現することを目的としています。
ダウンロード数 2,106
リリース時間 : 10/21/2024

モデル概要

これは実験的なモデルで、Qwen2.5 - 72B - Instructをベースに指令微調整を行い、高品質なテキスト生成、特にClaude 3の文章スタイルの模倣に特化しています。

モデル特徴

動的FP8量子化
AutoFP8技術を用いて動的量子化を行い、モデルの品質を維持しながら推論効率を大幅に向上させます。
長文脈サポート
32kトークンの文脈長をサポートし、長いドキュメントの処理に適しています。
Claudeスタイルの文章作成
Claude 3(特にSonnetとOpus)の散文の質を再現するように特別に最適化されています。
多データセット微調整
6つの高品質なデータセットを使用して全パラメータの微調整を行い、多様なタスクでの性能を向上させます。

モデル能力

長文テキスト生成
対話システム
創造的な文章作成
指令追従
ロールプレイ

使用事例

創造的な文章作成
文学創作支援
Claudeスタイルの高品質な散文や物語を生成します。
Claude 3に近いスタイルの文学作品を生成できます。
対話システム
ロールプレイチャット
SillyTavernなどのプラットフォームで高品質なキャラクター間のやり取りを実現します。
複雑なキャラクター設定やシナリオ対話をサポートします。
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase