E

Evo 1 8k Base

togethercomputerによって開発
Evoは、長文脈のモデリングと設計が可能な生物学基礎モデルで、StripedHyenaアーキテクチャを使用し、一塩基、バイトレベルの解像度で配列をモデリングできます。
ダウンロード数 31.09k
リリース時間 : 2/24/2024

モデル概要

Evoは生物学基礎モデルで、長文脈の配列モデリングと設計に特化しており、ゲノムレベルのデータ処理と分析に特に適しています。

モデル特徴

長文脈モデリング
長文脈の配列を処理でき、計算とメモリは文脈の長さに対してほぼ線形に拡張されます。
効率的な自己回帰生成
循環パターンにより効率的な自己回帰生成を実現し、単一の80GB GPUで500kを超えるトークンを生成できます。
混合アーキテクチャ
多頭注意とゲート付き畳み込みを組み合わせたHyenaブロックを使用し、デコーダのみのTransformerアーキテクチャを改良します。
堅牢性のあるトレーニング
計算上の最適境界を超えるトレーニングに対して堅牢で、Chinchillaの最適トークン数をはるかに超える場合でもトレーニングできます。

モデル能力

一塩基解像度の配列モデリング
バイトレベル解像度の配列モデリング
長文脈配列処理
効率的な自己回帰生成
ゲノムスケールの推論

使用事例

ゲノミクス
ゲノム配列生成
ゲノム配列の生成と分析に使用されます。
ゲノムスケールでの推論と配列生成
分子スケールの微調整
分子レベルの配列微調整タスクに使用されます。
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase