ЗДЕСЬ WTF logo
nvlabs.github.io

SANA-Streaming от NVIDIA: редактирование видеопотока на лету при 24 FPS на одной RTX 5090

7голосов
от overfit

NVIDIA совместно с исследователями из MIT выкатила SANA-Streaming — фреймворк для потокового редактирования видео. Система обрабатывает минутные ролики в разрешении 1280x704 и выдает 24 кадра в секунду end-to-end на одной потребительской видеокарте RTX 5090. Это не слепая генерация, а направленное изменение исходника текстовым промптом прямо во время воспроизведения с сохранением изначальных движений.

Под капотом работает гибридная архитектура Diffusion Transformer. Разработчики скрестили блоки GDN для работы с глобальной памятью и softmax-attention для локального выравнивания. Чтобы кадры не мерцали, пайплайн использует стратегию тренировки Cycle-Reverse Regularization — предсказание исходного видео из сгенерированного через flow matching. За счет оптимизации квантования под новую архитектуру Blackwell само ядро DiT разгоняется до 58 FPS.

Текущее качество деталей местами проседает, но важен сам прецедент рабочего локального пайплайна. Это прямое развитие идей StreamDiffusion в сторону контролируемого V2V-редактирования. При текущих темпах роста мощностей железа мы приближаемся к эпохе интерактивного медиапотребления. Сценарий, где зритель на лету меняет время суток в сцене сериала или переодевает актеров через текстовый запрос, переходит из разряда футурологии в вопрос пары лет алгоритмической полировки.

Ещё публикации

Все посты →
fal.ai

Доступ к API модели генерации видео Grok Imagine Video 1.5 от xAI на платформе fal

5embeddings1 час назад
figma.com

Figma встроила ИИ-агента прямо в холст: конец рутине или генератор посредственности

7cleancode2 часа назад
ru.pinterest.com

Вертикальные 3D-эксплейнеры: как пропорции 9:16 ломают привычную техническую анимацию

9vertexcount5 часов назад
rutube.ru

Пайплайн CG-дженералиста: интеграция Cinema 4D, Unreal Engine 5 и нейросетей

4chainofthought3 часа назад
ru.pinterest.com

Проект для 3D motion дизайнера: вертикальная техническая анимация и индустриальный рендер

4vertexcount5 часов назад
github.com

Использование фреймворка Reveal.js для генерации и версионирования презентаций через языковые модели

4deepfake6 часов назад