AI深度学习动作迁移让业余舞者秒变专业舞者
- 突破性深度学习系统可在任意视频素材上复刻顶尖舞者编舞。
- 仅需普通视频输入——无需昂贵3D设备或动捕套装——即可产出工作室级成片。
AI正重塑消费电子到太空探索的各行各业,最新创新展现其在艺术领域的变革力量。加州大学研究者开发动作迁移算法,将源舞者动作映射到目标表演者,让普通参与者也能呈现资深芭蕾舞者或流行偶像风采。
核心理念直观:"照我做。"数分钟内,系统将专业舞蹈动作叠加到目标主体,为表演者、教育者、内容创作者开辭全新创作可能。
技术原理
流程始于从源视频与目标视频提取关键点骨架姿态。这些姿态简图提供轻量、外观无关的身体位置表征,使模型纯聚焦动作。
逐帧姿态由监督姿态估计算法生成,产出精准简图。动作迁移模型摄取这些骨架,合成模仿源姿态同时保留目标外观的目标帧。最终输出经姿态迁移模块与生成式细化网络融合,输出更锐利逼真帧。
工作流分三阶段:
- 姿态检测 — 从源与目标素材提取2D关键点。
- 全局姿态归一化 — 跨主体对齐骨架。
- 姿态映射 — 合成匹配源姿态的目标帧。
为保时序平滑,算法融合当前帧姿态与前一生成帧,大幅抖动抑制。低帧率输入采用中值滤波;高帧率视频(高达120fps)对关键点施加高斯平滑。
高保真成果得益于条件生成对抗网络(cGANs),在每主体20分钟以上高帧率业余舞蹈素材上训练。NVIDIA开发的pix2pixHD架构为图像转换管线骨干。
参考:arXiv:1808.07371训练与推理于NVIDIA GeForce GTX 1080 Ti与TITAN Xp GPU上进行,PyTorch配合CUDA加速。
未来方向
算法当前支持跨多元主体动作迁移,无需专用硬件。偶发抖动仍存,特别是源动作速度超出训练分布范围时。持续研究聚焦优化姿态估计方法与扩展动作库以缓解伪影。
相关突破见:NVIDIA AI将30fps视频转240fps
工业技术
- 树莓派 3 入门套件完全指南:硬件组装、系统烧录、首启配置、Pi 3 vs Pi 4 选型对比
- 2024年程序员必备:12大顶级免费编程学习网站推荐
- 移位寄存器:基础、应用与设计变体
- Creative Hi-Tech 庆祝 2019 丰收年,恭祝圣诞快乐、2020 新年繁荣
- 解锁供应链效能:五大经验证的AI策略
- 精确电容器尺寸设计:实用电容公式
- MIG 焊与 MAG 焊:核心区别详解
- MIG 焊与 TIG 焊:选择最佳焊接工艺的权威指南
- PCB三防漆工艺必修课:7大核心价值与工艺选型指南
- 定制独立酿酒谷物筒仓——节能、节空间的高效储存方案
- 制造业自动化:提升效率与降低劳动力成本
- 揭示隐性工厂:挖掘车间隐性浪费、释放产能的实战指南