微软发布AttnGAN:文本生成照片级真实图像的AI
- 微软AttnGAN可从纯文本与标题生成高保真图像。
- 系统采用双模型架构:生成器造图、判别器评估真实度。
- 能补充提示词未提及的语境相关细节,展现内在"想象力"层。
- 潜在未来应用含剧本驱动的全自动动画制作。
前人虽改进文生图合成,微软AttnGAN凭借海量标注图像库,从简短文本提示生成照片级真实图像,推进领域前沿。
微软研究院开发,AttnGAN解析提示词单个单词指导图像构建。团队称该法图像质量较前沿模型提升约三倍。
机器人的创作过程
想象被要求画红翅膀蓝鸟短喙。你会先勾轮廓再填色细节。AttnGAN遵循同一逻辑,逐词分析构建细节连贯图像。
机器人可渲染从小工具到野生动物的任意主体,常添加提示未提但语境恰当的背景元素,展现"想象"补全能力。
图像从零像素级合成,允许创造现实不存在场景。此生成任务本质比单纯标注现有照片复杂得多。
AttnGAN图像生成机制
- 生成器: 基于文本描述创建图像。
- 判别器: 对照描述评估生成图像真实度。
双模型联合训练,生成器从判别器反馈学习,逐步提升保真度。
训练用数千图文配对数据集,教会AttnGAN将特定词映射视觉模式。如"大象"触发生成典型大象外观图像。
系统将复杂句子拆解为单词,各词对齐图像区域。训练中亦学习"人工常识"补全缺失细节,保证真实构图。
示例中提示仅提鸟。AttnGAN智能将鸟置于树枝——训练数据学得的常见真实语境。展现模型应用语境知识能力。
arXiv:1711.10485 — 微软AttnGAN研究论文详解。
挑战描绘漂浮湖面双层巴士,模型生成模糊但可识别混合场景,凸显其协调提示冲突元素的困难。
性能与用例
AttnGAN超越前基准:COCO数据集Inception Score提升170.25%,CUB数据集增14.14%。
潜在应用含室内设计师草图助手、语音激活照片精修、经进一步开发可实现剧本驱动全自动动画制作。
其他AI艺术生成器
微软非唯一融合艺术与AI玩家。Google DeepDream 2016年创造迷幻图像,其AI亦产出音乐语音合成如Tacotron 2。Facebook与Nvidia亦发布汽车、舰船、动物、合成名人头像生成模型。
阅读Google类人语音AI Tacotron 2。
工业技术