7月28日,中国科学院深圳先进技术研究院数字所董超研究员团队发布了一项名为HYPIR的图像复原大模型,不仅比现有的图像复原技术快数十倍,更在高清分辨率、文字保真、理解能力、用户控制灵活性等方面展现出了优异性能,为图像复原技术的实际应用提供了更高效的解决方案,更为文化传承与保护、影视修复等领域带来新的可能性。
1927年第五届索尔维会议(修复前)
1927年第五届索尔维会议(修复后)
突破传统技术瓶颈,图像修复更高效
传统方法中,基于预训练扩散模型的复原技术显著提升了图像复原效果,但存在计算复杂度高、推理速度慢、训练资源消耗大以及生成结果可控性不足等问题,成为了限制图像复原技术发展的瓶颈问题。
去年,董超团队提出了智能画质增强大模型SUPIR,将低质量的图像恢复到接近原始状态的高清图像,有效修复多种退化类型的图像。而此次图像大模型HYPIR作为升级版,舍弃了迭代式的扩散模型训练,改用单步的对抗生成模型训练方式,将原有的算法速度提升了数倍,同时采用更新的文生图基模型进一步提升算法效果,实现了8K级别的细节生成。实验数据显示,在单张显卡(图像处理器)上,HYPIR仅需1.7秒即可完成一张1024x1024分辨率图像的复原,在生成图像的稳定性和可控性方面远超SUPIR大模型。
“以往图像复原方法中往往包括扩散模型蒸馏、ControlNet适配器或者多步推理过程。而HYPIR则不需要依赖这些步骤,使用方法更加简单。在训练和推理速度上较传统方法提升了一个数量级以上,且性能更优。”董超介绍。
多种性能优异,应用前景广阔
在应用层面,研究人员介绍,HYPIR在图像高清分辨率、文字保真、理解能力、用户控制灵活性等方面均展现出了优异的性能。
例如,在老照片修复方面,研究人员运用HYPIR修复了国内外经典电影、电视剧老照片,让模糊的影像重现清晰的细节。在高分辨率图像修复领域,HYPIR成功攻克了传统方法在生成8k分辨率图像时往往面临速度慢或效果不佳的难题。在文字保真方面,HYPIR能够使复原出的文字保持高保真度和清晰度,精准还原其原始形态,使图像中的文字清晰可读。
值得一提的是,HYPIR还具备了突出的自然语言理解能力,能够精准捕捉和理解用户的输入指令,在图像复原过程中准确地反映用户的意图。此外,用户可以根据需求灵活调节生成与复原的平衡,或精细控制图像细节程度,从而获得符合自身偏好的结果。
HYPIR不仅展示了图像修复技术上的创新性,也体现了对实际应用需求的理解。通过打破传统思维定式,该技术在文化传承与保护、影视修复、高分辨率图像生成等领域提供了切实可行的解决方案,为图像复原技术的发展注入了新的活力。
1985年的深圳南头半岛(下图 陈宗浩 摄)与4倍超分修复(上图)后的对比图
董超研究员(左)介绍HYPIR大模型
(受访单位供图)
编辑 白珊珊 审读 张雪松 二审 王雯 三审 王敏