所有文章 > 正文

还原百年前的世界,AI 大牛将 1895 年老电影转换为 4K 高清!

作者: 学术头条

时间: 2020-05-05 15:05

《火车到站》是电影史上最著名的电影之一。该片由法国导演奥古斯特和路易·卢米埃拍摄,在当时达到了前所未有的质量水平。

今天,卢米埃尔兄弟的杰作看起来充满颗粒状,浑浊,破旧。但一个名叫 Denis Shiryaev 的大神利用神经网络技术,将这部经典电影提升到 21 世纪的 4K 高清水平。

这个升级版的视频让以前的世界变得栩栩如生,火车的细节、衣着和乘客面部的模糊细节也清晰可见。

202005050201.jpg

1895 年的电影《火车进站》

1895 年拍摄的这部老电影采用了 35mm 格式胶片制作,由于当时的放映机由手摇进行驱动,其原始帧率大概在 16 帧到 24 帧之间。而且当时的胶片技术尚未成熟,我们可以看到画面景物都是比较模糊的。但经过了神经网络的画面分辨率增强和插帧之后,这部老电影获得了 4k~60fps 的画质。

202005050210.jpg

《火车进站》电影原片(点击上图观看影片片段)

202005050211.jpg

60 帧 4K 修复版《火车进站》电影(点击上图观看影片片段)

画面分辨率增强

将老电影秒变 4K 高清,Shiryaev 又是怎么做到的呢?

实际上,他使用了 Gigapixel AI 的商业图像编辑软件,该软件内嵌专有的插值算法,可以将图像放大 600%,在分析图像的同时还能识别图像的细节和结构。

202005050204.jpg

我们知道图像是由一格一格的像素组成的,单位英寸中所包含的像素点数越高,自然画面会更加清晰。

普通高清是 1920×1080,总像素为 2073600,而 4K 高清是 3840×2160,总像素为 8294400,因此只是把普通图像提升到 4K 高清,就需要额外补充 600 万个像素。

因此这里就需要插值算法,它基于周边的像素来计算新像素,通常的方法有最近邻、双线性插值、双三次插值。最近邻方法是利用与它们的最近邻相同的颜色填充空白像素,它虽然简单而有效,但会产生锯齿状、明显像素化的图像。双线性插值需要更多的处理能力,但它可以根据最近的两个像素来分析空白像素,并在它们之间产生梯度,从而使图像更加清晰。双三次插值从其 16 个最近邻像素进行采样。与原始图像相比,通过结合双线性和双三次插值的结果,图像可以准确着色,但仍然模糊。

而这一过程,由 Gigapixel AI 利用深度卷积神经网络来完成。正如它的产品页面介绍的那样,它运用了神经网络,对成千上万对照片进行分析,来了解图片细节是如何丢失的,算法会根据所学的知识在新图像中填充信息,有效为照片添加新细节。

一般来说,神经网络生成细节是人像生成网站和类似生成对抗网络所使用的技术。当向神经网络显示一张人脸的低分辨率图像时,它会识别出这是一张脸,并向图像中的眼睛、鼻子和嘴巴填充正确的细节,让图片更加清晰。正因为如此,原始胶片才会充满栩栩如生的细节。

视频插帧

解决了像素低的问题,还需要解决视频卡顿问题,因此 Shiryaev 还使用了 DAIN(Depth-Aware Video Frame Interpolation)这个软件,它可以对电影中的帧进行预测,然后插入视频中。

为了让老电影放映效果达到与 4K 同样的效果,Shiryaev 将足够多的图像添加到电影中,而 DAIN 每秒会自动生成 36 个图像添加到电影中。

为电影上色

受 Shiryaev 视频的启发,有网友将他的视频中的一帧放到安卓的彩色图像应用程序中,来自动给图像着色。同样是利用神经网络,从一堆彩色照片开始,将它们转换成黑白照片,然后训练一个神经网络来重建颜色原稿。

202005050205.jpg

可以看到树木是绿色的,砂石是棕色的,旁边一路人的外套是黑色的。

AI 助力视频修复

去年,英伟达发布了一个叫 Super SloMo 的神经网络,它能从普通的视频“脑补”出高帧率的画面,从 30fps 插帧到 240fps,即使放慢 8 倍也不会感到卡顿。

这个项目使用深度神经网络,对视频中缺失的帧进行预测并补全,从而生成连续慢速回放的效果。除此外,还能排除原视频中被遮挡的像素,从而避免在生成的内插中间帧里产生模糊的伪象。

202005050206.jpg

该论文的第一作者是本硕毕业于西安交通大学、现在在马萨诸塞大学阿默斯特分校读博四的 Huaizu Jiang。第二作者 Deqing Sun 是英伟达学习与感知研究小组的高级研究员。

让我们感受下视频慢速回放的效果(点击下图观看)

202005050207.jpg

论文发布时并没有将代码和数据集公开,于是有人在 Github 上开源了他对 Super SloMo 的 PyTorch 实现,地址:https://github.com/avinashpaliwal/Super-SloMo

有兴趣就试一试吧!

参考链接:

https://www.engadget.com/2020/02/04/how-ai-helped-upscale-an-antique-1896-film-to-4k/

https://arstechnica.com/science/2020/02/someone-used-neural-networks-to-upscale-a-famous-1896-video-to-4k-quality/

https://zhuanlan.zhihu.com/p/53534547

往期回顾:

盘点 2020 年十大高科技汽车:电动时代已经来临

2020 年度全美十大华人杰出青年” 评选结果揭晓

大脑控制、有触觉、可自由活动,最“真实”假肢让三位患者回归正常生活

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多