也许你能相信,现在的电脑技术可以写假论文。你也会相信,高级的显卡可以渲染出十分逼真的效果图。但是,你可能完全相信不了,你眼前看到的那个让你深信不疑的视频居然完全是由人工智能伪造的。
这就是深度伪造技术,一种人工智能深度学习技术。通过对原文件中被伪造事物的识别,再经过人工智能分析学习,当样本量足够多时,人工智能就会掌握原视频中对象的特征。比如当某个人物的相关视频被人工智能学习后,你的步态,表情甚至是眨眼等细微动作,都会被记录下来。这些深度学习计算工作虽需大量算力,但通过网络连接,大量计算机同时运算,就可以很快完成学习过程。
学习完成后,计算机能将人物形象、语言和背景拼接合成近似完美的虚拟人物。这时,一段高仿视频就制作完成了。上述过程看上去技术含量很高,其实因为全网视频资料很丰富,并不很难。一个深度伪技术视频可能只要几周就能完成。有了这个技术,一个演员可能不用到现场,就可以同时拍出很多电影。甚至拍电影根本都不需要真人演员,一切都交给深伪技术来实现即可。
但这项技术也可能被人拿来作恶。现在是互联网社会,网络媒体日渐发达。有人利用深度伪造的手段来制造谣言并发布在了网上。比如去年美国众议院议长佩洛西就有一段真实的演讲视频,被刻意剪辑和放慢速度之后上传到网上,视频中的佩洛西说话显得含糊不清,使公众认为佩洛西要么是喝醉了,要么就是中风了。这些国家上的政治争议问题,如果被不法分子伪造并在网上传播,那么就可能会影响国家的正常运转。
总而言之,技术总是没有好坏的,深伪也不例外。如果只是用于技术研究,那这就没有问题。但要是不法用于深伪技术造假传谣就不好了。