江南体育app破解AI换脸欺诈黑产京企AI科技亮相世界互联网大会张嘴、摇头，摄像头在捕捉到观众的动作后，屏幕上原本静态的人像瞬间“动”了起来，动作幅度和真人完全一致，还能眨眼和露齿微笑，仿真度很高；观众现场拍完一张照片后，几分钟内就能生成一段视频，将观众的脸自动替换成某影视剧中知名演员的脸。11月8日至11日在乌镇举行的世界互联网大会期间，“换脸术”以及利用该技术破解线上银行人脸核验系统的技术演示在“互联网之光”博览会上吸引众多观众驻足围观。

　　瑞莱智慧技术专家介绍道，这背后采用的是深度合成技术江南体育app，利用深度学习江南体育app、虚拟现实等生成合成类算法，制作图像、音频、视频等信息。深度合成技术能够升级传统内容制作方法，提升内容制作效率和质量，为诸如虚拟IP的打造和运营、影视剧的本地化配音江南体育app、数字替身等新场景的应用提供了技术支撑。

　　但这项技术却存在着安全隐患。技术专家表示，深度合成技术大大降低了信息造假的难度，只需要拿到一张照片，就能生成非常逼真的伪造视频，用于捏造虚假信息、影视资料造假、特定人物等。随着技术开源、标准化工具的推出，制作一段虚假内容的门槛越来越低，因此近年网络社交平台上虚假视频的数量高速增长。而且随着技术的不断成熟，合成视频在清晰度、流畅度、逼真度等各方面都有大幅提升，真假难辨的效果意味着其危害性不断增强。

　　更需要警惕的是，这项技术已被黑产分子用于新型。工作人员现场演示了黑客如何利用“AI换脸”破解线上银行的人脸核验系统，通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作，再让智能设备不启动摄像头，直接底层注入合成的动态人脸视频，顺利绕过检测，从而破解人脸识别江南体育app。据了解，这一方式被不法分子广泛用于盗刷、非法办理手机卡等场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话画面等欺骗真人，引诱转账江南体育app江南体育app、实施敲诈等。

　　为了避免大规模的技术滥用，瑞莱智慧技术团队推出的深度伪造内容检测平台DeepReal，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容的一致性特征，能够快速、精准地对图像、视频、音频内容进行真伪鉴别，有效打击财产、虚假宣传、证据造假等违法行为。据了解，DeepReal平台基于千万级训练数据，能够实现毫秒级检测速率，每帧画面检测时间仅需30毫秒，同时在主流数据集检测准确率达99%以上，在实际产业中检测准确率也达到业界顶尖水平。