江德斌 

    一段视频、一段语音未必是真人拍摄或者录制。在你不知道的手机App后台、支付界面、门禁闸机，或许有人正在盗刷你的脸。去年以来，多地发生“变脸”诈骗案。音频、视频等合成技术滥用，对人脸、声纹、指纹等个人敏感信息保护形成挑战（4月14日《北京青年报》）。

    前几年出现的“换脸”技术，还略显粗糙，肉眼仔细辨认尚可识破，支付平台亦可识别真伪，已经令大众心惊肉跳，担忧技术迭代升级，会带来更难以控制的后果。担忧不幸被言中了，随着深度合成技术演进，用静态照片、音频可制作为人脸动态视频，可完成丰富表情，模拟效果极为逼真，已经能够骗过支付识别系统，人工审核亦难辨真假。近年来频频发生的“变脸”诈骗案，凸显深度合成技术遭到非法滥用，成为犯罪分子作恶的工具，需严加防范。

    在网络诈骗链条里，身份核验是一道绕不过的关卡，不法分子需要突破这个关卡，才能办理实名制手机卡、登录网银账户、电子转账提现等，难度很大。如今，深度合成技术成为一把利器，破解身份核验的难度越来越低。相应的，针对深度合成技术的识别技术不断迭代、检测手段持续增强，但依然没能跑赢“伪造”技术升级的速度，使得不法分子能够利用深度合成技术，实施精准诈骗，侵害他人人身和财产安全。

    技术本身是中立的，如果将深度合成技术用于影视、游戏、医疗、教育等领域，必将发挥出强大的力量，给相关行业带来颠覆性的创新发展，给大众带来超乎想象的产品和服务。可是，当技术失去控制，落入不法分子手里，就变成了害人的工具。

    很多得到市场广泛应用的技术，经过了由复杂到简单操作的阶段，从小众化到大众化的全面普及过程。由功能单一、操作复杂的“换脸”“拟声”等技术，演化为操作简便、成熟度高、成本低廉的深度合成技术，亦体现了这些特征，也是不法分子轻易上手的主要因素。因此，除了发展“深度伪造内容”检测技术，监管部门也应对深度合成技术进行全面评析，及早做出研判和部署，采取行之有效的防范机制。

    近年来，针对深度合成技术遭恶意使用，各国纷纷出台相关法律法规，探索深度合成的治理路径。美国从联邦和州层面进行专门立法，欧盟将深度合成纳入《通用数据保护条例（GDPR）》等现有法律框架规制。国家网信办公布的《互联网信息服务深度合成管理规定（征求意见稿）》，亦对深度合成技术作出了一系列较为明确的规定和指引。因此，刑法应对深度合成技术滥用行为予以规制，同时从风险防控的角度，加强对个人信息安全的保护。对于“深度伪造内容”，平台应依法履行安全管理义务，落实管理责任，围堵黑色产业链的生存空间。