近日，国家网信办、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作，并对近期未履行安全评估程序的11家企业进行约谈。国家网信办称，此举旨在加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理，规范互联网信息服务活动，切实维护国家安全、社会秩序和公共利益。

所谓深度伪造技术，指通过深度学习伪造数字内容的人工智能技术，实质上是一种声音、图像与视频的智能处理技术，能够模仿特定人物或者让特定人物看起来在做特定的事件，其效果可以达到以假乱真的程度，被称为“音视频领域的PS技术”。

随着网络技术的发展，一大批语音社交类软件开始涌现，成为不少年轻群体的社交新选择。这无疑拓展了人们的社交渠道，增强了部分人群的连接效率，但同时也存在使用门槛低、内容隐匿性强等特点。尤其是该技术利用机器的深度学习，实现图像、声音、视频的篡改、伪造和自动生成，产生高度逼真且难以甄别的效果。但与此同时，也带来了相应的问题。此前，一些人利用换脸技术伪造艺人的影像资料，就引发过舆论对该项技术的热议。

曾经火爆网络的“蚂蚁呀嘿”便是其中的代表。使用者只需要按照步骤上传照片，就可以瞬间完成换脸，生成视频并支持传播。深度伪造技术的发展和普及是亦喜亦忧，在娱乐和搞笑的同时，肆意换脸带来的风险与危害也正在显现。此次有关部门约谈相关企业，一方面是为了给部分平台上存在涉“深度伪造”技术、存在的安全隐患敲警钟；另一方面也要求行业内的相关企业依法依规保护用户个人信息和名誉权，对于可能涉嫌违法犯罪的相关线索，要及时上报有关监管部门。

语音社交软件由于其使用门槛低、内容隐匿性强等特点，给监管造成较大难度。因此，在推动这一新兴行业发展的同时，也要吸取以往在短视频、直播平台治理方面的经验教训，对语音社交产品进行前瞻性监管。一方面，在对某项网络技术进行“事前规制”的同时，相关部门应着力提升监管技术，用技术管住技术，以此来提高监管实效和质量；另一方面，完善网络信息服务方面的法律法规，修订互联网信息服务管理办法，研究制定互联网信息服务严重失信主体信用信息管理办法，制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法。

毋庸讳言，不同于以往的事后监管，此次安全评估工作和约谈给有关的互联网新技术新应用提前划好红线，事前规制有利于企业及时发现安全隐患，整改安全问题，切实履行信息内容安全主体责任，维护网络传播秩序，营造良好网络生态。（吴学安）