因为这项“危险技术”，11家互联网公司被约谈！
微信ID：xiake_island
3月18日，国家网信办、公安部指导各地网信部门、公安机关，依法约谈11家互联网企业，包括映客、小米、快手、阿里、腾讯等互联网巨头。
值得关注的是约谈事由。相关公告称，这些企业的软件被点名“未履行安全评估程序”和“涉‘深度伪造’技术”，要求其认真开展安全评估，切实履行企业信息内容安全主体责任。
一
2019年6月，一款名为DeepNude的App风靡全球。用户只需上传一张照片，其中人物便可自动“脱掉”衣服，裸体示人。
2020年12月流传的一则视频中，“英国女王”在发表圣诞致辞时突然跳上桌子手舞足蹈，说自己早就不满于对着镜头念稿。事后媒体承认，该视频是将女王面孔合成到演员身上制成，用以警示人们“虚假信息充斥网络”。
今年，不少短视频平台推出魔性“蚂蚁呀嘿”视频。玩家只需上传一张照片，图中人就能扭起脖子、瞪着眼睛唱歌。有网友说：只要找到脸，蒙娜丽莎都能蹦起来。
这些产品的基础都是深度伪造技术。
所谓深度伪造（Deepfake），是指有关软件通过AI换脸、语音模拟、视频生成等方式，对既有图像、声音、视频进行篡改、伪造，自动生成音视频产品。
深度伪造通常由生成器、鉴别器两个系统组成。生成器生成假音视频片段，鉴别器辨别该片段真假，从而构成“生成式对抗网络”，通过不间断“反复生产”，合成能以假乱真的音视频。
技术有了，应用场景就多了。
比如，逼真的虚拟教师能让数字教学更具互动性，虚拟主播在各大媒体平台吸睛不断，影视作品可凭虚拟化身突破创作的时空限制，医疗、零售、娱乐等领域的人形问诊机器人、虚拟客服、虚拟偶像等也多由深度伪造生成。
但同时，深度伪造也被视作当今世界“最危险的AI技术”之一。
例如，DeepNude“脱衣换脸术”就曾进入国内市场，在一些平台上只需100元即可打包购买数百部换脸色情片；某反欺诈语音软件公司对美、英、法、德4国的语音合成市场调查结果显示，每638个欺诈电话中就有一个是人工合成声音；美联社报道称，一名间谍使用深度伪造技术生成图片，在某职场社交平台多次骗取行业信息。
短视频平台上流行的“蚂蚁呀嘿”视频（图源：网络）
二
在美剧《越狱》中，男主角的兄长被控谋杀，唯一的证据是停车场内的监控视频。经过无数波折，男主角最终发现这视频居然是剪辑、拼接修饰而成。那时还没有深度伪造技术，但显然，现在的技术给类似事件提供了更多实现的便利。
有研究论文称，深度伪造可让人“言”所未言、“行”所未行，甚至成为实施色情报复、商业诋毁、敲诈勒索、网络攻击等非法行为的工具，损害个人和企业合法权益。
美国情报界2019年研究报告称，深度伪造已为美国带来一系列安全风险，包括出现了“假奥巴马”在换脸视频中人身攻击竞选对手、“假特朗普”出镜批评别国环保政策等假视频。该报告称：“敌对势力很有可能通过深度伪造加强对美国及其盟友的影响渗透。”
深度伪造还能通过篡改新闻报道、传播虚假信息，削弱国家机构及官方新闻媒体公信力，扰乱公共秩序甚至政治秩序。2018年，印度有人在即时通讯软件上散布利用深度伪造技术制造的虚假信息，导致一些无辜民众被认为是绑架儿童的嫌犯，最终有20余人被殴打致死。
此外，深度伪造还可能加深公众对各方的不信任感，进而引发社会忧虑、信任危机。
中国传媒大学国家传播创新研究中心副研究员姬德强表示，在人类历史中，“眼见为实”占据着最基本的认识论权威，大家相信视觉文本的客观属性。如今，深度伪造对此构成了前所未有的挑战，很大程度将冲击基于“真相”的社会意义和价值空间。
换言之，有了PS后，有图不一定有真相；有了深度伪造呢？你看到和听到的都未必是真实的。
美国华盛顿，一名记者观看“深度伪造”视频。图源：视觉中国
三
对深度伪造严加监管，刻不容缓。
在国际上，比如美国近年来陆续出台包括《2018年恶意伪造禁令法案》《深度伪造责任法案》在内的多项法案，对深度伪造技术进行严格的使用限制。
中国《民法典》规定，任何组织或个人不得以丑化、污损，或利用信息技术手段伪造等方式侵害他人的肖像权，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。
2020年12月，中共中央印发《法治社会建设实施纲要（2020-2025年）》，提出制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法。
从技术角度讲，对深度伪造的负面应用要严防死守，有两方面关键操作：
一是事前识别。将识别伪造音视频技术部署在传播渠道前端，禁止虚假内容发布，或至少提出警告。业内人士建议，相关部门可尝试建立全网“数字水印或签名”系统，所有要播发的音视频、图片，都须打上数字水印或签名，便于追溯查询。
二是事后鉴伪。例如，鼓励企业加大对鉴伪技术研发的投入，抓紧开发能识别深度伪造内容的工具。还有研究人员指明，区块链技术或将成为“恢复互联网信任”的最佳切入口。
网络技术与人工智能在带来技术红利的同时，也将达摩克利斯之剑高悬于人类社会的头顶。如何兼顾技术进步与社会伦理、平衡收益与风险并兼顾发展与安全，将是未来人类社会的一场大考。
文/点苍居士
编辑/绫波、云歌
相关文章
-
侠客岛：因为这项“危险技术”，11家互联网公司被约谈
3月18日，国家网信办、公安部指导各地网信部门、公安机关，依法约谈11家互联网企业，包括映客、小米、快手、阿里、腾讯等互联网巨头。值得关注的是约谈事由。相关公告称，这些企业的软件被点名“未履行安全评估程序”和“涉‘深度伪造’技术”，要求其认真开展安全评估，切实履行企业信息内容安全主体责任。一2019年6月，一款名为DeepNude的App风靡全球。用户只需上传一张照片，其中人物便可自动“脱掉”衣服，裸体示人。2020年12月流传的一则视频中，“英国女王”在发表圣诞致辞时突然跳上桌子手舞足蹈，说自己早就不满...
2021-03-23 18:40:17 深度技术视频侠客岛 -
【产业互联网周报】全球陷紧急缺“芯”潮；字节回应造芯；传中国电信整合5家公司成立天翼云科技
【产业互联网周报是由钛媒体TMTpost发布的特色产品，将整合本周最重要的企业级服务、云计算、大数据领域的前沿趋势、重磅政策及行研报告。】本周（3月15日-3月21日）全球各产业释放缺芯信号。高通CEO史蒂夫·莫伦科夫在中国发展高层论坛上表示，目前全球确实出现了芯片短缺的问题，高通也正在改进，但还需要时间；大众集团CEO迪斯在大众2020年财报会议上表示，芯片短缺已致大众今年前二个月在全球市场损失...
2021-03-21 10:43:54 亿元芯片公司 -
网易VR游戏停运，腾讯高管离职投身全真互联网，元宇宙真香
图片来源@视觉中国 文|竞核数字孪生时代，人类对虚拟世界充满了热情。近日，一款游戏和一家公司引发市场关注，想必很多人已有所耳闻。前者是网易游戏产品《Nostos》（中文名：故土），后者为全真互联网公司元象唯思。3月17日，网易游戏发布官方声明称：由于业务发展调整，《Nostos》游戏将于北京时间2021年6月17日14时终止运营。该作是一款多人在线的开放世界VR游戏，于2018年发布，次年首次上架...
2021-03-20 08:50:47 游戏互联网全真 -
重拳整治！五部委：禁止小贷公司向大学生发放互联网消费贷！
创头条消息 3月17日，银保监会、央行等五部委联合发布《关于进一步规范大学生互联网消费贷款监督管理工作的通知》(下称《通知》)，禁止小额贷款公司向大学生发放互联网消费贷款，禁止非持牌机构为大学生提供信贷服务。《通知》明确，小额贷款公司不得向大学生发放互联网消费贷款，进一步加强消费金融公司、商业银行等持牌金融机构大学生互联网消费贷款业务风险管理要求，明确未经监管部门批准设立的机构一律不得为大学生提供...
2021-03-18 14:43:44 互联网小额贷款公司 -
-
罗富强：加拿大释放危险信号，中国应该全力营救孟晚舟
前不久，加拿大发布了《反对在国家关系中使用任意拘押手段的宣言》，并称已获得多个国家和欧盟联署。“人权观察”组织负责人在“宣言”启动仪式上称，中方对加国公民康明凯、迈克尔实施“任意拘押”。对此，我国外交部表态这完全是贼喊捉贼、颠倒黑白，是典型的“此地无银三百两”。实际上，加拿大之所以发布这么一个宣言，还联合美国等一些西方国家支持，发布的不是宣言本身，而是在为把孟晚舟引渡给美国进行铺垫。加拿大的这个宣言，仔细一想，其实是释放了一个非常危险的信号：——孟晚舟很有可能即将被加拿大方面裁决符合引渡条件，引渡到美国。...
2021-03-16 16:43:28 美国加拿大华为罗富强 -
文子稻：缅甸70人丧生，打砸抢烧中资工厂，更大的危险是这个.....
而仰光总医院（Yangon General Hospital）的一名医生表示，当天下午5点左右至晚上11点有超过50名伤者入院……据联合国网站12日报道，一个多月以来，缅甸已有约70人丧生，其中超过半数为25岁以下的年轻人。数字冰凉，但触目惊心。为什么会出现如此大的伤亡？一方面是军方的武力镇压，另一方面是抗议者的武装暴力。据《卫报》的消息，在莱达雅地区的抗议活动中，缅甸的抗议者躲在临时路障后，手握棍棒和刀具同警察对峙。我们再看周日那名缅甸警察死亡的原因，据法国24电视台（France 24）这名警察是在与...
2021-03-16 16:06:41 缅甸乌克兰中国文子稻 -
缅甸70人丧生 打砸抢烧中资工厂 更大的危险是这个
作者/文子稻（wenzidao666）缅甸仍在乱。“颜色革命”已经进入第六周，并不断传来坏消息。第一、缅甸至少已有70人在抗议中丧生。据路透社3月14日报道，当天缅甸街头骚乱中，至少造成39人死亡，其中包括一名警察。这是自“昂山素季事件”以来第二位在街头抗议中丧生的警察。而仰光总医院(Yangon General Hospital)的一名医生表示，当天下午5点左右至晚上11点有超过50名伤者入院 这6支志愿军部队，战功赫赫让敌人胆寒，都有哪些 伤害性不大 侮辱性极强！苏联 印度和朝鲜也能把台湾当棋子耍？...
2021-03-16 11:18:47 缅甸更大中资 -
中国信通院主导完成首个工业互联网网络领域国际标准
创头条3月15日消息 近日，国际电信联盟标准化局（ITU-T）在第13研究组（未来网络与云）的全会上通过了中国信息通信研究院（以下简称“中国信通院”）技术与标准研究所主导制定的首例工业互联网国际标准——ITU-TY.2623《工业互联网网络技术要求与架构（基于分组数据网演进）》。这是工业互联网网络领域的重要标准化成果，为我国开展工业互联网国际标准化工作打开了新的突破口。据悉，ITU-TY.262...
2021-03-15 17:37:48 互联网工业网络 -
加拿大释放危险信号，中国应全力营救孟晚舟！
来源：富强的方向（ID：暂无）作者：罗富强前不久，加拿大发布了《反对在国家关系中使用任意拘押手段的宣言》，并称已获得多个国家和欧盟联署。“人权观察”组织负责人在“宣言”启动仪式上称，中方对加国公民康明凯、迈克尔实施“任意拘押”。 对此，我国外交部表态这完全是贼喊捉贼、颠倒黑白，是典型的“此地无银三百两”。实际上，加拿大之所以发布这么一个宣言，还联合美国等一些西方国家支持，发布的不是宣言本身，而是在为把孟晚舟引渡给美国进行铺垫。加拿大的这个宣言，仔细一想，其实是释放了一个非常危险的信号：——孟晚舟很有可能即...
2021-03-15 07:21:29 加拿大中国信号
| 留言与评论（共有 0 条评论） |
