侠客岛：因为这项“危险技术”，11家互联网公司被约谈
值得关注的是约谈事由。相关公告称，这些企业的软件被点名“未履行安全评估程序”和“涉‘深度伪造’技术”，要求其认真开展安全评估，切实履行企业信息内容安全主体责任。
一
2019年6月，一款名为DeepNude的App风靡全球。用户只需上传一张照片，其中人物便可自动“脱掉”衣服，裸体示人。
2020年12月流传的一则视频中，“英国女王”在发表圣诞致辞时突然跳上桌子手舞足蹈，说自己早就不满于对着镜头念稿。事后媒体承认，该视频是将女王面孔合成到演员身上制成，用以警示人们“虚假信息充斥网络”。
今年，不少短视频平台推出魔性“蚂蚁呀嘿”视频。玩家只需上传一张照片，图中人就能扭起脖子、瞪着眼睛唱歌。有网友说：只要找到脸，蒙娜丽莎都能蹦起来。
这些产品的基础都是深度伪造技术。
所谓深度伪造（Deepfake），是指有关软件通过AI换脸、语音模拟、视频生成等方式，对既有图像、声音、视频进行篡改、伪造，自动生成音视频产品。
深度伪造通常由生成器、鉴别器两个系统组成。生成器生成假音视频片段，鉴别器辨别该片段真假，从而构成“生成式对抗网络”，通过不间断“反复生产”，合成能以假乱真的音视频。
技术有了，应用场景就多了。
比如，逼真的虚拟教师能让数字教学更具互动性，虚拟主播在各大媒体平台吸睛不断，影视作品可凭虚拟化身突破创作的时空限制，医疗、零售、娱乐等领域的人形问诊机器人、虚拟客服、虚拟偶像等也多由深度伪造生成。
但同时，深度伪造也被视作当今世界“最危险的AI技术”之一。
例如，DeepNude“脱衣换脸术”就曾进入国内市场，在一些平台上只需100元即可打包购买数百部换脸色情片；某反欺诈语音软件公司对美、英、法、德4国的语音合成市场调查结果显示，每638个欺诈电话中就有一个是人工合成声音；美联社报道称，一名间谍使用深度伪造技术生成图片，在某职场社交平台多次骗取行业信息。
短视频平台上流行的“蚂蚁呀嘿”视频（图源：网络）
二
在美剧《越狱》中，男主角的兄长被控谋杀，唯一的证据是停车场内的监控视频。经过无数波折，男主角最终发现这视频居然是剪辑、拼接修饰而成。那时还没有深度伪造技术，但显然，现在的技术给类似事件提供了更多实现的便利。
有研究论文称，深度伪造可让人“言”所未言、“行”所未行，甚至成为实施色情报复、商业诋毁、敲诈勒索、网络攻击等非法行为的工具，损害个人和企业合法权益。
美国情报界2019年研究报告称，深度伪造已为美国带来一系列安全风险，包括出现了“假奥巴马”在换脸视频中人身攻击竞选对手、“假特朗普”出镜批评别国环保政策等假视频。该报告称：“敌对势力很有可能通过深度伪造加强对美国及其盟友的影响渗透。”
深度伪造还能通过篡改新闻报道、传播虚假信息，削弱国家机构及官方新闻媒体公信力，扰乱公共秩序甚至政治秩序。2018年，印度有人在即时通讯软件上散布利用深度伪造技术制造的虚假信息，导致一些无辜民众被认为是绑架儿童的嫌犯，最终有20余人被殴打致死。
此外，深度伪造还可能加深公众对各方的不信任感，进而引发社会忧虑、信任危机。
中国传媒大学国家传播创新研究中心副研究员姬德强表示，在人类历史中，“眼见为实”占据着最基本的认识论权威，大家相信视觉文本的客观属性。如今，深度伪造对此构成了前所未有的挑战，很大程度将冲击基于“真相”的社会意义和价值空间。
换言之，有了PS后，有图不一定有真相；有了深度伪造呢？你看到和听到的都未必是真实的。
美国华盛顿，一名记者观看“深度伪造”视频。图源：视觉中国
三
对深度伪造严加监管，刻不容缓。
在国际上，比如美国近年来陆续出台包括《2018年恶意伪造禁令法案》《深度伪造责任法案》在内的多项法案，对深度伪造技术进行严格的使用限制。
中国《民法典》规定，任何组织或个人不得以丑化、污损，或利用信息技术手段伪造等方式侵害他人的肖像权，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。
2020年12月，中共中央印发《法治社会建设实施纲要（2020-2025年）》，提出制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法。
从技术角度讲，对深度伪造的负面应用要严防死守，有两方面关键操作：
一是事前识别。将识别伪造音视频技术部署在传播渠道前端，禁止虚假内容发布，或至少提出警告。业内人士建议，相关部门可尝试建立全网“数字水印或签名”系统，所有要播发的音视频、图片，都须打上数字水印或签名，便于追溯查询。
二是事后鉴伪。例如，鼓励企业加大对鉴伪技术研发的投入，抓紧开发能识别深度伪造内容的工具。还有研究人员指明，区块链技术或将成为“恢复互联网信任”的最佳切入口。
网络技术与人工智能在带来技术红利的同时，也将达摩克利斯之剑高悬于人类社会的头顶。如何兼顾技术进步与社会伦理、平衡收益与风险并兼顾发展与安全，将是未来人类社会的一场大考。
文/点苍居士
相关文章
-
发改委等13部门联合发文： 大力发展技术转移、创业孵化等科技服务业
创头条消息 3月23日，发改委官网公开《关于加快推动制造服务业高质量发展的意见》，意见提出，提升制造业创新能力。发展研究开发、技术转移、创业孵化、知识产权、科技咨询等科技服务业，加强关键核心技术攻关，加速科技成果转化，夯实产学研协同创新基础，推动产业链与创新链精准对接、深度融合，提升制造业技术创新能力，提高制造业产业基础高级化、产业链供应链现代化水平。以下为意见全文：关于加快推动制造服务业高质量发...
2021-03-23 20:27:57 制造业服务业供应链 -
普京邀请拜登举行线上视频会谈竟被美方拒绝！
因美国总统拜登在受访时认同俄罗斯总统普京是“杀手”这一说法，美俄两国的关系近期再度出现震荡。对此，俄罗斯国内反应激烈，而普京本人则显得颇为平静，以一句“我祝他身体健康”回应了拜登的言论。俄罗斯卫星通讯社报道截图据俄罗斯卫星通讯社当地时间3月22日报道，俄外交部当天透露，美国拒绝了普京提出的与拜登进行线上视频会谈的建议。而据俄罗斯塔斯社同日报道，俄总统新闻秘书佩斯科夫也证实，普京和拜登将不会在3月 俄罗斯塔斯社引述俄总统新闻秘书的话，证实此事据俄卫星通讯社报道，俄外交部22日在一份声明中称：“我们遗憾地报告...
2021-03-23 08:25:15 美方线上视频 -
深度 | 外交天团强势反击，美帝已然穷途末路！
作者：坏土豆来源：一个坏土豆 ( ID：iamhtd )第一部分：整个地球都不够他抢的，美国的算盘，只有中国才能救美国；第二部分：今天，让世界听到中国的声音；第三部分：被剥下新衣的皇帝，为什么说美帝已经穷途末路；第四部分：从美俄欧关系解读美国秩序的衰败；第五部分：美国的盟友，一个能打的都没有，只会添乱；第六部分：美国的GDP是个啥玩意，中国隐藏的实力有多强；第七部分：陪我的国一起逆袭；01最近，我们心潮澎湃眼含热泪，一遍遍看着中美高层会谈上外交天团壮志激怀的视频。这一次，让世界真正听到了中国的声音。 会谈...
2021-03-23 07:29:33 深度 -
王鼎杰：美日澳印远非铁板一块，视频峰会难掩这个深层分歧
很多外媒都认为，这次峰会意在打造一个针对中国的四边同盟。一些智库和学者，甚至已经开始分析四边中哪一边是突围弱点。事实上，外媒的报导只说出了一半真相。而突围派急于寻找突围弱点的做法，恰恰正中某些国家的下怀。平心而论，自古以来，针对单一国家的多边联盟，成功率一向很低。因为多边之间的利害关系很难平衡，分裂点和相互冲突点太多。所以合纵难，连横易。较为成功的例子，只有反法同盟。其原因，恰恰是法国的外交、军事、意识形态战略，都过于咄咄逼人。但即便如此，反法同盟也是在经历了五次失败后，才取得成功。从这个角度看四边同盟，...
2021-03-22 18:41:08 印度洋美国日本王鼎杰 -
波兰清洁技术业务公司「Airly」筹集 330 万美元解决空气质量危机
波兰清洁技术业务公司Airly今天宣布，该公司已筹集330万美元融资，以便在全球范围内扩大其由AI驱动的空气质量平台。Airly的客户包含600多个地方政府和城市，例如香港、雅加达、奥斯陆、格拉纳达，以及飞利浦、维珍、Innogy、普华永道、威立雅和斯堪斯卡等企业客户。Airly将在英国和美国开设办事处，并将员工数量增加一倍。该轮融资由总部位于伦敦的早期风险基金firstminutecapital...
2021-03-22 13:56:45 空气质量空气污染创始人 -
动点汽车技术分析：保时捷将押注硅和高级大功率充电技术
如果说大众汽车希望通过其统一的电池单元专注于规模和成本，那不是保时捷的主要关注点。这家德国高级汽车制造商将从大众汽车的电池平台中受益，但其客户更关心高性能。这就是为什么该公司将阳极押在硅上，并计划为其电动汽车建立大功率充电区域的原因。奥利弗·布鲁姆（OliverBlume）在“大众电池日”上谈到了这些计划。根据保时捷首席执行官的说法，该公司始终是高性能汽车的代名词，在赛车运动中具有悠久的历史，可帮...
2021-03-21 17:08:39 保时捷电池高性能 -
《扑通扑通喜欢你》，拉近了小甜剧和土味视频间的距离
图片来源@豆瓣文丨犀牛娱乐，作者丨冷罐头，编辑丨夏添近几年来，小甜剧成为了深耕垂类圈层的典型案例，且更易出现“小而美”的黑马。在相对稳定的市场份额、小体量的投资等因素的影响下，小甜剧也成为了不少新生影视公司的发力点。二月，由译心传媒、品像文化出品的校园小甜剧《扑通扑通喜欢你》正式上线，从卡司阵容来看，的确不强。但在常常用新人演员挑大梁的小甜剧领域，《扑通扑通喜欢你》是具备着一定先天优势的。出演男主...
2021-03-21 08:49:43 剧集喜欢你剧中 -
抖音能不能看到访客？如何玩转抖音视频？-红神网
抖音是现在比较流行的短视频app，有的朋友喜欢上传生活的小视频到抖音平台上，有了访客量以后就会被更多人看到，那么抖音能不能看到访客呢?抖音是不能看到访客的，抖音目前没有查看访客记录的功能。但是在抖音上......
2021-03-20 15:11:20 抖音访客抖音能不能看到访客抖音看访客 -
-
犀牛财经视频：王菲一场演唱会就赚到的4000万 李亚鹏为什么6年都还不上
https://www.gplp.cn/wp-content/uploads/2021/03/20210319220615588.mp4万万没想到，息影多年的李亚鹏再次以“商人”的身份回归大众视野，却是一段向债权方“求饶”的录音。“我们已经无路可走了。需要怎样我都可以，需要我跪下，需要我趴下都可以。”3月16日，北京市朝阳区人民法院作出判决，被告李亚鹏及哥哥李亚炜向原告北京泰和友联投资有限公司支付...
2021-03-19 23:28:10 泰和友联丽江
| 留言与评论（共有 0 条评论） |
