资讯参考,东方金报

微信
手机版
东方金报

因为这项“危险技术”,11家互联网公司被约谈!

作者 :正文注明 2021-03-24 08:10:50 围观 : 评论

来源公众号: 侠客岛
微信ID:xiake_island

3月18日,国家网信办、公安部指导各地网信部门、公安机关,依法约谈11家互联网企业,包括映客、小米、快手、阿里、腾讯等互联网巨头。


值得关注的是约谈事由。相关公告称,这些企业的软件被点名“未履行安全评估程序”和“涉‘深度伪造’技术”,要求其认真开展安全评估,切实履行企业信息内容安全主体责任。


2019年6月,一款名为DeepNude的App风靡全球。用户只需上传一张照片,其中人物便可自动“脱掉”衣服,裸体示人。


2020年12月流传的一则视频中,“英国女王”在发表圣诞致辞时突然跳上桌子手舞足蹈,说自己早就不满于对着镜头念稿。事后媒体承认,该视频是将女王面孔合成到演员身上制成,用以警示人们“虚假信息充斥网络”。


今年,不少短视频平台推出魔性“蚂蚁呀嘿”视频。玩家只需上传一张照片,图中人就能扭起脖子、瞪着眼睛唱歌。有网友说:只要找到脸,蒙娜丽莎都能蹦起来。


这些产品的基础都是深度伪造技术。


所谓深度伪造(Deepfake),是指有关软件通过AI换脸、语音模拟、视频生成等方式,对既有图像、声音、视频进行篡改、伪造,自动生成音视频产品。


深度伪造通常由生成器、鉴别器两个系统组成。生成器生成假音视频片段,鉴别器辨别该片段真假,从而构成“生成式对抗网络”,通过不间断“反复生产”,合成能以假乱真的音视频。


技术有了,应用场景就多了。


比如,逼真的虚拟教师能让数字教学更具互动性,虚拟主播在各大媒体平台吸睛不断,影视作品可凭虚拟化身突破创作的时空限制,医疗、零售、娱乐等领域的人形问诊机器人、虚拟客服、虚拟偶像等也多由深度伪造生成。


但同时,深度伪造也被视作当今世界“最危险的AI技术”之一。


例如,DeepNude“脱衣换脸术”就曾进入国内市场,在一些平台上只需100元即可打包购买数百部换脸色情片;某反欺诈语音软件公司对美、英、法、德4国的语音合成市场调查结果显示,每638个欺诈电话中就有一个是人工合成声音;美联社报道称,一名间谍使用深度伪造技术生成图片,在某职场社交平台多次骗取行业信息。


短视频平台上流行的“蚂蚁呀嘿”视频(图源:网络)


在美剧《越狱》中,男主角的兄长被控谋杀,唯一的证据是停车场内的监控视频。经过无数波折,男主角最终发现这视频居然是剪辑、拼接修饰而成。那时还没有深度伪造技术,但显然,现在的技术给类似事件提供了更多实现的便利。


有研究论文称,深度伪造可让人“言”所未言、“行”所未行,甚至成为实施色情报复、商业诋毁、敲诈勒索、网络攻击等非法行为的工具,损害个人和企业合法权益。


美国情报界2019年研究报告称,深度伪造已为美国带来一系列安全风险,包括出现了“假奥巴马”在换脸视频中人身攻击竞选对手、“假特朗普”出镜批评别国环保政策等假视频。该报告称:“敌对势力很有可能通过深度伪造加强对美国及其盟友的影响渗透。”


深度伪造还能通过篡改新闻报道、传播虚假信息,削弱国家机构及官方新闻媒体公信力,扰乱公共秩序甚至政治秩序。2018年,印度有人在即时通讯软件上散布利用深度伪造技术制造的虚假信息,导致一些无辜民众被认为是绑架儿童的嫌犯,最终有20余人被殴打致死。


此外,深度伪造还可能加深公众对各方的不信任感,进而引发社会忧虑、信任危机。


中国传媒大学国家传播创新研究中心副研究员姬德强表示,在人类历史中,“眼见为实”占据着最基本的认识论权威,大家相信视觉文本的客观属性。如今,深度伪造对此构成了前所未有的挑战,很大程度将冲击基于“真相”的社会意义和价值空间。


换言之,有了PS后,有图不一定有真相;有了深度伪造呢?你看到和听到的都未必是真实的。


美国华盛顿,一名记者观看“深度伪造”视频。图源:视觉中国


对深度伪造严加监管,刻不容缓。


在国际上,比如美国近年来陆续出台包括《2018年恶意伪造禁令法案》《深度伪造责任法案》在内的多项法案,对深度伪造技术进行严格的使用限制。


中国《民法典》规定,任何组织或个人不得以丑化、污损,或利用信息技术手段伪造等方式侵害他人的肖像权,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。


2020年12月,中共中央印发《法治社会建设实施纲要(2020-2025年)》,提出制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法。


从技术角度讲,对深度伪造的负面应用要严防死守,有两方面关键操作:


一是事前识别。将识别伪造音视频技术部署在传播渠道前端,禁止虚假内容发布,或至少提出警告。业内人士建议,相关部门可尝试建立全网“数字水印或签名”系统,所有要播发的音视频、图片,都须打上数字水印或签名,便于追溯查询。


二是事后鉴伪。例如,鼓励企业加大对鉴伪技术研发的投入,抓紧开发能识别深度伪造内容的工具。还有研究人员指明,区块链技术或将成为“恢复互联网信任”的最佳切入口。


网络技术与人工智能在带来技术红利的同时,也将达摩克利斯之剑高悬于人类社会的头顶。如何兼顾技术进步与社会伦理、平衡收益与风险并兼顾发展与安全,将是未来人类社会的一场大考。

文/点苍居士

编辑/绫波、云歌


相关文章

  • 陈都灵一袭绿色抹胸长裙 站在柳树下宛若自然精灵
    陈都灵一袭绿色抹胸长裙 站在柳树下宛若自然精灵

    近日,陈都灵最新造型美照释出,她身着一袭绿色抹胸长裙,站在柳树下宛若自然精灵,神秘而又清新。...

    2025-04-24 09:21:51
  • 梁朝伟刘嘉玲周润发齐聚 为杜琪峰庆生掀起回忆杀
    梁朝伟刘嘉玲周润发齐聚 为杜琪峰庆生掀起回忆杀

    4月22日晚,刘嘉玲于社交账号上发布了与梁朝伟、周润发、张叔平等好友为杜琪峰庆生的合影,画面中众人笑容满面,多年情谊尽显。刘嘉玲周润发同框合影,刘嘉玲微卷的利落短发造型十分吸睛。...

    2025-04-24 09:21:44
  • 林心如就黄子佼事件强硬表态:对虐待及影片持有行为零容忍
    林心如就黄子佼事件强硬表态:对虐待及影片持有行为零容忍

    台媒消息显示,林心如于近期就黄子佼藏匿未成年人性影像一事再度发声。她郑重表明立场,明确表示对虐待未成年人以及持有相关影像的行为绝无妥协余地。...

    2025-04-24 09:21:41
  • 蒋勤勤复古牛仔秒变港风女神 红唇大波浪风情万种
    蒋勤勤复古牛仔秒变港风女神 红唇大波浪风情万种

    蒋勤勤晒出一组写真,身穿复古牛仔外套秒变上世纪港风女神。...

    2025-04-24 09:21:29
  • 董璇泳池旁喝椰子水好惬意 穿优雅礼裙身姿曼妙
    董璇泳池旁喝椰子水好惬意 穿优雅礼裙身姿曼妙

    近日,董璇在社交平台上晒出一组写真美照,并配文称:“提前在广州感受了夏日赛道。”照片中,她身着一袭优雅礼裙在游泳池旁喝椰子水,面露明媚笑容,十分惬意。...

    2025-04-24 09:21:14
  • “疯王”毫无信誉!
    “疯王”毫无信誉!

    原创: 申鹏来源公众号:平原公子已获授权转载“关税战”刚打没几天,特朗普又开始扯犊子了。他表示——“对华145%关税确实很高,协议达成后美对华关税将大幅下降,但不会降至零”。美财长贝森特也表示,当前局势本质上是贸易禁运。美国目标并非与中国脱钩,两国可能在两到三年内达成一项全面协议。贝森特还说:“眼下中美关税对峙僵局“难以为继”,并称预计“短时间内”将出现缓和态势后,“先眨眼”的美国总统特朗普再度释放“降温”信号”。特朗普还说出了逆天言论——“我们会对中国很好的,我们会幸福地生活在一起.......”谁TM...

    2025-04-24 09:21:05
  • 形势比人强,特朗普关税战打不下去了!
    形势比人强,特朗普关税战打不下去了!

    原创: 后沙来源微信公众号:后沙已获转载授权昨天在短短不到6个小时之内,特朗普发动的关税战又变调了。北京时间0时左右,美国财政部长贝森特在摩根大通的闭门会议上,放风称,中美之间的高关税是不可持续的,预计会降温。预计什么,预料到中国的态度?自己信吗?1点左右,白宫发言人莱维特在新闻发布会上也表达了类似的态度。5点左右,特朗普亲自确认,针对中国进口商品的关税税率不会维持在当前水平(145%),“它会大幅下降,但也不会降至零,中国将对最终的关税税率非常满意”。特朗普还说了些肉麻的话,要和中国幸福地生活在一起(v...

    2025-04-24 09:21:03
  • 孟佳一头金发短发酷飒帅气 造型百变时尚感满满
    孟佳一头金发短发酷飒帅气 造型百变时尚感满满

    孟佳晒出一组时尚大片美照,照片中她大胆尝试新造型,一头金发搭配黑色抹胸上衣,酷飒凌冽。...

    2025-04-24 09:21:02
  • 怂是真认怂,事是真没完!
    怂是真认怂,事是真没完!

    作者:码头整薯条的海鸥来源:码薯学人今天我们来聊聊服软的特朗普。在美国时间4月22号发生了4件事:特朗普公开说开始考虑降低对华关税税率(强调不是0);特朗普放出消息说中美贸易谈判进展顺利;特朗普表示无意解雇美联储主席鲍威尔,但是还是要求美联储降息;特朗普的财长贝森特在22号摩根大通的闭门投资会上明确表示中美贸易战不能长期持续。这4条消息合在一起,我们可以明确一点,特朗普在释放善意。但是,善意不代表胜利。果然,就在4月23日,美国媒体突然传出消息说中美芬太尼谈判陷入僵局。22号的宣传口径表明特朗普确实在认怂...

    2025-04-24 09:21:01
  • 特朗普不想打关税战了,想和中国幸福地生活在一起!
    特朗普不想打关税战了,想和中国幸福地生活在一起!

    原创: 一棵青木来源公众号:远方青木已获转载授权特朗普发动的关税战又进入新阶段了,以一种你想都不敢想的方式。4月23日,特朗普公开发言称对中国的145%关税太高了,自己很快会大幅度降低,但不会降低到零。特朗普还说,中国将对最终的关税税率非常满意,但他们必须跟美国达成协议。还有更离谱的,特朗普说:“我认为中国会很高兴,我们会幸福地生活在一起”。没错,真的是这么说的。中文翻译看起来非常肉麻,但原文其实更肉麻,特朗普使用的英文单词原文是“very happily”。不仅要在一起(live together),还...

    2025-04-24 09:20:59