AI安全开启全新商业赛道，清华团队RealAI推出平台级产品抢得先发“身位”
【猎云网北京】4月10日报道
近年来，机器学习作为人工智能行业的“重头戏”，得到了前所未有的发展，其中基于计算机视觉的人脸识别技术更是渗透到了社会生活的方方面面。然而，这些看似无比“聪明”的AI系统却时常会表现出“脆弱”的一面。
例如，在一些训练数据无法覆盖到的极端场景中，自动驾驶汽车的识别系统可能出现匪夷所思的决策，引发致人死亡的严重事故。
此外，这类极端情形也可能被恶意制造并利用，发动“对抗样本攻击”，即通过对输入数据进行细微的、肉眼无法察觉的修改就可以误导识别系统让其给出错误判断。比如百度、腾讯等研究机构就曾人为制作出误导自动驾驶汽车的“障碍物”，让车辆驶入逆行车道甚至面临撞击风险。
其实这些安全风险的背后都是由于现有的人工智能存在技术性缺陷，即算法漏洞，随着人工智能的落地应用逐步从语音识别、人脸识别等受限场景延伸至金融决策、医疗诊断、自动驾驶等关键核心场景，算法漏洞的威胁将愈发凸显出来。
为了解决以上问题，已经有科技公司开始了相关研究和应用开发，包括百度针对对抗样本开发的工具包AdvBox，IBM推出的检测模型及对抗攻击的开源工具箱ART（Adversarial Robustness Toolbox）。
最近，一家定位为“安全可控第三代人工智能”的创业公司，孵化自清华大学AI研究院的RealAI（瑞莱智慧）正式发布业界首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台——RealSafe人工智能安全平台。与百度、微软推出的工具不同，RealSafe是目前算法安全领域出现的首个平台级产品。
业界首个AI模型“杀毒软件”，RealAI开辟全新商业赛道
据RealAI CEO田天介绍，不同于用AI技术赋能网络安全、安防等传统安全领域，算法安全关注的是人工智能本身的安全性，这一安全风险本质上由人工智能“技术短板”所导致，将是限制人工智能发展最明显的“软肋”。
目前学术界跟产业界都开始意识到算法安全的重要性，2018年中国信息通信研究院安全研究编制的《人工智能安全白皮书》中，将“算法安全”列为人工智能六大安全风险之一，只不过在具体的应对措施上，目前仍然存在诸多挑战。
第一，作为新兴领域，业界对于如何评价算法模型的安全性并没有清楚的定义。而随着攻防相互的发展，对抗样本等新型攻击手段层出不穷，而且变得愈发复杂，尤其在开源社区、工具包的加持下，高级复杂攻击方法快速增长，但是相关防御手段的升级却难以及时跟上。
第二，对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测评估工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。因此，在潜在层面上，随着人工智能的大规模应用，算法漏洞带来的安全威胁将持续升级。
所以，田天表示，就如网络安全时代，网络攻击的大规模渗透诞生出杀毒软件，RealAI团队希望通过RealSafe平台打造出人工智能时代首个“杀毒软件”，帮助企业高效应对人工智能时代下算法漏洞孕育出的“新型病毒”。
从安全测评到防御加固，RealSafe高效应对算法威胁
据介绍，RealSafe平台提供从算法安全评测到防御加固整体解决方案，主要支持两大功能模块：模型安全测评、防御解决方案。
其中，模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口，选择平台内置或者自行上传的数据集，平台将基于多种算法生成对抗样本模拟攻击，并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化，给出模型安全评分及详细的测评报告。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。
防御解决方案则是为用户提供模型安全性升级服务，目前RealSafe平台支持五种去除对抗噪声的通用防御方法，可实现对输入数据的自动去噪处理，破坏攻击者恶意添加的对抗噪声。在外防御效果上，根据实测来看，部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后，安全性可提高40%以上。
而且为了帮助更大范围内的企业高效应对算法威胁，RealSafe平台还具备以下两大优势：
• 组件化、零编码的在线测评：相较于ART、FoolBox等开源工具需要自行部署、编写代码，RealSafe平台采用组件化、零编码的功能设置，免去了重复造轮子的精力与时间消耗，用户只需提供相应的数据即可在线完成评估，学习成本低，无需拥有专业算法能力也可以上手操作。
可视化、可量化的评测结果：为了帮助用户提高对模型安全性的概念，RealSafe平台采用可量化的形式对安全评测结果进行展示，根据模型在对抗样本攻击下的表现进行评分，评分越高则模型安全性越高。此外，RealSafe平台提供安全性变化展示，经过防御处理后的安全评分变化以及模型效果变化一目了然。
随着模型攻击手段在不断复杂扩张的情况下，RealSafe平台将持续提供广泛且深入的AI防御手段，帮助用户获得实时且自动化的漏洞检测和修复能力。
从数字世界到物理世界，RealAI落地更多安全周边产品
随着机器学习模型不断的升级演化，“对抗样本”已经演变成一种新型攻击手段，并且逐渐从数字世界蔓延到物理世界。
因此，除了针对数字世界的算法模型推出安全评测平台，RealAI团队也联合清华大学AI研究院围绕多年来积累的领先世界的研究成果落地了一系列AI攻防安全产品，旨在为更多场景保驾护航。
比如通过佩戴带有对抗样本图案的“眼镜”，黑客可以轻易破解商用手机的面部解锁，通过在胸前张贴特制花纹实现在AI监控下的“隐身”，以及通过在车辆上涂装特殊花纹躲避AI对车辆的检测。发现类似新型漏洞的同时，RealAI也推出相应的防御技术，支持对主流AI算法中的安全漏洞进行检测，并提供AI安全防火墙对攻击AI模型的行为进行有效拦截。
人工智能的大潮滚滚而来，随之而来的安全风险也将越来越多样化，尤其近年来因AI技术不成熟导致的侵害风险也频频发生，可以说，算法漏洞已逐渐成为继网络安全、数据安全后又一大安全难题。而RealSafe人工智能安全平台的出现，不仅在为垂直行业降低应对安全风险的门槛与成本，同时其标准化的平台级产品，也是AI安全这个新兴领域，迈向健康可控的重要标志。
相关文章
-
在线教育破局：高增长的3种流量转化模型
长期以来，大多数人观察在线教育行业，经常问两个问题：怎么拉新？怎么变现？而作为业内人士，尤其是做运营这个岗位的经历告诉我：相比变现，拉新方面会关注的更多一些。很多运营人一看到“60分钟教你短视频涨粉”、“10节课学会公众号引流”等课程会忍不住下单的原因，就是因为拉新，无论是对个人还是对企业，都是很强的刚需。但是，做增长的都会明白，付费用户的增长才是关键，而且还是规模化的增长，毕竟拉新只是第一步，最...
2020-04-09 20:17:09 用户社群模型 -
欣慰！青山有幸埋忠骨：王伟墓前有人送来歼20模型！
刚刚过去的4月1日，是“海空卫士”王伟牺牲19周年纪念日，他的父母不久前，特地为抗疫捐款一万元。但二老心有遗憾：马上到来的清明节，考虑到疫情防控，外加年迈行动不便，他们取消了今年的扫墓行程。青山有幸埋忠骨，烈士墓前抚英魂。昨天，小时新闻记者特地赶到位于杭州安贤陵园的王伟烈士墓前，祭扫献花。缅怀先烈，还收获了很多感动。有人来王伟墓前献花还有人拿来一架歼-20战斗机模型青松翠柏掩映，三面青山环抱。清 王伟烈士的墓地，位于功勋苑。在这里安息的，都是为民族独立、人民解放和祖国建设作出过卓越贡献的老革命和英勇战士。...
2020-04-04 17:25:08 忠骨青山欣慰 -
君创基金杨桓：人工智能是未来十年产业发展的底层思维
“人工智能是未来新基建中，极其重要的产业发展方向，也是下一个十年产业发展重要的底层思维。”君创基金杨桓在“科技传播助力企业发展”第5期网上路演行动人工智能专场活动后接受采访时表示，人工智能+产业在国内发展落地中还存在一些问题。包括对人工智能理解不够、技术人才储备不足、难以找到合适应用场景等，需要各方加大对人工智能的理论知识研究、人才培养和科研立项支持。他提醒从事人工智能的创业项目应多从产业角度出发...
2020-04-04 13:17:04 人工智能产业中国科协 -
-
美模型预测最高24万死亡病例 最糟情形会发生吗
新华社华盛顿4月1日电新闻分析：美国模型预测最高24万死亡病例 如何防范疫情恶化新华社记者谭晶晶根据美国约翰斯 霍普金斯大学最新数据，截至当地时间4月1日22时（北京时间4月2日10时），美国新冠肺炎确诊病例已超21.3万例，死亡病例超过4700例。美国白宫冠状病毒应对工作组3月31日预测，即使在现有干预措施下，美国新冠肺炎死亡人数最终可能在10万到24万之间。这个预测数字说明了什么？最终情况会如此糟糕吗？多名美国医学和流行病学专家在接受新华社记者采访时表示，这一预测是基于对美国疫情持续发展的分析得出的，...
2020-04-02 17:25:40 病例情形 -
许娟：人工智能 医疗专家的好帮手
近年来，在传统医疗行业，人工智能逐步在疾病辅助诊断治疗、个人健康管理、基因药物研发、医院智能管理等多个环节，发挥出优势和独特作用，日益成为医疗专家的好帮手。患者到医院就诊，可能需要做CT、核磁等影像检查。一次CT检查就能产生几十到数百层的CT图像。一家普通三级医院的影像科，每月产生的影像数据相当于150万张图片。影像医生需要浏览全部图像并找出病变。这一过程相当耗时耗力。近年来，许多国家影像检查数量...
2020-04-02 07:17:05 人工智能影像大脑 -
懂知乎排名算法轻松获得大量的免费流量
他叫方圆，裂变增长实验室的联合创始人，也是我的同事，同时也是我做知乎流量的老师。他是知乎营销的受益者，因为连续写出来高赞回答，曾一篇回答写出来第二天冲到了4千赞，第三天上了6千赞，后来慢慢到了8千赞，带动了那个姐妹题上了热榜，所以一直坚持在做平台流量，后来凭着做知乎流量的技巧开始混流量圈，我跟他是在亦仁的生财有术社群里。以下内容，是他这些年写知乎，拆解知乎总结来的独家心得，很多内容都是你花钱买不到...
2020-03-31 09:17:09 微软自己的干货 -
项目最高获2000万元补助，安徽十项措施支持人工智能产业创新发展
省政府日前发布关于支持人工智能产业创新发展若干政策的通知，主要包括十项措施。《若干政策》明确，提升创新能力，建设合肥综合性国家科学中心人工智能研究院，为人工智能产业创新提供支撑；实施人工智能产业创新工程。对技术含量高、市场潜力大的项目给予最高500万元的奖励。建设支撑平台，鼓励企业、科研机构、行业协会等建设高水平人工智能公共服务平台、开源和共性技术平台；建立合格平台服务商目录和评价制度，以3年为一...
2020-03-27 13:17:04 人工智能万元项目 -
网上路演行动人工智能专场成功举办，助力创企资本对接
2020年3月26日下午，“科技传播助力企业发展”第5期网上路演行动人工智能专场活动如期举办。齐悟CEO王一、雅森科技CEO陈晖、希尔贝壳CEO卜辉进行了线上路演展示。据介绍，齐悟专注于智能语音交互技术研发，产品目前已覆盖出行、娱乐、咨询、儿童教育等200余种高频生活场景。雅森科技是国内较早专注于医学影像人工智能分析、核医学定量及CAD分析的高科技企业，面向医疗机构提供业界领先的雅森天玑智慧医疗平...
2020-03-26 20:17:09 人工智能希尔专场 -
揭秘抖音短视频推荐算法，成为网红你也可以！
很久没有执笔写文章了，一方面是工作原因太忙，另一方面也是静静在提升学历，学业方面也比较紧张，原先一天一篇的频率估计是做不到了，但一周一到两篇文章还是可以有的，今天呢，就先跟大家聊一聊短视频运营吧。近两年短视频的火爆大家都很清楚，因此有越来越多的人也都想要进入这个领域，希望成为网红，希望通过短视频流量卖货赚钱，而企业也希望通过短视频快速推广宣传自己的品牌及产品，但是问题来了，短视频要怎么做才能达到这...
2020-03-17 16:17:06 视频微软算法
| 留言与评论（共有 0 条评论） |
