• 移动端
    访问手机端
    官微
    访问官微

    搜索
    取消
    温馨提示:
    敬爱的用户,您的浏览器版本过低,会导致页面浏览异常,建议您升级浏览器版本或更换其他浏览器打开。

    人工智能时代更安全?百度韩祖利:机遇与挑战并存

    来源:中新经纬 2018-03-30 08:58:22 人工智能 安全 金融安全
         来源:中新经纬     2018-03-30 08:58:22

    核心提示百度安全产品部总经理韩祖利在主旨演讲中表示,人工智能领域的安全战线比之前更长、更复杂,包括现在广为流行的生物识别技术也存在安全隐患:在光照足够的情况下,10米开外用单反相机就可以拍到虹膜,并且低成本地复制出来。

      由中国新闻社旗下财经新媒体中新经纬主办的第五届财经中国V论坛28日在北京举行。百度安全产品部总经理韩祖利在主旨演讲中表示,人工智能领域的安全战线比之前更长、更复杂,包括现在广为流行的生物识别技术也存在安全隐患:在光照足够的情况下,10米开外用单反相机就可以拍到虹膜,并且低成本地复制出来。

    人工智能时代更安全?百度韩祖利:机遇与挑战并存

    百度安全产品部总经理韩祖利。中新经纬 李卿摄

      人工智能能为互联网安全做什么?

      韩祖利表示,百度每天在互联网上抓取到几十亿网页,其中不可避免有一部分包含恶意攻击,如银行仿冒网站、虚假中奖信息、博彩或色情网站等。这些恶意网站也非常狡猾,不断变换规则以逃避网址安全检测和监察。

      韩祖利表示,过去只能靠人工来发现恶意网站,并从中总结出一些通用匹配的规则。有了人工智能后,这个工作就变得更加轻松了:人类可以把筛选出的绝对违法、绝对有恶意的网站去训练一个模型,用它不断在几十亿网页里寻找新的恶意方式和欺诈方式。

      据他介绍,目前在某些领域,人工智能的准确率已超过人类,因为人总会被一些信息误导。例如字符1和I非常相近,人可能会出现判断失误,但对于机器来讲不可能弄错。还有一些攻击者使用图片显示恶意信息以逃避监管,这时可使用人工智能的图片识别功能,将这些恶意网页打捞出。

      人工智能时代的安全战线比之前更长

      韩祖利认为,人工智能时代的安全战线比之前更长、更复杂,多了数据风险、传感器欺骗等棘手难题。

      据他介绍,人工智能在进行图片分类时,具有极易受干扰的一面。虽然人工智能在某些方面精准度可超过人类,但在复杂情况下还远远达不到。例如,两张自行车图片在人类看来一模一样,但对于机器很可能并不一样,如果加一些干扰因子,机器会把其中一辆识别成蟑螂。

      韩祖利称,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被复制。据了解,在光照足够的情况下,10米开外用单反相机可以拍到虹膜,可以低成本地复制出来。此外,生物识别传感器本身没有那么高精度,很容易会被欺骗,导致采集的数据出现问题。

      此外,韩祖利还表示,目前人工智能的研究应用,基本上都会沿用一些框架,依赖库非常多;但依赖库本身往往存在安全漏洞,导致人工智能也不可避免存在风险。

      百度如何应对人工智能的潜在风险?

      韩祖利认为,为应对人工智能的潜在风险,百度研发了如下技术工具:

      首先是对抗样本工具包Advbox。百度提供了一套安全对抗样本的工具,以测试深度学习模型抵御对抗样本的健壮性,在使用PaddlePaddle(百度深度学习平台)时,可以检验生物识别、图像验证等会不会出现问题。这套工具会随着PaddlePaddle的开源,提供给整个产业。

      其次,是多因子认证解决方案。人工智能行业尚缺乏标准,对于生物认证单靠一个因子并不可靠,弥补单一因子的局限性和安全风险,同时采取两种或两种以上的认证方式,比如强因子与弱因子叠加,同时欺骗两种认证方式,难度就大很多了。此外,想要安全地上线生物识别,无疑需要一个更强大更统一的生物识别行业标准,这需要整个产业链互联网厂商、硬件厂商、芯片厂商、安全厂商、行业监管部门、学界通力合作,切实保障身份认证全产业链的安全。百度基于多年生物识别的研究与实践,持续加大对多因子认证行业核心技术与解决方案的研发投入,同时拓展多因子认证新场景。

      此外,关于IOT(物联网)在整个智能设备中的安全问题,百度也提供了一套完整的框架解决方案免费给很多厂商使用,包括云端的安全、在设备端提供病毒防护,甚至一些漏洞的热修复能力等,都在不断完善。

    责任编辑:韩希宇

    免责声明:

    中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。

    为你推荐

    猜你喜欢

    收藏成功

    确定