正在阅读: 百度安全马杰:AI思维重塑安全边界七种武器助力开放生态

百度安全马杰:AI思维重塑安全边界七种武器助力开放生态

2018-11-16 17:33来源:光明网IT频道

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  AI会让世界变得更好吗?

  这是11月16日,百度安全总经理马杰在天府2018国际网络安全高峰论坛发表主题演讲时开场即抛出的问题。

  对于这个问题,马杰给出的答案是,“一定会!”

百度安全马杰:AI思维重塑安全边界七种武器助力开放生态

  以AI思维应对安全新挑战

  基于大数据和云计算,AI正在驱动整个人类社会在组织、制度和经济上的全方位变革。但是,当我们绘制AI时代的宏伟蓝图,将思维模式从Think Mobile向Think AI转向时,也不可避免的迎来了全新的安全挑战。

  在马杰看来,AI时代,一个很典型的特点便是软硬结合。大到智能汽车,小到智能音箱,几乎已经涉及到了终端设备制造商、第三方应用开发商、解决方案提供商、系统开发商、芯片厂商及云端服务商等全产业链环节。随之而来的安全威胁,也不再仅限于传统意义上的高危范畴,系统漏洞、设备劫持、云端风险、数据安全与隐私泄露,无时无刻不在威胁着你我的智能生活。

  AI时代AI思维下的另一特征,是算法正在推动传统行业转型的进程,然而算法自己有时也会“犯错”。

  如上图所示,马杰现场演示了百度安全关于交通安全标识AI识别的最新研究成果——同样是两个“停”的路标,但AI却将其中一个识别为限速60公里,即可以通行。“问题在于,图片在我们肉眼不可见的情况下被动了手脚,它不会影响到我们的判断,但会对AI产生严重的干扰。

  “人工智能还是一个几岁小朋友的水平,只是在特定领域比较强,像这样复杂被干扰的图片是容易引起歧义的,这种研究如果不是我们做在前面,而是黑客做在前面,容易产生非常危险的事情。”

  不过,问题的存在并不意味AI的时代不安全。相反,正如百度安全所坚持的理念,有AI,更安全。“我们需要让AI变得更安全,我们也需要通过AI让我们各种产品变得更安全。”而以技术赋能、标准驱动,生态共建为支点,百度安全也构建了一系列开放生态矩阵,由下至上覆盖基础层、平台层和生态层,以实现多层面的开放协作,共同应对AI时代所面临的全新且多维度的安全挑战,实现产业共赢。

百度安全马杰:AI思维重塑安全边界七种武器助力开放生态

  “七种武器”助力开放共建

  在基础层,百度安全今年推出了BASS下一代AI安全技术栈,将首创的七大技术全面开源汇成“七种武器”,全面解决云管端以及大数据和算法层面的一系列安全风险问题,助力AI生态。在演讲中,马杰系统地介绍了“七种武器”的来龙去脉和实际应用。

  在终端层面,备受行业认可的首先是OASES KARMA系统自适应热修复,其目标是为了解决Android生态高度碎片化所带来的安全隐患。

  众所周知,频繁迭代的Android系统对于旧版本的支持是有限的,大量厂商也缺乏精力和能力主动进行更新,这便造成大量已知的历史安全漏洞没有被修复,很容易成为黑客攻击的对象。“我们帮助终端厂商在系统层面直接解决掉这些问题,”马杰表示,“把漏洞用‘热补丁’补上。”换句话说,KARMA可以实现系统漏洞的实时修复,在减轻厂商成本的同时,还节省了用户时间。

  作为业内首创,KARMA囊括了9项专利技术并已登陆BlackHat、USENIX等国际顶级安全会议,现已运行在覆盖多个行业近亿台终端设备中。

  同在终端层面的还有MesaLock Linux内存安全操作系统,在马杰看来,“现在大部分高权限的安全漏洞,有非常高的比例是通过内存的问题导致的,这是安全行业的顽疾。”而MesaLock Linux则通过大量的审计工作和应用层系统内存安全语言重构,极大降低了整个系统的攻击面,并且使得剩余的攻击面可审计、可收敛。在保留Linux硬件兼容性的前提下,实质性地提升Linux生态的安全性。

  在管道层面,MesaLink TLS提供了一个内存安全的下一代安全通信库。通过对整个加密通讯库进行内存安全语言的重构,MesaLink TLS实现了对Heartbleed等高危漏洞的免疫,同时兼容最新的TLS 1.3版本,使整个通讯效率有大幅提升。

  在云端层面,百度安全则推出了OpenRASP下一代云端安全防护系统、HugeGraph大规模图数据库、AdvBox对抗样本工具箱和MesaTEE下一代可信安全计算服务。

  OpenRASP将新兴的RASP安全防护技术普及化,挂钩敏感函数,实现对数据库全面监控和保护,有效抵御新生漏洞。而作为易用、高效、通用的分析型图数据库,HugeGraph提供毫秒级关联查询能力,可广泛应用于欺诈检测、关联分析、知识图谱和数据治理等场景。

  特别值得一提的是AdvBox对抗样本工具箱,其是在机器学习层面用于自动化攻击AI模型的开源工具。在演讲中,马杰以“人脸识别”为例,讲解了“训练”对于AI提升识别能力的重要性——在恶意的篡改下,别人的照片在AI看来有可能比你更像你。

  这便是AdvBox对抗样本工具箱的意义所在,“我们把这个能力做成开源的工具分享给大家,不仅支持各家的深度学习平台,也支持多个主要的深度学习训练平台。让我们的工程师、我们的科学家可以自己生成更多的对抗样本,去分析学习和研究如何让我们的算法变得更强大,而不至于被这种东西所欺骗。”马杰表示,而AdvBox对抗样本工具箱的源代码向整个社区开放,百度安全将与社区共同努力,构建安全的AI生态环境。

  当AI时代网络安全防御体系逐渐完善,甚至到密不透风,其也带来了一个现实的矛盾——在用数据给用户创造价值的同时,如何实现隐私保护并确保合规?百度安全给出的答案是MesaTEE,下一代可信安全计算服务。

  基于百度HMS高级内存安全技术和英特尔SGX硬件防护,MesaTEE可以让云上数据得到芯片级的安全保障,数据可在放到其平台中进行综合计算。“我们互相既看不见对方具体的数据,又能用到对方数据的能力,从而实现数据保护与数据价值实现的兼顾和平衡。”

  为行业也为全社会

  基于以“七种武器”为代表的技术能力和在安全领域18年最佳实践的总结与提炼积累,百度安全在平台层为行业提供了一系列完整的开放解决方案。

  首先,是智能终端。

  即便是现在,我们身边也都已经有了不少智能终端设备。而这些设备一旦被劫持、篡改,将产生非常严重的危害——数据的泄露、支付的风险,甚至是对家庭财产和人身安全的损害。

  整合设备端、管道和云端的技术能力,百度安全智能终端安全解决方案为行业提供了一个可靠而便捷的安全保障。截止目前,该方案已超过30家合作伙伴,囊括中外学界、业界的重要院校和企业,覆盖包括智能手机、智能电视、智能音箱、智能家居、智能车载和服务器等众多领域在内的超过1亿部设备。

  第二,是智能车机。

  当下,汽车产业已全面进入智能互联时代,作为中枢,智能车机承担着从娱乐、社交、支付等交互的应用到人类复杂语言指令的识别,再到对各类数据的采集、分析和自我学习等诸多至关重要的功能。但是,复杂的生态系统也对应带来了巨大的安全挑战,且这一挑战不仅涉及到你我个人的隐私和财产安全,也延伸到人身和公共利益层面。

  百度安全联合百度Apollo信息安全实验室推出的智能车机安全解决方案正是为此而来,通过全面检测、纵深防御、安全可视、免召回修复四大特色能力,帮助厂商有效应对智能车机面临的各类安全风险,全面确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全,提供4S全生命周期的安全保障。

  第三,则来自社会治理层面。

  利用开源的HugeGraph大规模图数据库及所掌握的部分非法人员信息数据,包括不久前在公安机关“滤网行动”中配合侦破国内首例手机访客营销黑产在内,百度安全迄今已协助破获全国多起电信诈骗、DDoS黑产、撞库黑产、伪基站黑产、流量劫持黑产、用户隐私窃取黑产等重大案件。全方位实现从警务数据整合治理到分析挖掘,助力智慧公安新业态。(李经)

[责编:彭扬]

阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国改革开放40年的全球意义

  • 河南汝阳:党建引领扶贫 畜牧助推增收

独家策划

推荐阅读
12月13日凌晨3时,在青海省海西州茶卡镇上演极美光柱,吸引了摄影爱好者驻足拍摄。朱剑男 摄  12月13日凌晨3时,在青海省海西州茶卡镇上演极美光柱,吸引了摄影爱好者驻足拍摄。
2018-12-15 15:00
受连日寒潮侵袭,有“江南第一仙山”之誉的江西省三清山风景区迎来降雪,景区被白雪覆盖,玉树琼枝,漫山琉璃,美若仙境。张和忠 摄  受连日寒潮侵袭,有“江南第一仙山”之誉的江西省三清山风景区迎来降雪,景区被白雪覆盖,玉树琼枝,漫山琉璃,美若仙境。
2018-12-15 14:59
12月12日,在广西环江毛南族自治县龙岩乡万亩草甸,村民在覆盖薄冰的道路上骑行。12月11日,一辆汽车在雪中的山东省枣庄市台儿庄区涛沟河湿地道路上行进。这是在重庆市酉阳土家族苗族自治县毛坝乡拍摄的山林雪景(12月13日无人机摄)。
2018-12-15 11:03
2018-12-13 14:19
黑龙江哈尔滨市的冰雪主题乐园哈尔滨冰雪大世界的采冰和建设工作近日拉开帷幕。为保证足够的优质冰供给,每天有近千名采冰人和700多辆运冰车参与到采冰工作。
2018-12-13 14:17
当日,为期4天的第六届“冬之韵”黑龙江省大学生雪雕比赛在哈尔滨太阳岛雪博会园区进行至第3天,35支高校队伍的作品尽显冬韵。新华社记者 王建威摄  12月12日,选手在雪雕比赛创作中。
2018-12-13 14:17
东莞长安镇南临珠江口,可曾经却是一个吃不上鱼和米的鱼米之乡,为谋生为求变,这个小镇抓住改革开放的时代机遇,把耕地鱼塘建成工厂,更在世界制造业梯度转移中抢抓先机,变迁成长为“手机小镇”,成为中国制造的智能“机”地。新华社记者 李嘉乐摄  广东东莞长安镇一家企业的现代化生产车间(资料照片)。
2018-12-13 14:17
当日,《先秦汉唐画全集》《明画全集》《清画全集》阶段性成果在北京首发,这是“中国历代绘画大系”编纂工作的最新成果。在首发式上,浙江大学、浙江省文物局向国家图书馆捐赠了《先秦汉唐画全集》《明画全集》《清画全集》部分卷册。
2018-12-13 14:16
12月13日,在沈阳“九一八”历史博物馆举行的悼念活动上,小学生代表在诵读公祭文。
2018-12-13 14:04
当日是第五个南京大屠杀死难者国家公祭日,南京大屠杀死难者国家公祭仪式在侵华日军南京大屠杀遇难同胞纪念馆举行。新华社记者 李博 摄  这是12月13日拍摄的南京大屠杀死难者国家公祭仪式现场。
2018-12-13 14:03
今年52岁的何泽华家住安徽宣城市水东老街,是安徽省非物质文化遗产“皖南皮影戏”传承人。2010年,为了传承保护皮影戏,何泽华在宣城市水东老街创办皖南皮影博物馆,馆内保存着1万多件皮影,免费向公众展示。现在,何泽华定期走进宣城市第十一小学,给小学生讲授皮影表演及制作。
2018-12-13 13:23
12月12日,李家巷中心幼儿园的孩子们在进行环保服装走秀,用塑料袋、纸盒和蔬菜等制作成环保服装,展示环保理念。
2018-12-13 13:22
12月12日,在贵州省丹寨县兴仁镇摆泥村生姜种植基地,合作社管理员在分拣生姜。寒冬时节,贵州省黔东南苗族侗族自治州丹寨县1600多亩生姜迎来丰收,各乡镇合作社的社员们抢抓天气,加紧生姜的采收、去枝、清理、运送、分拣等工作,确保市场供应。
2018-12-13 10:45
辽宁省本溪市收藏爱好者毛伟介绍他收藏的《日支时变日记》(2017年12月9日摄)。南京大屠杀死难者国家公祭日前夕,中国近现代史史料学学会在沈阳举办学术研讨会。南京大屠杀死难者国家公祭日前夕,中国近现代史史料学学会在沈阳举办学术研讨会。
2018-12-13 10:19
12月12日,学生将组成纪念图案的白烛摆放整齐。当晚,南京东南大学学生在校园举行“烛光祭”活动,悼念南京大屠杀遇难同胞。学生们点燃白烛,献花默哀,表达哀思。当晚,南京东南大学学生在校园举行“烛光祭”活动,悼念南京大屠杀遇难同胞。
2018-12-13 10:18
12月12日,来自湖南的抗战老兵李湘炳(前)等在侵华日军南京大屠杀中山码头遇难同胞纪念碑前祭奠遇难同胞。当日,来自湖南、江苏等地的4名抗战老兵以及志愿者、南京当地大学生代表等来到侵华日军南京大屠杀中山码头遇难同胞纪念碑前献花、默哀,祭奠遇难同胞。
2018-12-13 10:18
12月12日,获得年度最佳女运动员奖的中国选手丁宁在颁奖典礼后展示奖杯。
2018-12-13 10:01
12月12日,美国总统特朗普前私人律师迈克尔·科亨(前)走出纽约曼哈顿联邦地区法院。当日,曾长期担任美国总统特朗普私人律师的迈克尔·科亨在纽约曼哈顿联邦地区法院被判3年监禁。
2018-12-13 10:00
加载更多