当前位置 > 首页 > 科技前沿 > 正文

360安全团队再登USENIX Security 展示研究成果
  • 发布时间:2019-09-22
  • www.ruetoo.com
  • 0×251C

    最近,360智能安全团队应邀参加了信息安全领域的顶级国际会议,即2019年的USENIX安全。将在8月15日至17日的会议上分享“0x9A8B”的主题,介绍人工智能视觉系统的潜在安全风险和防御方法。USENIX安全是20世纪90年代初开始的信息安全(包括S&P、CCS、NDSS)领域的四大学术会议之一,同时,中国计算机学会(CCF)将USENIX安全划分为“网络与信息安全”A类。会议(分为ABC三大类,A类为最佳);被清华大学列为计算机科学与技术系重要国际学术会议A类会议。世界顶尖学者技术委员会只能批判性地审查安全研究的最创新和最重要的价值。

    在360冰山实验室于2017年首次在usenix security发布中国公司的独立研究成果后,这场具有20多年历史的顶级安全会议又迎来了360项研究成果的展示,标志着360将继续保持国际化。学术安全研究领域的一流水平。

    这一次,360智能安全团队发现了图像处理中潜在的安全风险图像维度转换攻击。攻击者可以构建攻击图片,在维度变化后会导致输入图像的内容语义发生明显变化,导致人与机器认知差异,从而达到欺骗和逃逸检测的攻击效果。与深入学习模型的对策样本不同,攻击方法不仅限于特定的模型,而且影响较大。

    为了验证攻击方法的有效性,360智能安全团队成功地基于流行的深度帧(如Caffe,Tensorflow和Torch)对多个AI视觉应用程序实施了欺骗攻击。此外,360 Smart Security团队还检查了此风险对业务愿景服务的影响。实验结果表明,即使黑盒系统仍然可以通过测试策略获取被攻击对象的算法和相关参数,并启动图像维度转换攻击。经过测试,国内主流云AI服务和Microsoft Azure及其他国际制造商提供的机器视觉服务也存在类似的风险。目前,360智能安全团队已与相关供应商沟通并修复了评估结果和维修解决方案。

    360智能安全团队是专注于人工智能安全风险研究的顶级团队。它是第一个在全球范围内发现许多安全问题的人,涉及用于安全,应用程序安全,模型安全和数据安全的AI系统。

    目前,它在多个深度学习框架及其相关组件中发现了60多个漏洞,可能导致任意代码执行,拒绝服务攻击,控制流劫持,信息泄露和其他危害。黑客可以利用这些漏洞攻击AI系统或应用程序,窃取用户隐私或AI供应商的知识产权(例如用户数据,超参数,模型参数等)。目前,360正与Cambrian和华为等厂商合作,在AI系统中部署相应的安全解决方案。

    此外,360智能安全团队还参与了一系列人工智能安全标准的制定,以开放和协作的态度推动了人工智能安全的发展。

    威尼斯赌博游戏

    广陵信息网 版权所有© www.ruetoo.com 技术支持:广陵信息网 | 网站地图