近日，由中国科技部牵头的“科技创新2030重大项目——国家新一代人工智能安全大脑开放创新平台”正式进入实施评审阶段。该项目由360牵头，与清华大学，瑞莱智能现实、中科院自动化研究所和中科院信息技术研究所合作完成。其中，“面向人工智能算法的安全对抗攻防”任务将由清华大学和瑞莱Smart RealAI联合承担。

人工智能安全是广泛智能应用的基础。在推动新一轮科技革命的同时，人工智能本身严重的安全问题也引入了全新的安全威胁，尤其是涉及国防、经济、民生的人工智能设施和系统。一旦受到攻击，可能威胁国防安全、企业安全、公民财产和生命安全。

科技创新2030重大工程是体现国家战略意图的重大工程。作为提升人工智能自身安全性的重要课题，人工智能算法模型的安全性研究参与其中，体现了国家新一代人工智能发展规划对人工智能安全治理的重要布局。

RealAI负责“面向人工智能算法的安全反击与防御”研究项目，主要研究深度学习反击与防御中存在的问题，以及深度学习反击、鲁棒防御和算法库，为人工智能模型的安全可靠应用提供理论基础和技术储备。

本课题的开发将基于开源开放的原则，在技术层面聚焦人工智能算法对抗安全，强调功能性与安全性的有机结合，在基础理论、基础算法等共性技术上为新一代人工智能“OpenI”的建设开源，服务于国家人工智能新一代开源平台的建设，为中国乃至世界人工智能产业的发展保驾护航，为人工智能的长期稳健发展提供重要积累。

RealAI能够参与这个重大项目，是因为其强大的技术实力。作为清华大学，人工智能研究院的核心孵化器，RealAI是国内最早对深度学习的防攻防进行深入研究的研究群体之一。在人工智能反安全领域有着深厚的积累。它已在ICML、NIpS、CVpR、AAAI等顶级会议期刊上发表了数十篇论文。并提出了各种具有代表性的深度学习反攻击算法，被主流开源软件收录为标准方法，获得英伟达先锋研究奖。在2017NIpS对抗攻防大赛、2018DEFCONCAADCTF对抗攻防大赛等多项国际大赛中，RealAI击败多支顶级强队夺冠，并在2019国际安防极客安全大赛Geekpwn中获得“CAADCTF形象对抗样本挑战赛”和“CAAD隐身挑战赛”。

对于项目的未来规划，RealAI表示，将持续加强攻防关键技术研发，打造攻防对抗算法体系平台和对抗安全标杆，打造行业应用示范，助力构建国家级AI安全防护体系，为实现科技创新2030贡献力量。