清华|清华阿里RealAI推出AI对抗攻防基准平台，张钹院士解读AI安全治理三大痛点清华大学|研究院|人脸识别|算

文章插图
智东西（公众号：zhidxcom）
作者 | 心缘
编辑 | 漠影
智东西6月3日报道，在今日下午举行的2021北京智源大会“AI安全与产业治理”分论坛上，清华大学、阿里巴巴、瑞莱智慧RealAI联合发布业界首个基于深度学习模型的对抗攻防基准平台Adversarial Robustness Benchmark。

文章插图
清华大学教授、北京智源研究院安全创新中心主任朱军介绍对抗攻防基准平台
这一基准旨在全面、客观、科学地衡量算法模型的安全性。清华大学教授、北京智源研究院安全创新中心主任朱军评价这一基准具有一定学术意义，可以更加公平、全面地衡量不同算法的效果，提供方便使用的鲁棒性测试工具，全面衡量AI模型的安全性，用户通过提交模型的方式可以获取安全性的得分。
不同于之前只包含零散攻防模型的对抗攻防基准，此次推出AI对抗安全基准基本上包括了目前主流的AI对抗攻防模型，涵盖了数十种典型的攻防算法。不同算法比测的过程中尽量采用了相同的实验设定和一致的度量标准，从而在最大限度上保证了比较的公平性。
此外，本次发布的AI安全排行榜也包括了刚刚结束的CVPR2021人工智能攻防竞赛中诞生的排名前5代表队的攻击算法。此次竞赛吸引到了全球2000多支代表队提交的最新算法，进一步提升了该安全基准的科学性和可信性。
未来，该基准将不断引入新的攻击防御算法，作为对抗攻防领域的标准测试平台。
“AI安全与产业治理”论坛由北京瑞莱智慧科技有限公司与阿里安全联合举办，除了发布AI对抗安全基准外，此次论坛上，中国科学院院士、清华大学人工智能研究院院长张钹，中国信息通信研究院安全所信息安全研究部主任魏薇、瑞莱智慧RealAI田天等数十位专家出席本次会议，围绕AI安全可控发展的话题展开深入探讨。
一、张钹院士：AI安全与产业治理的三个问题中科院院士、清华大学人工智能研究院院长张钹在致辞环节谈到人工智能（AI）安全与产业治理的三个问题。
一是共性问题，AI在带来传统产业智能化和智能技术产业化的同时，也带来了新的风险和安全隐患，因此AI的创新发展与安全治理要两手抓。
二是特殊问题。AI治理的特殊性，分别体现在算法、数据及应用层面。
从算法层面看，现有AI算法很脆弱，泛化能力差，当遇到新的突发事件无法处理，可能造成AI技术无意识的误用，这种脆弱性还使得AI系统易受攻击，给有意识的AI技术滥用造成可乘之机。
从数据层面来看，现有AI应用效果很大程度上依赖于数据质量，但由此会带来隐私泄漏、数据确权等问题，如果解决不好数据安全的问题，AI也不可能健康的发展。
在应用层面，AI技术已逐渐对人们的生活造成冲击。比如，看房带头盔、困在算法里的外卖骑手等，还有深度伪造之类可能对社会造成重大影响的技术，都必须保证安全可控。

文章插图
中科院院士、清华大学人工智能研究院院长张钹致辞
三是如何解决创新发展和安全治理的问题。
张钹院士认为，由于AI基础理论还未真正建立起来，我们对AI能做什么、不能做什么一头雾水，因此AI发展缓慢、曲折，安全问题层出不穷。
因此，他提出将第一代知识驱动和第二代数据驱动人工智能的结合起来，去发展建立AI的基础理论，这就是第三代人工智能的任务。
其思路是，充分利用知识、数据、算法、算力这四个要素，建立一个新的可解释的、鲁棒的AI技术，在此基础上才可能发展出安全、可信、可靠、可扩展的AI技术，以此解决AI创新发展和安全治理的问题。
“人工智能的基础理论还没有建立起来，所以更精彩的大戏正在上演。我们跟国际处在同一起跑线上，这是我们国家历史上从来没有遇过的机会。”张钹院士呼吁，“我们应该和全世界团结起来共同来发展安全可控的第三代人工智能，让人工智能真正造福于人类。”
二、打造第三代人工智能，需以安全可控的核心技术为根基【 清华|清华阿里RealAI推出AI对抗攻防基准平台，张钹院士解读AI安全治理三大痛点】瑞莱智慧成立于2018年，是依托清华大学人工智能研究院设立的人工智能企业，由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授共同担任首席科学家。