近日,全球首个针对目标检测算法的对抗攻击竞赛结束,重庆理工大学计算机科学与工程学院研究生刘野一举夺冠。
此项赛事是清华大学联合阿里巴巴主办,数据挖掘顶会CIKM强力支持的“安全AI挑战者计划”第四期,旨在通过攻防对抗提升人工智能的安全性和稳定性。阿里安全首席架构师钱磊介绍,赛事贯穿全年,主打“高难度、高创新、高趣味、高回报”的题目任务和运营,将参赛选手的思路方法沉淀在技术社区,为新基建建设培养一流的实战型网络安全人才。
“安全AI挑战者计划”目前已有来自全球200多所高校、100多个企业的6000多支队伍参赛,除了高校学生,还有已经参加工作的网络安全爱好者,收到2000万条恶意样本,沉淀40多个具有前沿创新性的参赛源码和方案,推动缓解人工智能安全人才缺口的问题。中国科学院院士、清华大学人工智能研究院院长张钹表示,人工智能在机遇中也面临诸多挑战,当前以深度学习为代表的人工智能算法在实际应用中存在安全隐患,提升算法的安全性和可靠性,是未来的重要目标之一,也是算法大规模部署和应用的基础。
刘野同学说:“有攻击就有防御。我们的对抗攻击变得更加强大,然后我们拿对抗样本去训练AI,也能促使我们的防御更加强大。”他还将在10月中旬参加CIKM2020数据挖掘的顶级会议,分享自己的比赛攻略。