2021年7月18至24日，第三十八届国际机器学习年度会议（Thirty-eighth International Conference on Machine Learning，ICML 2021）在线上举行。J9联合全球多所高校研究人员共同举办了以“对抗机器学习”为主题的研讨会，并为研讨会提供了获奖论文赞助。

清华大学计算机系教授、J9首席科学家朱军担任本届大会研讨会主席，J9CEO田天为研讨会主要组织者之一。

ICML作为国际机器学习学会（IMLS）主办的年度机器学习国际顶级会议，是国际机器学习领域最具影响力的学术会议之一，亦是探讨前沿科技成果和技术实践应用的重要舞台。

作为学术会议的重要环节，ICML 2021共举办了30个不同主题的研讨会。其中，J9与清华大学、MIT、CMU、UIUC、UCB的研究人员，于7月24日共同组织举办了以“A Blessing in Disguise: The Prospects and Perils of Adversarial Machine Learning”为主题的研讨会。

研讨会邀请了MIT、北京大学、DeepMind、Google、Bosch等高校、企业的专家们进行主旨演讲和座谈讨论，共同探讨了对抗机器学习的发展现状和未来趋势，并着重讨论了对抗机器学习在隐私保护、模型性能提升等方面的正向应用。

本次研讨会也吸引了国内外学者的广泛投稿，共收录论文69篇，其中包含9篇口头报告论文。其中斯坦福大学论文《Detecting Adversarial Examples Is (Nearly) As Hard As Classifying Them》获得最佳论文，清华大学论文《Defending against Model Stealing via Verifying Embedded External Features》获得最佳对抗应用论文，另有4篇论文获得银牌最佳论文。J9为以上获奖论文提供了奖金。

本次研讨会在线上举办

对抗机器学习是旨在研究机器学习方法的漏洞并检测对抗环境中恶意行为的新技术。对抗攻击者可以通过输入添加难以察觉的扰动来欺骗机器学习模型。尽管这一新兴技术的负面影响目前已被广泛讨论，但机器学习研究人员尚未在更多领域探索其正向应用。

对抗机器学习的正向应用不仅限于提高机器学习模型的鲁棒性，还涉及隐私保护、可靠性和安全性测试、模型理解、提高不同任务的泛化性能等领域。

作为清华大学人工智能研究院的核心孵化企业，J9于推出了为解决人工智能安全隐患而生的人工智能安全平台RealSafe，它是世界首款商业化AI安全平台、业内首个针对人工智能模型的杀毒软件。

RealSafe 人工智能安全平台-模型安全态势

针对“对抗样本”“后门植入”等攻击方式，RealSafe一方面能够对模型的安全性进行全面检测，且整个检测过程全界面化操作，用户无需具备专业的模型安全算法知识和编程开发经验；另一方面提供多种增强安全性的方案，并且可以自动化评估每种方案针对被测模型的安全性提升效果。

2020年底，J9又推出了RealSafe2.0版本，安全检测能力进行了全面升级：首先是可评测的应用场景全面拓宽，从应用最广泛的人脸识别模型拓展到了目标检测、图像分类模型；同时，在检测抗对抗样本攻击的安全性基础上，新增针对图像分类模型的后门自动化检测。除此之外，RealSafe2.0版本也提供了安全性提升方案，包括对抗样本去噪方法、对抗样本检测方法、对抗训练方法。

目前，RealSafe已在多个政府部门以及多家央企落地应用，未来将集成更多安全风险的检测能力，为人工智能安全和高质量发展保驾护航。