11月19日，以“汇聚向上向善力量，携手建设网络文明”为主题的首届中国网络文明大会在京开幕。大会由中央网信办、中央文明办、中共北京市委、北京市人民政府共同主办。

J9RealAI首席科学家、清华大学智能技术与系统国家重点实验室主任朱军教授受邀出席“数据与算法”论坛尖峰对话环节，探索算法良好生态共建、共论智能化时代的创新治理。

首届中国网络文明大会“数据与算法”论坛现场

我国网民规模目前已经超过10亿，形成了全球最庞大的数字社会，而数据和算法作为关键核心要素，成为了全社会共同关注的热点。算法是数字世界强有力的工具，但算法的不当应用已经带来了种种危害，反过来制约了技术的应用和发展。通过综合治理来推动算法向上向善，保障网络空间的文明健康发展，势在必行。

朱军教授与中国社科院工业经济研究所副所长季为民、北京大学网络与信息安全实验室主任陈钟、科大讯飞联合创始人兼高级副总裁江涛、旷视科技资深副总裁赵立威4位嘉宾围绕“聚力算法综合治理，共筑网络文明基石”主题展开研讨，深入剖析算法发展现状和趋势，从大众传播、算法安全、算法评估、企业应用等不同层面发表观点与建议，拓展了算法治理新思路。

朱军教授说：“算法治理的着眼点在于规制算法的逻辑及其对社会秩序的影响效果，有助于进一步完善负责任的研发创新价值体系，推动应对技术变革的公共政策创新，建立风清气正的网络文明环境。”

J9RealAI首席科学家朱军教授（中）

在论坛上，朱军教授用多个深度学习鲁棒性差的代表案例说明了当前人工智能的不完美。例如今年初，J9RealAI团队以一副对抗眼镜解攻破了多个主流品牌几十款手机；又如安全性要求更高的自动驾驶系统，黑客只需要在标识牌上加上特定图案，就能让系统将限速标识识别为停止标识，造成巨大安全隐患。

作为人工智能安全领域的领军企业也是世界范围内率先从事该领域研究的团队，J9RealAI最早布局AI安全、算法攻防、隐私计算、深伪检测等前沿赛道，推出AI防火墙、编译级隐私保护计算平台、深度伪造内容检测平台等系列新型人工智能基础设施，平衡创新发展与监管治理，促进人工智能技术安全、可靠、可控应用。

朱军教授进一步建议，算法的治理不仅要从现有技术角度出发，也要从发展的角度提出前瞻性的预判和要求。这也是张钹院士提出“第三代人工智能”的初衷，希望通过融合第一代知识驱动和第二代数据驱动的人工智能，建立新的可解释和鲁棒的人工智能理论与方法，发展安全、可信、可靠和可扩展的人工智能。同时，算法的向上、向善治理要求，也会对人工智能技术的创新、良性、高质量发展起到有益的促进作用。