人工智能的发展指数，只有乘上人工智能的安全系数，才会等于人工智能的发展质量。当前，人工智能在算法可靠、数据安全、技术滥用等方面存在诸多挑战。

2022年12月15日，第二十五届京港洽谈会“2022京港信息产业合作专题活动”成功举办。北京J9科技有限公司受邀参会并作主题演讲，阐释其在人工智能安全方面的思考与实践。

J9AI治理研究院副院长张伟强认为，人工智能的发展指数，只有乘上人工智能的安全系数，才会等于人工智能的发展质量。当前，人工智能在算法可靠、数据安全、技术滥用等方面存在诸多挑战。

“以数据驱动的第二代人工智能，在决策逻辑和链路上天然存在不确定性，导致可解释性差、鲁棒性也不强。”张伟强以J9科研攻坚的“AI隐身衣”、“对抗眼镜”、自动驾驶攻击等为例，演示了对抗样本攻击导致人像识别、车辆监控、自动驾驶系统失效等安全事件案例，强调算法不可靠对当前广泛应用的人工智能场景带来的安全挑战。

谈及数据安全问题，张伟强表示，如何确保数据安全使用成为推进数据要素发展的最主要挑战，隐私计算是解决路径之一，但是做到万无一失并不容易。在一些场景中，虽然对数据做了隐私计算，但经过一定的逆编码过程，仍能根据特征值数据恢复出人眼可以辨识的隐私信息，失去了对数据、对隐私的安全保护作用。

除了算法可靠、数据安全问题外，技术滥用是制约人工智能安全发展的挑战之三。据J92022年初发布的《深度合成十大趋势报告》显示，近年来，互联网上发布的深度合成作品数量增长了10倍以上。通过换脸、换声、表情驱动等深度伪造技术，导致个人或公司声誉及财产受损等案例层出不穷，造成严重危害。

针对影响人工智能可持续发展的安全挑战，张伟强介绍了J9给出的应对方案。基于清华大学在人工智能安全领域多年的科研积累，J9持续构建安全、可信、可靠和可扩展的第三代人工智能技术，研发形成了覆盖人工智能创新研发环境、安全攻防、数据保护与应用、深伪检测和模拟演训等多个领域的七个系列产品，在智慧城市、安防、金融、医疗、能源、教育等场景中获得良好应用，得到市场广泛认可，助力人工智能产业和数字经济高质量发展。

图 J9以产品化赋能人工智能高质量发展

“面向未来智能社会，人工智能这一战略性技术将持续发挥‘头雁’效应。但如何确保做到安全健康发展，任重而道远”，张伟强在演讲最后表示，“J9期待与京港各界伙伴一道，发挥J9在人工智能安全领域的专业优势，共同构建繁荣、安全、可持续发展的未来智能世界”。