2022全球数字经济大会人工智能驱动未来产业论坛举办期间，围绕人工智能安全与健康可持续发展的话题广受关注。RobertH.Deng与宋晓东分别就“基于人工智能安全的发展战略研究”“有责可信可控的AI安全体系”等主题发表演讲。

 

　　北京市经济和信息化局局长张劲松在致辞时表示，北京市正在探索建立人工智能融合应用安全风险治理体系，指导开展安全风险评估，提升风险管理能力，同时加快推进人工智能数据治理工作，强化人工智能数据资源的高质量建设、高水平开放与高水平利用，助力构筑北京人工智能安全生态。

　　在瑞莱智慧合伙人、高级副总裁朱萌看来，构建人工智能安全发展规范已迎来关键窗口期，“安全可控”成为亟待补全的基础能力。她进一步提出，包括解决数据强依赖带来的隐私泄露等隐患，提升算法的可靠性，保证系统有意攻击情况下依然稳定运行，以及深度合成技术应用的合规可控等方面。

 

　　论坛举办期间，北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”，集中展示了北京国家人工智能创新应用先导区建设成果。这其中有瑞莱智慧人工智能安全平台RealSafe，也被称为“针对AI系统的‘杀毒软件’”。

 

　　朱萌介绍说，RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。她还透露，针对人工智能领域新的安全问题和行业需求，作为清华大学人工智能研究院发起设立的AI企业，他们凭借自身的科研成果和行业落地经验，正在隐私计算、AI数字人、“AI换脸”检测等方面展开新的探索。