在瑞莱智慧合伙人、高级副总裁朱萌看来,构建人工智能安全发展规范已迎来关键窗口期,“安全可控”成为亟待补全的基础能力。她进一步提出,包括解决数据强依赖带来的隐私泄露等隐患,提升算法的可靠性,保证系统有意攻击情况下依然稳定运行,以及深度合成技术应用的合规可控等方面。
论坛举办期间,北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”,集中展示了北京国家人工智能创新应用先导区建设成果。这其中有瑞莱智慧人工智能安全平台RealSafe,也被称为“针对AI系统的‘杀毒软件’”。
朱萌介绍说,RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测,提供被测AI模型的安全评分、风险报告,以及多种纵深防御方案。她还透露,针对人工智能领域新的安全问题和行业需求,作为清华大学人工智能研究院发起设立的AI企业,他们凭借自身的科研成果和行业落地经验,正在隐私计算、AI数字人、“AI换脸”检测等方面展开新的探索。