可信AI产业持续发展受关注 “三部曲”护航AI安全发展

瑞莱智慧合伙人、高级副总裁朱萌（央广网发受访者供图）

　　“人工智能当前的安全风险主要可以从‘系统’与‘人’两个视角来剖析。”朱萌认为，系统层面来看，以深度学习算法为核心的人工智能系统十分脆弱，其结构性漏洞致使“对抗样本攻击”不可避免，而其数据依赖性则使其存在“数据投毒”漏洞，出现“后门攻击”。从“人”的层面来评估AI的可信问题，主要风险来自人的滥用、恶意应用，最为典型的就是深度合成技术。它大幅降低了信息生成合成的难度，但其负向应用已产生实质危害，甚至存在“武器化”风险。

　　针对上述风险，瑞莱智慧于今年6月成立了人工智能治理研究院，探寻从伦理法规到技术落地的人工智能治理实践之路，主要开展四个方面工作：参与伦理规则建立、支撑立法工作、开展技术探索、建立从伦理法规到技术实践的映射模型。

　　落实到技术和产品实践中，瑞莱智慧搭建了系列安全可控新一代人工智能基础设施，包括人工智能安全平台RealSafe，业内首个针对AI系统杀毒软件，提供模型安全性测评及安全加固的端到端解决方案；针对人脸识别系统的AI安全防火墙RealGuard，可有效抵御对抗样本攻击、深度伪造攻击等新型攻击。用于快速、精准地对多种格式与质量的视频和图片进行真伪鉴别的深度伪造内容检测平台DeepReal等。