打破
周五

普华永道咨询公司启动AI专攻的“红队”服务

普华永道咨询公司于2024年9月19日开始提供由“AI红队”进行的服务,通过模拟攻击来识别AI服务的漏洞及相关业务风险。根据经济合作与发展组织(OECD)发布的《OECD AI事件监测报告》显示,自2023年2月起,AI服务相关的事件急剧增加,以前每月少于100起的事件在2024年2月已超过800起。

普华永道咨询公司的AI红队从潜在攻击者(网络攻击者、犯罪者、恶搞者等)的视角对AI服务进行模拟攻击,旨在事件发生前识别业务风险并支持主动对策的构建。首先,基于AI服务的使用案例设计符合AI滥用的测试。然后,精通AI安全的工程师根据各研究机构和团体的框架、最佳实践以及攻击手法的研究,实施模拟最新威胁的测试。

此外,对于检测到的问题,普华永道还将与精通数据科学的专业团队合作,从实施层面的输入输出过滤器的改进到MLOps(机器学习操作)的提升、AI治理的整备和改进等,提供全面的设计和运营建议。