人工智能算法安全风险-软考在线

人工智能算法安全风险



考试要求：熟悉

知识路径： > 网络安全风险评估技术原理与应用 > 网络安全风险评估技术应用 > 人工智能安全风险分析参考 > 人工智能安全风险分析参考

智能算法模型脆弱性，使得其容易受到人为闪避攻击、后门攻击。研究人员发现对抗样本生成方法可诱使智能算法识别出现错误判断。借助一张特别设计的打印图案就可以避开人工智能视频监控系统；对路标实体做涂改，使AI路标识别算法将“禁止通行”的路标识别成为“限速45”；可以在AI算法模型中嵌入后门，只有当输入图像中包含特定图案才能触发后门。

更多复习资料
请登录电脑版软考在线 www.rkpass.cn

京B2-20210865 | 京ICP备2020040059号-5