京东安全亮剑DEFCON AI安全新技术获央视点赞

日前，素有安全界“奥斯卡”之称的世界顶级黑客大会DEFCON2018在美国拉斯维加斯举行。作为世界网络安全顶级盛会之一，DEFCON大会吸引了全球安全领军企业及顶级安全专家、安全爱好者出席。会上，京东安全JD-OMEGA战队发布了其在对抗性样本攻防领域的前沿研究成果，引起央视关注。

京东安全JD-OMEGA战队成员奎瓦斯在接受央视独家采访时表示“AI安全不是一蹴而就，除了不断破解进攻方的攻势和漏洞，更重要的是安全守护者需要在不断的攻防对抗中强化自身的防御机制，这样才能真正构建起面向未来的防御体系”。

在DEFCONCAADVillage上，京东安全硅谷研发中心研究员郭文博分享了全球首个可适用于不同深度学习网络结构的AI解析技术，引发行业热议。据了解，该技术除了可以应用于攻防对抗，在京东打击黑产上也有具体应用。

据郭文博介绍，即便目前最先进的AI系统，也会有2%的错误率，而只有了解了它的“想法”，知道了它错误的原因，才能对症下药，防患于未然。基于此，京东安全开创了一套AI解释系统，可以对深度学习模型的决定进行分析，并找到它做出判断的依据。这就好比AI不光告诉你图片中是香蕉，还会告诉你因为它是黄的、弯的，掰开皮有白色的果肉，周围的环境还是热带丛林，所以我判定它是香蕉。

如此一来，除了可以得到深度学习模型的判断结果，工程师还能得到它做出判断的原因，如果发现判断逻辑有误，便能立马进行修复，从而实现重新训练深度学习模型的目的，使模型更安全。

据了解，在京东，该套AI解析技术已经应用于黑产的预防与打击环节，在预防环节，通过对于黑产“打码”技术的对抗性干扰，能够大大降低黑产机器注册的成功率;对于已经入侵的黑产，该系统不但可以记录黑产账号的异常行为，还能解释其动机，即便黑产想抵赖申诉，也逃不过铁证如山。目前，该项技术的修复功能已经实现了自动化。因此，即便AI犯错了也会快速完成调整，确保让黑产无机可乘。

据京东安全技术专家介绍，人工智能解释技术只是开始，未来还会有更多超级武器会在京东部署，共同保障每个京东用户的信息安全，构建京东安全三道门，让黑产进不来、不想做、不敢做。