人工智能|360两项成果入选“人工智能安全典型实践案例”

北京商报讯(采访人员 魏蔚)10月12日 , 360提报的“360人工智能框架漏洞威胁感知系统”、“360新一代终端安全智能防护系统” , 入选中国网络空间安全协会组织评选的2021年人工智能安全典型实践案例 。
据了解 , 360人工智能框架漏洞威胁感知系统能够从算法实现、漏洞类型、编译优化等多角度持续开展对机器学习框架的安全风险研究 , 并采用动、静结合的分析方法对Python、C++、Go等不同语言中的不同漏洞类型进行全面系统的检测 , 检测过程着重关注从训练到推理、从数据到模型、从云端到终端过程中存在的安全风险 。 此外 , 该系统基于丰富的安全专家知识库 , 能够提供对AI框架业务的定制化检测 , 如对计算图优化、图编译、分布并行等模块的安全性检测 。
【人工智能|360两项成果入选“人工智能安全典型实践案例”】近期 , 360人工智能框架漏洞威胁感知系统对国内外主流开源AI框架进行了安全性评测 , 累计7款机器学习框架(如Tensorflow、PyTorch等)漏洞超150个 , 框架供应链漏洞超200个 , 并帮助各厂商对漏洞进行了修复 。 值得一提的是 , 360 AI安全实验室已经累计发现并帮助谷歌修复Tensorflow漏洞98个(CVE) , 其中高危、严重漏洞共24个 。

    推荐阅读