对抗样本攻击、模型后门、模型窃取…人工智能产业的发展也带来了特有的新风险 。 随着产业进程的深入 , 这些安全风险的边界也迅速扩散 , 逐步蔓延至金融、互联网、安防、城市和社会治理各个领域 。
如果可以模拟真实网络环境 , 演练“攻击”与“防守”寻找新漏洞 , 是不是就能有效应对不断出现的新型攻击手段?并未雨绸缪提前补上漏洞?
11月11日 , 瑞莱智慧发布了人工智能安全靶场RealRange , 提供提供实战化、体系化的一站式人工智能攻防演练服务支撑 。
文章图片
瑞莱智慧人工智能安全靶场RealRange
北京瑞莱智慧科技有限公司成立于2018年7月 , 是清华大学人工智能研究院发起成立的科技成果转化企业 , 致力于提供安全可控人工智能基础设施平台与解决方案 。 中国科学院院士、清华大学人工智能研究院名誉院长张钹和清华大学计算机系教授朱军共同担任公司首席科学家 , 清华大学计算机系博士田天出任CEO 。
“随着人工智能安全态势不断演化 , 新型攻击手段不断出现 , 单点产品只能解决滞后问题 , 对于未知威胁无法进行风险预判和策略调整 , 同时作为新兴领域 , 行业普遍面临专业人才不足与实战经验匮乏的双重困境 。 鉴于此 , 打造动态演化、科学调整的安全防御体系成为核心需求 , 也促使人工智能攻防靶场成为一项重要的新型基础设施 , ”瑞莱智慧副总裁唐家渝表示 。
具体来说 , 即是通过预设训练场景模型 , 构建真实网络环境的人工智能实战攻防演练 , 通过“实战化、模块化”的平台服务 , 帮助政企机构企业开展安全能力体系检验评估 , 实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等能力 。
7月12日 , 工信部官网发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》 , 将“构建人工智能安全靶场”列为重点投入方向 。
唐家渝介绍道 , 人工智能安全靶场RealRange类似于“演兵场” , 安全靶场通过攻防实战演练将风险暴露前置 , 提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁 , 动态提升团队软实力 , 快速弥补技术水平与经验的不足 , 实现“让风险发生在靶场 , 让有效防御构建在安全事件之前” 。
据悉 , 该平台集“学、练”为一体 , 包含攻击靶场、防御靶场、攻防演练三大功能模块 。 “攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法;“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练 , 同时平台可自动化评估攻防两端能力 , 以攻防态势的可视化功能直观反馈实时战况 。
推荐阅读
- 四平|智慧城市“奥斯卡”揭晓!祝贺柯桥客户荣获2021世界智慧城市治理大奖
- 数据|数智安防时代 东芝硬盘助力智慧安防新赛道
- 山西|移动5G+智慧成果亮相山西数字化转型大会
- 养殖|科创信达冠名!第二届智慧养殖高峰论坛帷幕:推动畜牧行业新升级
- 技术|无锡东亭:智慧创造生活 科技点亮未来
- 娱乐|华为智慧屏迎来“影音娱乐”场景三大升级
- 景区|票付通旅游积极拥抱数字技术,加快智慧建设迎接新征程
- 建设|数据赋能业务,数梦工场助力湖北省智慧应急“十四五”开局
- 技术|探秘AI智慧之旅,科大讯飞AI学习机研学游第一期圆满落幕
- 半导体|“智慧”加持 通关明显提速