技术|人工智能向“上”生长，可信AI渐行渐近( 二 )
可信AI ， 数字时代的安全卫士
今天 ， 人工智能技术已经成为如水电一般的资源 ， 融入到人们日常生活的方方面面 ， 小到购物推荐、医疗教育 ， 大到生物信息识别以及工业智能制造 ， 机遇良多 。 然而 ， 当我们沉浸在AI技术带来的生活便捷高效、行业迅猛发展的同时 ， 因其“黑盒模式”引发的技术不可控、数据安全、隐私泄露等问题却时有发生 。
AI值得信任吗？如何建立起人与系统的互信？衡量标尺又是什么？如何更好将AI技术为人所用……相关问题逐渐成为学界、产业界、政府界 ， 甚至是普罗大众近年来十分关心的话题 。
可信AI的概念最早出现在2017年11月的香山科学会议上 ， 由中国科学家何积丰院士首次在国内提出 ， 近年来伴随人工智能的飞速发展 ， 人们对可信AI的认知越来越明晰甚至深入 。
2019年10月 ， 京东集团首次在乌镇世界互联网大会上提出京东践行「可信赖AI」的六大维度 。 2021年7月 ， 中国信通院与京东探索研究院联合撰写的国内首本《可信人工智能白皮书》正式发布 ， 首次系统提出了可信人工智能全景框架 ， 全面阐述可信人工智能的特征要素 。 “我们和白皮书的思路一脉相承 ， 从四个方面进行可信AI方面的研究 ， 即稳定性、可解释性、隐私保护、公平性 。 ”京东探索研究院算法科学家何凤翔表示 。
纵观全球 ， 可信AI技术的发展都有相似路径可循：从基础理论出发 ， 从理论问题、理论结果深入 ， 设计出可以被信赖的AI算法 ， 最后尝试将这些AI算法应用到产品中去完成技术落地 ， 目前可信AI作为京东探索研究院锁定的三大研究方向之一也是如此 。 “工作之中我们发现这四个方面彼此之间是有一些关联的 ， 也是希望在长期的探索中能够提出一些统一的理论去一致描述可信AI ， 而不是简单机械分开去研究它的四个方面 。 ”
相比于国内 ， 国外企业在可信AI技术的具体布局上起步要早一些 。 以隐私保护为例 ， 2006年 ， Dwork等人提出了差分隐私模型 ， 一经出现便迅速取代了之前的隐私模型 ， 成为隐私研究的核心 。 目前已有公司将差分隐私作为标准大规模部署 ， 对于用户数据采取不收集的处理方式 ， 对于一些不得不收集的内容则采用差分隐私算法将收集过后的数据进行匿名、扰乱 ， 从而让数据无法定位到具体的用户 。
毋庸置疑 ， 可信AI涉及的方向是繁多的 ， 每个方向都会延伸出很多具体任务 ， 实现可信AI绝非「一日之功」 。 在京东探索研究院算法科学家何凤翔看来 ， 能否通过研究AI背后的运行机制建立起理论基础 ， 把不同方向的理论统一起来 ， 这是一个比较困难的问题 ， 当然这也是很核心的问题 。 这个问题如果解决了的话 ， 后续的算法研究可能就会得到很大帮助 。
推荐阅读
- 生物|两项国家标准发布实施 为畜禽生物育种提供技术参考
- 中新经纬|反向带货还是饥饿营销，瑞幸李国庆互怼伤害了谁？
- 张江|人工智能岛：洞见未来，高能“岛核”带动周边
- 平台|韩国科学技术研究院开发出世界首款 AI 运算专用 SSD
- 视点·观察|每天9.9元起就能租手机？租赁平台被指向未成年人放高利贷……
- 爆发|从1G到5G 技术成熟与应用爆发相辅相成
- 技术|Magic V正式发布，一部难到位，荣耀的高端之路刚刚开始
- 关键特性|5G超级频率聚变技术成功纳入3GPP R18标准立项
- 专利技术|抗幽别听忽悠
- 医疗|医疗AI：向数据要核心驱动力