易坊好文馆

  1. 首页 > 玩科技 >

技术|人工智能向“上”生长，可信AI渐行渐近

机器之心原创
机器之心编辑部
一位刚刚上路的新手驾驶员 ， 如何成长为「老司机」？显然 ， Ta必须经过足够时间和里程的驾驶练习 ， 才能够熟练、从容地应对各种可能出现的路况和紧急事件 。 所以尽管自动驾驶系统也会在投入使用之前历经大量的真实道路测试 ， 但就算是科学文明相当普及的今天 ， 仍有很多人依旧做不到将开车这件事「放心地交给AI」 ， 毕竟摆在人们眼前的却是道不尽的争议和说不明的驾驶事故 ， 而事故的发生可能是技术 ， 算法 ， 道路 ， 数据 ， 传输 ， 天气 ， 驾驶员等多重主客观因素影响造成的 ， 权责划分十分困难 。
具体从算法层面看 ， 由于驾驶场景天然对安全性有更高要求 ， 这就需要自动驾驶算法具备可解释性；但目前自动驾驶系统的决策规划模块大多基于训练数据 ， 由于现有数据集普遍缺少中间数据或状态数据 ， 导致算法在极端情况下难以及时做出完全正确的决策 。 “算法还没有达到完全「可信」的程度 ， 这在一定程度上为事故发生后的责任认定带来了难题 。 ”中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰分析称 。
【技术|人工智能向“上”生长，可信AI渐行渐近】技术|人工智能向“上”生长，可信AI渐行渐近
文章图片

中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰
由于无法通过算法对已发生事故中的权责边界进行解释 ， 人类只能尝试从自动驾驶行为中得到合理化的解释 ， 但深度学习模型的黑箱特性让这一过程又变得困难重重 。 京东探索研究院算法科学家何凤翔认为 ， 目前阶段的很多AI算法依旧处于一种黑盒模型的基础上 ， 如果不太了解算法背后的机制 ， 就不太清楚风险从哪里来 ， 也无法识别风险机制和风险尺度 ， 更谈不上很好地管理风险 。 在这样的情况下 ， AI算法还不能应用在关键领域中 ， 比如人们抱有很高期待的医疗诊断、自动驾驶等以及更多「人命关天」的行业 。 “下一步 ， 我们需要深刻地理解算法的行为 ， 然后才能够在这一基础上设计出可以被信赖的算法 。 ”
技术|人工智能向“上”生长，可信AI渐行渐近
文章图片

京东探索研究院算法科学家何凤翔
此外令人忧心的是 ， 无论是地址、路线这些基础的位置信息 ， 还是音乐、聊天内容等个性化信息 ， 一旦其中的重要数据被窃取、篡改或滥用 ， 会产生严重的法律责任事件 ， 损害数据主体的财产安全甚至生命安全 。 怎样对如此庞大的数据进行隐私保护、防止数据滥用？也是自动驾驶落地过程中必须要解决的问题 。

推荐阅读


上一篇：流程|邮储银行推出全流程线上智能化贴现产品“智能秒贴”

下一篇：教育部|这款APP被教育部喊停