央广网北京12月18日消息（采访人员 万玉航）你是否也遇到过类似的困扰？刚跟朋友聊起某个新款手机 ， 一会儿就在APP上收到该产品的测评广告；正要在社交网站上传自己的美照 ， 就看到新闻爆出“照片合成瞒过检测系统诈骗钱财”的消息……这些细思极恐的现象让越来越多人感到不安：原来我们在享受着人工智能带来便捷的同时 ， 也面临着不少安全漏洞和信任危机 。
大数据时代 ， 每个人都与“数据”息息相关 。 今天 ， 人工智能在大数据的基础上赋能百业 ， 打造了数字经济的新引擎 ， 推进人类文明迈上新台阶 。 虽然公众对人工智能接受程度越来越高 ， 但其应用中存在的风险问题 ， 让全社会迫切地需要AI技术更加“可靠” 。
如何更好地让AI技术为人所用？如何如何让数据在安全环境下被合理地开发和利用？12月14日 ， 京东探索研究院的算法科学家何凤翔 ， 中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰 ， 华控清交信息科技（北京）有限公司标准负责人、战略总监王云河在“谈云说AI”技术产业沙龙首季第一期的现场 ， 深度探讨了“如何平衡好AI技术的可信与可用” ， 为可信AI的发展出谋划策 。
文章图片
（图片来源：CFP）
可信AI的两大瓶颈：算法安全和数据保护
在专家看来 ， 无论是目前常见的个性化推送、个人信息诱导上传还是未来有望大规模应用的自动驾驶、智能诊疗 ， 这些人工智能应用的背后都涉及到“算法安全”这个核心问题 。
当下 ， 机器学习模型大多仍然是“黑盒模型” ， 简单地解释就是 ， 很多时候可以拿来用 ， 但具体原理并不十分清楚 ， 即缺乏足够的“可解释性” 。
何凤翔认为 ， 如果我们不太了解算法背后的机制 ， 就很难预测人工智能的风险从哪里来、风险机制怎么样、尺度如何 。 “我们不太能管理风险 ， 这样AI算法就很难被用在关键领域中 ， 包括医疗诊断、自动驾驶这种人命关天的行业 。 所以打破AI技术现今固有的黑盒模式 ， 算法方面的突破是关键 。 我们需要深刻理解算法 ， 然后在此基础上设计出可以被信赖的算法 ， 才能够更好应对应用风险 。 ”
王云河则表示 ， 算法模型的训练和优化 ， 离不开可追溯的数据 。 数据通过流通共享与协同计算 ， 能更好地释放其价值 。 但隐私保护、数据合规等监管要求 ， 让数据拥有方陷入“不愿共享、不敢共享、不能共享”的困境 ， 而“多方安全计算”或许有可能成为解决数据获取和应用困境的突破口 ， 即在保护数据本身不对外泄露的前提下 ， 实现数据分析计算的一类技术集合 ， 具备“可用不可见 ， 可控可计量”的特点 。
推荐阅读
- 星链|石豪：在太空，马斯克和美国当局是如何作恶的
- 快报|“他，是能成就导师的学生”
- 年轻人|人生缺少的不是运气，而是少了这些高质量订阅号
- 生活|气笑了，这APP的年度报告是在嘲讽我吧
- Samsung|新渲染揭示Galaxy S22 Ultra几乎就是Galaxy Note复刻版
- ASUS|华硕预热ROG Flow Z13：称其是“全球最强悍的游戏平板”
- 视点·观察|科技巨头纷纷发力元宇宙：这是否是所有人的未来？
- 数字货币|2021年加密货币市场盘点：比特币仍是霸主，NFT进入大众视野
- 视点·观察|科技行业都在谈论“元宇宙”，可是它还不存在
- 王者|布局手术机器人赛道，谁是王者？ | A股2022投资策略⑩