易坊好文馆

  1. 首页 > 玩科技 >

人工智能|从伦理到治理，什么是可信AI？

人工智能 蚂蚁 应用 问题 技术 系统 蚂蚁集团 治理 层面 模型 伦理 王守岩 曾毅


人工智能|从伦理到治理，什么是可信AI？
文章图片

人工智能是第四次工业革命的核心技术 ， 有着巨大的发展潜力 。 然而随着人工智能应用的广度和深度不断拓展 ， 慢慢显露出一些风险与隐患 ， 算法的安全、数据歧视、数据滥用等诸多问题引发人们思考 。
当人工智能应用越来越普及的时候 ， 如何建立起人与系统之间的信任 ， 成为了新课题 。 在2021世界人工智能大会上 ， 一场主题为“AI向善 ， 全球共治”的可信AI论坛上 ， 多位行业与企业专家就人工智能的治理问题展开了讨论 。
中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅表示 ， 可信人工智能绝对不仅仅是技术问题 ， 还有社会的视角 。 “我们在国内开发人工智能模型时 ， 其他团队会提出一些质疑 。 这种质疑并不代表技术不可行 ， 实际来自于地缘差异、文化差异 。 ”
复旦大学类脑智能科学与技术研究院副院长王守岩表示 ， 对于AI的治理有三个层面的含义：第一个层面是技术层面；第二个是应用层面 ， 就是技术到底要解决什么问题 ， 初心是什么样的 ， 是解决社会向善问题还是解决效率的问题、挣钱的问题 ， 这决定了治理方式和管理方式 。
对于AI技术的治理 ， 诸多企业已经在行动 。
以蚂蚁集团为例 ， 2018年 ， 蚂蚁集团副总裁、首席AI科学家漆远就带领着蚂蚁集团AI技术骨干 ， 在人工智能模型算法中融入经济学“博弈理论” ， 开发了一项新技术“智能对抗”——即通过结合AI和博弈对抗 ， 让机器自动且实时、动态地对自身系统进行安全性攻击 ， 从而提升模型能力 ， 使处理结果更准确 。
就像金庸小说里的“双手互博” ， 借助“智能对抗”技术 ， 用更智能的“攻” ， 实现更安全的“防” 。
【人工智能|从伦理到治理，什么是可信AI？】2020年 ， “智能对抗”技术正式应用于支付宝反欺诈 ， 目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景 ， 对AI模型的鲁棒性（robustness）有明显提升 。

    推荐阅读


    上一篇：运动速度|美媒：最薄电子设备仅两个原子厚

    下一篇：简氏防务周刊|澳大利亚的三所大学将与美国大学开展联合研究，以应对网络威胁