易坊好文馆

  1. 首页 > 玩科技 >

赵闻飙|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”

人工智能 决策 发展 时代 技术 数字 蚂蚁集团 智能化 风控 风险 原创新闻 赵闻飙


赵闻飙|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”
文章图片

数字时代是人工智能（AI）深度应用和发展的时代 。 AI的发展 ， 正在以一日千里的速度改变着这个世界 ， 并在交通、医疗、环境保护、城市管理等多个领域中 ， 发挥着越来越不可替代的作用 。 但同时 ， AI的安全性问题 ， 也成为了数字化发展进程中不可回避的问题 。 在数字经济欣欣向荣的发展态势下 ， 安全被许多业内人士视为木桶上的那一块“短板” 。
如何让安全为数字化发展“保驾护航”？8月6日 ， 2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛举行 ， 蚂蚁集团副总裁 ， 蚂蚁集团安全事业群总裁赵闻飙表示 ， 可信人工智能的研究和落地或是抵御“数字化”风险的关键能力 。
用可信AI解决智能化风险
伴随着数字化经济的发展 ， 用户在享受数字化带来的便捷与普惠的同时 ， 也面临数字化背后的风险 ， 如羊毛党通过操纵多账户套取商户营销资金、个人用户遭遇网络欺诈、账户盗用等 。 “过去 ， 我们一直重点谈的是‘数字化’背后的风险和应对 ， 而对‘智能化’背后的风险讲得很少 。 因为当时行业普遍认为 ， 人工智能技术的落地应用还相对有限 。 但事实上 ， 早在六七年前 ， 我们就在平常应对黑产攻击中 ， 发现了AI的痕迹 。 ”赵闻飙表示 。
新京报贝壳财经采访人员注意到 ， 当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中 。 如使用AI工具操控大量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等 。
这意味着伴随人工智能技术的高速发展和加持 ， 数字化背后的风险将持续加剧 ， 并且演变为“智能化”背后的风险挑战 。
据了解 ， 目前黑产作案越来越趋于多平台、多链路、团队化和智能化 。 这对行业协同、风险响应机制的速度和准确性提出了更高的要求 ， 而且还需要切合“数字化浪潮”下社会对于隐私保护、技术伦理治理等多方面的需求 。
在赵闻飙看来 ， 要对抗“智能化”的风险 ， 就需要“智能化”的手段 ， 这也是“可信AI”技术进入快速发展阶段的核心驱动力 。 可信AI技术要求人工智能技术应当具备可解释性 ， 以帮助人类理解和信赖他们的决策；具备鲁棒性（robustness） ， 以抵御黑产的攻击 ， 以保障计算和决策的稳定性和效能；具备隐私保护的能力 ， 以满足社会和民众对于个人数据资产保护的需求；具备公平性 ， 强调决策结果的公平性 ， 同时关注技术背后的社会责任和伦理治理 。
“数字时代 ， 安全是AI与AI的博弈 ， 而可信AI ， 则是抵御风险的关键能力 。 ”
面向可信AI技术的下一代风控体系“IMAGE”
据了解 ， 蚂蚁集团自2015年起投入可信AI技术的研究 。 2016年 ， 全面启动了人工智能风控防御战略 。 目前 ， 可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地 ， 支撑着其全风险域的防御需求 。 根据今年6月全球专利权威机构IPR Daily发布的报告 ， 蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利 ， 并上线部署了以“IMAGE”命名的下一代风控体系 。 它包含着“交互式风控”、“多方安全风控”、“智能决策”、“全图风控”、“端云协同风控”五大组成部分 。
【赵闻飙|蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”】赵闻飙表示 ， “全图风控”技术能够以“图”的形态 ， 聚合“动态发展变化的风险信息” ， 解决了传统风控中只能依靠单一或静态信息维度追踪风险的困境 ， 实现对风险变化趋势的预测 ， 提前遏制风险的发生 。 在反电诈等风控场景 ， 对于打击团伙型、多链路作案 ， 具有重要意义 。 而“全图式”的风险分析和追踪形式 ， 也对人工智能的“可解释性”发展提供了更广泛的空间 。
而“多方安全风控”和“端云协同风控”则是“智能化”趋势下 ， 实现风控与隐私保护平衡发展的实践探索 。 “多方安全风控”实现了在数据不交换的前提下 ， 多企业、多平台之间的联合风控协作 。 “端云协同风控”的价值则是保障数据的使用和保有权真正属于用户 。 通过将风控模型部署在智能终端 ， 如手机上 ， 蚂蚁的技术团队建立起了一套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式 。 终端计算 ， 意味着敏感信息被保留在用户手中 ， 规避了信息传输过程中可能出现的被攻击风险 。 云端仅获取决策 ， 不仅保障了安全防御和风险控制不受影响 ， 还节约了云端的计算资源 。 目前 ， “端云协同风控”已经被广泛用于支付宝的日常风控中 ， 在去年的双十一期间 ， 98%的风控决策都是在用户智能终端上完成的 。
赵闻飙在分享中强调 ， 传统风控受制于技术成本、数据规模和算法效能 ， 许多场景还是专家经验驱动 ， 而不是数据智能驱动 。 “支付宝每天有数亿笔交易 ， 面对如此庞大的计算量 ， 一旦决策产生延迟 ， 就给了黑产可乘之机 。 ” 通过人工智能与金融风控的深度融合 ， 蚂蚁安全实验室打造了能够实现“智能决策”的AI大脑——AlphaRisk 。 其能够在零人工干预的全自动模式下 ， 对风险进行毫秒级的响应 。 但更重要的是——AlphaRisk具备的自学习、自适应的能力 ， 将极大地提升人工智能的抗打击能力 。 AI大脑通过对每一次黑产攻击行为的学习和研究 ， 不断提升防御手段 ， 进行高效的自我进化 。
在技术快速发展的同时 ， 可信AI的公平性也考验着研究者对社会责任的坚守 。 赵闻飙提到 ， 早在2016年 ， 蚂蚁就成立了针对电信网络诈骗的技术研究小组 ， 借助包括“图神经网络”“博弈攻防”在内的一系列创新技术应用 ， 极大地遏制了平台电诈发生率 。 但许多骗子引导受害人转而使用其他的支付渠道 ， 社会欺诈问题仍旧严峻 。 如何依靠技术力量 ， 真正将诈骗罪案止步于支付环节 ， 成为研究的重点 ， “交互式风控”也因此应运而生 。
贝壳财经采访人员注意到 ， 区别于以往的安全风控模式 ， 交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式 ， 只有风险发生过 ， 才知道如何预防 ， 这也使得安全风控往往处于“被动防守”的态势 。
对此 ， 赵闻飙表示 ， 安全必须从静态的被动防守 ， 转变为动态的主动对抗 ， 特别是金融安全 。 “以交互式风控产品‘叫醒热线’为例 ， 当用户被骗子诱导转账时 ， AI机器人将向用户发出来电提醒 。 充分学习了欺诈罪案分析的AI机器人 ， 能够捕捉用户交流中的关键信息 ， 采取恰当有效的反诈劝阻话术和措施 。 为了跟骗子拼速度 ， 目前蚂蚁的反诈骗叫醒热线中 ， 有超9成电话是由AI打出的 ， 叫醒成功率超过了人工客服 。 除了事中的防护 ， 如果用户深度受骗、执意支付 ， 技术人员还开发了‘延迟到账’和‘资金截留’的功能 ， 让欺诈者没有办法支取赃款 。 ”
“人工智能技术的快速发展 ， 引领了第四次工业革命的浪潮 。 而可信人工智能的研究和落地 ， 则代表了人工智能技术发展的新阶段 。 在未来 ， 与人类社会深度耦合的人工智能技术 ， 如何在安全、可信、公平的原则下 ， 持续发展和进步？这是每一位从业者和研究者 ， 为推动科技有序、健康发展都不应回避的命题 。 ”赵闻飙表示 。
新京报贝壳财经采访人员 罗亦丹 编辑 李薇佳 校对 王心

    推荐阅读


    上一篇：数据|如何保护个人信息？朱巍：法律不是越多越好 要有一定统领

    下一篇：配置|免激活码试玩！网易云游戏《永劫无间》体验活动正式开启