推荐系统|朱倩男:推荐系统不会自主产生信息茧房 需将算法优化与人工干预结合

中新经纬客户端6月25日电 (薛宇飞)近日 , 由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行 。 会上 , 国内首份算法科普性报告《算法向善与个性化推荐发展研究报告》(下称《报告》)发布 , 中国人民大学高瓴人工智能学院博士后朱倩男分享了相关研究成果 。

推荐系统|朱倩男:推荐系统不会自主产生信息茧房 需将算法优化与人工干预结合
本文图片
中国人民大学高瓴人工智能学院博士后朱倩男 主办方供图
当前 , 推荐算法在给工作生活带来便利的同时 , 也引发了信息茧房、算法黑盒、算法偏见等争议问题 。 据朱倩男介绍 , 此次发布的《报告》希望以一种通俗易懂的方式让大众了解什么是推荐系统 , 通过分析推荐系统面临问题的原因 , 让公众了解推荐系统在这些问题中到底扮演者怎样的角色 , 以及是否需要对这些问题的产生负责 。 她希望通过报告提高大众对推荐系统的认知 , 消除大众对推荐系统的误解以及不安心理 。
在对“信息茧房”问题的研究中 , 将推荐结果多样化是学术届的主流研究方向 。 主要是从多个角度探索和挖掘用户多样性兴趣 , 使推荐结果更加丰富和多样化 。 在工业界 , 很多互联网企业也在积极解决信息茧房的问题 , 比如抖音的“同城窗口”和“关注窗口”会给用户提供从信息茧房中走出去的机会;今日头条的“热榜”模块会给用户推荐国家大事、新闻要事 , 帮助用户接触到更多的信息面 。
朱倩男表示 , 推荐系统不会自主地产生信息茧房 , 信息茧房一直就有 , 不是一个新的现象 。 只不过进入人工智能时代 , 信息茧房的现象被显性看见 。 “我们给出了一些建设性的意见 , 比如增加推荐结果多样性 , 优化推荐算法机制 , 增加人工干预来提高推荐结果的质量 。 ”她说 。
对于如何规避“算法黑盒”的问题 , 朱倩男介绍说 , 第一个是推行算法披露机制 , 提高算法透明度 。 第二是加强对可解释性推荐算法的研究 , 通过建立通用的推荐算法框架来提高算法的可解释性 。 算法黑盒会带来可解释性差的问题 , 朱倩男认为这是一个正常的问题 , 这是人工智能时代发展过程的中间状态 , 随着政府、研究机构以及公众对推荐算法的关注 , 对算法透明度和可解释性的研究会是今后的热点 。
对于“虚假新闻和低俗内容泛滥”问题 , 目前学术界大部分的工作是研究新闻的形成原因以及路径 , 从这两个方面规避虚假新闻和低俗内容的传播 。 聚焦到工业界 , 一个典型的案例就是今日头条采用人工和模型双重结合机制 , 建立一些鉴黄、反低俗等模型 , 来过滤那些负能量的内容 , 从而规避虚假新闻和低俗内容的广泛传播 。
针对“算法歧视与偏见”问题 , 目前学术界的做法侧重解决数据和算法自身携带歧视问题 。 对于工业界来说 , 目前对于解决歧视与偏见问题处于起步阶段 , 后面还要探索 。 朱倩男称 , “推荐算法会存在歧视与偏见 , 归根到底是对于数据不完全解读造成的 , 比方说对于数据本身可能含有一些歧视性、不完整信息 , 就会造成推荐系统有些不公平现象的产生 。 同时 , 我们也列了一些规避算法歧视和偏见的措施 , 比如建立一个算法追责机制 , 对事故主体进行确认并追责 。 ”
对于“用户隐私与安全”问题 , 朱倩男表示 , “推荐算法设计本身并不会造成用户数据隐私的泄露 , 更多可能是在数据传输或者存储过程中造成用户隐私泄露 。 目前学术界主要采取的是数据扰动方法来规避用户数据泄漏 。 我们在文章中写了一些关于保护用户隐私与安全的措施 , 包括用户数据保护、推荐结果保护和预测模型保护 。 ”
朱倩男介绍 , 报告对产业界的典型案例做了分析 。 以今日头条资讯推荐为例 。 该推荐系统主要采用一些推荐算法 , 如深度学习、协同过滤推荐、有监督学习等 , 对资讯内容、用户特征和环境特征三者融合 , 做个性化精准推荐 。 现实场景中 , 今日头条面对的数据量非常大 , 它采用了Storm集群和千级别召回策略来对用户推荐的内容进行实时更新 。 重要的是 , 内容安全一直是今日头条比较关注的 , 有专门的内容审核团队和机器学习算法对内容进行鉴别 , 以确保内容的安全性 。 (中新经纬APP)
中新经纬版权所有 , 未经书面授权 , 任何单位及个人不得转载、摘编以其它方式使用 。
【推荐系统|朱倩男:推荐系统不会自主产生信息茧房 需将算法优化与人工干预结合】关注中新经纬(jwview)官方微信公众号获取更多精英的财经资讯 。

    推荐阅读