信息|网信办出手整治互联网平台：算法推荐可关闭，“大数据杀熟”被明令禁止_规定|服务|互联网|整治|林羽

文章图片

图片来源：图虫

采访人员 | 鲁智高姜菁玲

在中国网民突破10亿关口之际，算法推荐也将面临更严监管。
8月27日，国家互联网信息办公室发布了关于《互联网信息服务算法推荐管理规定（征求意见稿）》（下称《规定》）公开征求意见的通知。
该《规定》辐射范围广泛，包括外卖、出行、资讯、视频、社区、电商等领域的大部分互联网企业。面对无处不在的“算法推荐” ，普通用户也将可以拒绝算法推荐， “大数据杀熟”被明令禁止，互联网公司的算法机制将被要求定期核查，算法安全、算法歧视等问题的监管也将进一步明确。
大部分互联网企业将受影响
在互联网世界中，算法推荐服务广泛应用在各类App及场景中。
上述《规定》明确，在中国境内应用算法推荐技术提供互联网信息服务（简称：算法推荐服务），适用本规定，法律、行政法规另有规定的除外。
其中，应用算法推荐技术指的是：应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
“该《规定》涵盖了大部分互联网企业。 ”上海申伦律师事务所律师夏海龙告诉界面新闻，不管是微博、今日头条、淘宝等，还是外卖类、视频类App ，全都有相关推荐服务。
电商平台算法工程师林羽判断，基本上主流的App都会受到影响，最严重的可能是抖音、快手，因为它们本身是靠算法进行个性化推荐，而像淘宝里面的猜你喜欢等千人千面的算法推荐功能也会受到影响。
“主要是针对内容平台。 ”上海金融与法律研究院研究员刘远举则认为，受影响最大的是今日头条、微博、百家号等，不过也包括抖音、快手等视频平台，而淘宝、京东等也会受到影响。
《规定》强调，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
“这会对互联网公司产生一定的影响。 ”林羽判断，最终的影响还需要观察，比如操作系统operating system开源很多年，但现在还是没有一个很好的国产系统， “算法的好坏取决于技术、产品、运营，以及团队等等。 ”
用户可选择关闭算法推荐
面对无处不在的算法推荐，《规定》进一步提升了普通用户的自主权。
《规定》提到，算法推荐服务者应该向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
也就是说，用户将可以自主选择关闭算法推荐功能。林羽对界面新闻采访人员表示，对于用户来说，在使用抖音、快手等短视频平台时，如果觉得自己需要个性化推荐，那就打开，不需要就关闭， “对用户来说是好事，因为选择权在自己手中。 ”
夏海龙认为，由于算法具有很大的影响范围，可能会放大不良信息、推送对用户权益的损害。因此，提升用户对算法服务的自主权，能够从根源上保障用户的知情权、选择权和个人信息等权益。
“关闭算法推荐，有利于用户避免沉迷于推荐内容之中，同时有利于打破信息茧房。 ”一位资讯平台算法工程师表示。《规定》也提到，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。
当然，关闭推荐在客观上也将带来一些潜在的问题。上述资讯平台算法工程师表示，用户关闭算法推荐的情况下，根据不同产品策略，信息展示逻辑可能会回退到以往的编辑推荐、热度排序、时间排序等。
“对于很多习惯被动被动接收信息或者无法明确意图的人来说，完全关闭算法推荐，一定程度上会导致信息触达效率降低。 ”从这个角度看，该资讯平台算法工程师称，对于平台来说，平台的用户时长等指标会随之下降，进而收入减少，长尾效应加剧。
更进一步，对于部分企业来说，关闭算法推荐在客观上将降低它们的广告营销效率。林羽称，用户关闭了算法推荐，系统所收集到的使用习惯等方面的数据会相应减少。
一位广告营销行业从业者告诉界面新闻采访人员，算法推荐的精准度依赖于所收集的用户标签，算法输送的标签维度的减少，那么算法推荐的精准度也会受到影响，广告营销效率也会随之下降。
《规定》还提到，算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。
这意味着，即使不完全关闭算法推荐功能，用户也将拥有减少或者删除自己相关标签的权力。 “我们每个人在App上面的个人信息，比如学历、年龄、手机型号、输入法经常搜的东西等等，这些都是我们身上的标签，广告会根据这些标签来定义你这个人可能对什么感兴趣，然后推送相关广告给你。 ”
该广告营销人员表示，这样一来，既有的广告推荐精准度就会受到影响， “但具体有多大影响，目前还无法准确预测。 ”
大数据杀熟被明令禁止
利用大数据分析和评估消费者的个人特征，最终用于商业营销已经十分普遍。在这个过程中，一些企业对消费者进行区别对待，造成的“大数据杀熟”现象也屡见不鲜。
在此次征询意见的《法规》中，这一现象被明令禁止。《规定》强调，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
刘远举认为，《规定》的出台，意味着监管层面会努力打压大数据杀熟这种现象。 “通俗讲，就是保护消费者避免被大数据杀熟。 ”夏海龙表示， “这也是禁止利用算法进行歧视定价，与《个人信息保护法》的规定也相互呼应，监管理念一致。 ”
在对将于今年11月1日施行的《个人信息法》解读时，全国人大常委会法工委经济法室副主任杨合庆曾表示， “‘大数据杀熟’行为违反了诚实信用原则，侵犯了消费者权益保护法规定的消费者享有公平交易条件的权利，应当在法律上予以禁止。 ”
“不让企业进行大数据杀熟是一个好事情。 ”林羽认为，一旦该《规定》正式施行，那么企业就不能通过大数据杀熟来赚取额外的利润。
实际上，常见的电商、外卖等场景的“大数据杀熟” ，只是算法歧视的部分表现。 “对新老用户打不同标签，并进行区别对待，这种算歧视性或者偏见性用户标签。 ”林羽补充道。
随着算法技术的不断成熟扩展，算法歧视也随在越来越多领域出现，如价格歧视、就业歧视、信用歧视等。要想根治“大数据杀熟” ，则需要对算法歧视作进一步规制。
而此次《规定》也提到，算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点，或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。
这也意味着，对算法歧视的整治，在制度层面上有了更加明确的规定。
与此同时，《规定》也提到，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。
夏海龙认为，这主要是要求平台应当坚持足够的中立性和客观性，尤其不能既做裁判员又做运动员，平台内容、榜单等信息应当真实， “这一规定直接约束平台自身的不当行为，平台违反将会遭受行政处罚。 ”
监管维度进一步完善
随着《规定》的出台，对于算法推荐的监管也在逐步完善。
“整体来看，个人信息保护、网络安全以及对未成年人、消费者、劳动者合法权益的保护理念贯穿在《规定》之中。 ”夏海龙表示，该《规定》是对《个人信息保护法》《数据安全法》等上位法的积极落实。
《规定》提到，算法推荐服务提供者应当落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。
这在一定程度上将会增加被监管公司的运营成本。林羽认为，这会导致被监管公司的审核及推荐流程变得繁琐，人力成本也将进一步增加。
《规定》强调，国家网信部门将建立分类分级管理制度，会根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等，对算法推荐服务提供者实施分类分级管理。
其中，具有舆论属性或者社会动员能力的算法推荐服务提供者，需要主动备案，并且要在其对外提供服务的网站、应用程序等显著位置，标明其备案编号并提供公示信息链接。同时，还要按照国家有关规定开展安全评估。
“这里面针对的对象包括微博、今日头条等平台。 ”夏海龙判断，这会对这些平台产生较大的影响。
此外，对于违反《规定》相关条款的算法推荐服务提供者，如果拒不改正或者情节严重，可以责令其暂停信息更新，并处五千元以上三万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
【信息|网信办出手整治互联网平台：算法推荐可关闭，“大数据杀熟”被明令禁止】（应受访者要求，林羽为化名。）