许多消费者曾质疑 ， 为什么并不是旅游旺季 ， 机票价格却越搜越高；为什么聊天时随口提到某款商品 ， 转眼就会在各大平台上看到相关的广告推送？为什么使用一款App ， 会弹出几十页翻不完也读不懂的隐私政策 ， 而要使用它 ， 你必须点击“同意”？当有一天你不想再使用它时 ， 却怎么也找不到注销按钮在哪里？
大数据时代 ， 我们总能更快地找到自己想要的信息 ， 却似乎越来越难躲开其中暗藏的算法陷阱 。
会员价比非会员价还高？平台运用算法进行“杀熟”
不久前 ， 一篇质疑某外卖平台运用算法进行“杀熟”的文章引发热议 。 该平台的一位会员用户肖先生指出 ， 同样的订单 ， 他的配送费定价时常比非会员用户的更高 。
肖先生： 经常点同一家（的外卖） ， 有一天我开了会员之后发现配送费价格一下就较之前涨出了三倍 。 然后那天我试了几乎一小时 ， 配送费一直是比平时高出了六元 。
文章图片
肖先生告诉采访人员 ， 之后的一周 ， 他在点外卖的时候 ， 经常同时用两部手机 ， 分别登录会员账号和非会员账号 ， 进行对比实验 ， 发现配送费上的差别总是存在 。 于是他将这些观察总结成一篇文章发表了在个人公众号上 。
文章图片
肖先生： 后来我这篇文章出来之后 ， 很多网友在我后台留言都有这种会员“杀熟”的情况 。 比如说一个鼠标 ， 非会员购买的时候100元 ， 但是用会员买价格变成了110元 。 结果我开了会员之后 ， 反而比非会员价格还要高 ， 那我开会员的意义在哪 。
文章引发热议后 ， 相关外卖平台联系了肖先生 。 针对他提出的质疑 ， 平台方给出的回复是：配送费上的价格差异是由于系统缓存而导致的误差 。
文章图片
肖先生： 我尝试了很多次 ， 在一周之内都是这种情况 。 那缓存的说法肯定说不过去 。何来的位置缓存呢？在同一个地方 ， 差异就是存在于会员和非会员之间 。 咨询了一些技术方面的朋友 ， 造成这么大的误差是不可能的 。
“杀熟”≠差别定价 相关投诉不断增多
肖先生的疑惑 ， 最终还是没能得到一个明确的解答 。 但是他的经历 ， 却让大数据杀熟这个话题再次走进公众的视野 。 围绕这个问题 ， 采访人员对中国消费者协会和有关法学专家进行了采访 。
文章图片
中国消费者协会投诉部主任 陈剑： 经常会有消费者抱怨说我是老会员了 ， 可是我的价格却比普通会员（用户）的价格要高 。 比如说在一些网约车的平台、电影订票平台、订机票的平台等等 ， 都会出现这类问题 。 第二种情形就是有一些消费者如果多次浏览一个页面 ， 会出现（商品）价格上涨的情况 。 消费者可能基于害怕涨价或者是发现比如机票很紧张的情况 ， 就匆忙下单 ， 结果等他下单之后发现 ， 很快地这个价格又回落了 。
据专家介绍 ， 大数据杀熟 ， 最关键的一步就是要对客户非常“熟悉” ， 并由此提供差异化选择 ， 这在以往的一些商业模式中其实早已存在 ， 而且很少有负面评价 。
文章图片
北京航空航天大学法学院副教授 裴炜： 大数据杀熟本身来说 ， 它背后的现象其实是差异化定价 。 比如说保险 ， 不同的人的保金、保额或者保险的强制期限都会不一样 。 所以如果单纯用差异化的定价来说的话 ， 它不一定构成一个负面性的东西 。 我们所反感的是没有正当性基础的差别定价 。
文章图片
清华大学人工智能国际治理研究院副院长 梁正： 交通保险会根据你的事故状况、你的驾驶行为 ， 来决定是否给你折扣 ， 还是要加价 。 这个行为可能还在大家所接受的是客观的行为 ， 或者是客观的个人差别上 。 现在大家更关注的是 ， 我的个人信息被利用去生成我的数据画像 ， 然后对我进行定价上的这种区分 。
文章图片
据专家介绍 ， 大数据杀熟与常见的差别定价不同 ， 当它无视消费者的知情权和主动权时 ， 也就违背了消费者贡献数据的初衷 。 而在我国现行法律体系下 ， 《价格法》《消费者权益保护法》和《反垄断法》都针对“大数据杀熟”可能涉嫌违法的情形进行了规制 。
文章图片
北京航空航天大学法学院副教授 裴炜： 2020年的时候 ， 我们专门针对在线旅游服务出了一个相应的规范 ， 要求在线旅游经营服务者 ， 不能够滥用大数据或者是相应的技术 ， 针对用户他的个性化的特征来进行一个差异化的待遇 。 《消费者保护法》里面本身就有相应的规定 ， 我们有获得公平交易的权利 ， 这本身就意味着要有一个价格的合理性 。 同时这个“杀熟”有可能还会涉及到比如说反垄断法上的一些相关内容 。 问题是存在的 ， 但是我们也看到我们国家的立法 ， 确实也是在不断地去回应这些现实的问题 ， 努力地去保护我们用户的一些合法权益 。
文章图片
据中消协介绍 ， 消费者对“大数据杀熟”等问题投诉不断增多 ， 问题的核心是互联网平台对算法技术的应用问题 ， 集中体现在推荐算法、价格算法、评价算法、排名算法、概率算法和流量算法等方面 。
文章图片
中国消费者协会投诉部主任 陈剑： 比如说消费者在买商品或者服务的时候 ， 平台会根据消费者浏览过的页面、消费者一些喜好 ， 包括他的行踪轨迹 ， 来对他形成一些个性化的推荐 。 其实可能经营者对他进行了一些精准的个人数据画像 。 这种画像相关的商品和服务只推荐给了他 ， 所以他所获取的知情权就是存在很大的缺陷 。
互联网平台是如何“熟悉”每一位用户的呢？答案是通过用户画像 。 在精准的用户画像背后 ， 是平台所累积的大量个人数据 。
文章图片
清华大学人工智能国际治理研究院副院长 梁正： 用我的这些数据 ， 你最后对我作的这样的一个（刻画） ， 这个是不是准确？太准确了的话 ， 大家会担心被操控 。 稍微深入一点讨论就会发现 ， 我在意的到底是本身这个叫做歧视性的定价 ， 还是说背后所反映出来的我的信息被不当地采集和利用？
平台累积大量个人数据 “算”制用户画像
基于大数据的用户画像 ， 能让商家摸清你更爱吃辣还是酸 ， 并通过算法把更符合你口味的餐厅排序靠前 。 用户数据 ， 往往是通过一个个手机App被互联网平台所采集的 。 而在我们和这些App打交道的过程中 ， 同样也有令大家担忧的问题不断出现 。
App究竟是如何实现高精度地智能推送？普遍被用户感知的“App偷听”是否真实存在呢？
App治理工作组由全国信息安全标准化技术委员会、中国消费者协会、中国互联网协会、中国网络空间安全协会的一批网络安全法律、技术专家组成 。
文章图片
技术专家首先通过一款由他们开发的模拟“App偷听测试程序” 。 通过测试 ， 证实了当测试程序置于前台运行时 ， “偷听”是可以实现的 。
此外 ， 经过对比实验 ， 技术人员告诉我们 ， 在测试程序退至后台 ， 或者在手机处于锁屏的情况下 ， 录音依然可以持续进行一段时间 ， 但都会自行终止 。 只是不同的手机操作系统 ， 锁屏下持续录音的时长略有不同 。
那么 ， 在技术上可以实现的“偷听”手段 ， 是否在市面上的App中被滥用了呢？
文章图片
App治理工作组技术专家 何延哲： 我们在做实际地对偷听的这种检测的时候 ， 发现目前还没有发现真正意义上哪款App有这种 ， 把语音信息上传之后的偷听行为 。
App治理工作组专家介绍 ， 偷拍、偷录虽然在技术上可以实现 ， 但是这种方式成本高昂、效率低下 ， 而且存在高昂的法律风险 。
文章图片
App治理工作组专家表示 ， 目前无论是行业标准还是技术层面 ， 都在进一步强化对手机麦克风等敏感权限调用的透明度 ， 以做到让手机使用者知情 。
文章图片
App治理工作组技术专家 何延哲： 现在我们看到有一些手机操作系统 ， 已经实现了对麦克风使用的实时提示 。 我们叫摄录指示器 ， 也就是说当你要调用麦克风的时候 ， 有一个状态栏 ， 有一个红点或者说有一个提醒 。
刚刚和朋友聊起健身计划 ， 转眼网购平台都开始向你推荐健身用品；或者在一个平台检索过火锅底料 ， 许多平台都开始向你频繁推荐涮锅食材甚至是锅具 。 如此精准的个性化推荐是如何实现的呢？
文章图片
App治理工作组技术专家 何延哲： 一个App可以把一个用户做360度的画像 。 这个画像我相信 ， 它是一个常年积累的结果 ， 这是第一； 第二 ， 是多个渠道汇聚的结果 。
据专家介绍 ， 画像的准确性 ， 主要是通过对我们的购买记录、浏览记录、搜索记录 ， 甚至是下载过的应用程序清单等信息进行大数据分析 ， 最终得以实现的 。
文章图片
App治理工作组技术专家 何延哲： 为什么说有时候你会感觉被偷听呢？提供大数据的这个来源 ， 它不是当前的这个App ， 它可能是其他App 。 你去做过一些操作 ， 它会把相应的信息汇总到一起 ， 它可能还会关联你的好友、关联你同一个区域内的人员 。 然后他们有的一些动作 ， 也可能会成为它推送广告的一个方向 。
专家提示 ， 用户可以在手机操作系统的权限设置里 ， 找到麦克风权限 ， 检查目前有哪些App被授权使用麦克风 。 根据自己的需要 ， 用户是可以随时关闭对App使用麦克风的授权的 。
App违法违规收集个人信息更应被重视
即使是原本不属于个人信息的数据 ， 在大量汇聚之后 ， 也能挖掘出事物之间不为人知的联系 。 因此在App治理工作组专家看来 ， 更应该被重视的 ， 是App违法违规收集使用个人信息的行为 。 而在他们近日对市面上的App进行检测时 ， 发现了隐私政策篇幅长、用户难以读懂；账户无法注销等诸多问题 。
App治理工作组技术专家 何延哲： 治理工作会非常关注收集个人信息最小化的问题 。 事实上这个问题我们从实际上来看 ， 从这两年来看的话 ， 其实是解决了一部分问题 。 但是解决问题的速度包括效果可能还不太理想 ， 包括那个隐私政策 ， 确实有了 ， 但是它写得好不好？注销有了 ， 那他注销的条件合不合理等 ， 这方面有一些问题 。
文章图片
我们举一个例子 。 在测试的过程中 ， 我们发现这一款壁纸的App， 它的隐私政策竟然有一万多字 。 那我们看它到底写了什么 。 我相信没有任何一个人 ， 会把这个隐私政策读完的 。 即便是像我们这种每天读隐私政策的人看得都很头疼 。 就比如说 ， 这个隐私政策中写的这个位置信息 。 App说我要位置信息 ， 它说了一大堆理由 ， 但是我看它这个理由和壁纸都没有什么关系 。
文章图片
北京航空航天大学法学院副教授 裴炜： 隐私政策究竟有没有真的服务到用户 ， 有没有真的保护到个人 ， 这块其实是属于一个断裂的状态 。 所以未来比较担心的一点 ， 就是这种保护的形式化 。
文章图片
App治理工作组设有“App个人信息举报”微信公众号平台和专用举报邮箱 。 专家告诉采访人员 ， 账号注销难 ， 是目前用户投诉量很大的另一个问题 。
文章图片
中国人民大学未来法治研究院副院长 丁晓东： 我们从信息法律的研究上来说 ， 经常有一个术语叫做“数字烙印” 。 在这个网络社会上 ， 踩的脚印全部都是被永久留痕的 。 在我们国家的个人信息保护法里专门作出了规定 ， 这个我们说从法律权益上来说 ， 它是属于个人的一种删除权 。
文章图片
北京航空航天大学法学院副教授 裴炜： 信息技术安全国标 ， 其中涉及到个人信息安全规范里面 ， 就专门提到关于这个注销 。 就是说用户你在注销或者是停止使用某种服务的时候 ， 它的途径和方式应该尽可能地与你使用这个服务的时候 ， 它的这个途径和方式是相同的 。 那么同时你在注销的过程中被要求提供的信息 ， 不应该比你在使用App的时候使用的这些信息、提供的身份信息更多 。
文章图片
专家介绍 ， 在数据要素的流通过程中 ， 个人信息的采集 ， 只是其中一个环节 。 保护个人信息安全 ， 数据的储存、处理和流通环节 ， 同样需要关注 。
文章图片
中国人民大学未来法治研究院副院长 丁晓东： 如果把前端环节（数据搜集）就给封闭的话 ， 其实对于人工智能和数据产业的发展 ， 其实会造成很大的影响 。 那怎么样去调和呢？我想一个很重要的方面就在于说个人信息的搜集之后 ， 一定要对它进行一个非常严格的全生命周期的一个管理 。 我们要有匿名化机制、模糊化机制 。 处理的时候我们可能要采取一些数据最小化的处理原则 ， 处理必要的数据 。 在储存和流通环节以及保护泄露的问题上 ， 尤其要采取一个非常高的标准 。
法律还存一定短板 安全边界该划定还需探索
现在 ， 技术带来的便利和个人信息的保护 ， 正处在一个摇摆天平的两端 。 在这个天平的“配平”过程中 ， 法律扮演什么样的角色？
中国人民大学未来法治研究院副院长 丁晓东： 我们传统上的消费者保护法 ， 还要包括合同法对于格式条款上的应用、侵权法对于侵权问题上的应用 ， 以及行政监管里面的很多问题 。 在这些法律里面都可以在一定程度上去援引 。 但是另一方面 ， 由于很多问题都是由于个人信息和算法这些新技术所带来的 ， 所以在一定程度上来说 ， 也还存在着一定的短板 ， 立法机关也在积极跟进当中 。 我们的民法典生效 ， 可能会对个人信息的保护 ， 会提供很多法律上的支撑 。 那么个人信息保护法（草案）、还有数据安全法（草案）的制定 ， 未来的话肯定也会提供很多的额外的保护 。
如今 ， 我们每个人都在大量地生产信息 。 专家表示 ， 在当下这个由算法和大数据驱动的社会生活里 ， 法律扮演的更多是兜底保障的角色 。 安全边界的划定 ， 需要监管机构、平台和用户三方在互动中来探寻 。
文章图片
清华大学人工智能国际治理研究院副院长 梁正： 我们也不是一味地通过比如说一些禁止的方式 ， 就能解决它 。 技术的进步你都会看到它会带来新问题 ， 但是这个问题的解决呢 ， 也是靠这些技术本身去给我们解决的 。
文章图片
业内人士 田天： 数据要素作为一项很重要的生产力 ， 去通过数据赋能产业链的上下游 ， 促进数据的流通 ， 包括去促进数据的交易等等 。 由于存在大量的个人隐私信息 ， 或者说一些商业的数据资产等等 ， 就导致数据的分享、流通和利用 ， 其实中间存在很大的困难 。 现在其实在学术界相应的一些联邦学习等等 ， 这种技术都是在解决这个问题 ， 推动相关的标准规范等等 ， 就是并不希望大家因为这种数据安全的一些问题 ， 就因噎废食 。
从事人工智能安全研究的技术专家告诉采访人员 ， 目前 ， 技术手段上 ， 已经能够做到在数据依然储存在原始位置的情况下 ， 达到同样的分析效果 。
业内人士 田天： 相当于数据明文并不出库 ， 但是通过加密的一些方式 ， 就可以实现人工智能在加密数据上的运算 。 能够感知到的效果就是说 ， 我的数据资产并没有泄露 ， 也没给到别人 。 没有任何隐私信息的泄露 ， 但同时我得到一个在更加丰富的数据上训练得出来的模型 。
文章图片
【平台|会员价更高？大数据时代平台“杀熟”怎么破？专家解读→】清华大学人工智能国际治理研究院副院长 梁正： 从法律法规的层面来讲呢 ， 应该是兜底 。 然后我们划定一些红线 ， 不能够去影响到公共的安全 。 像数字经济的甚至有一些商业模式的迭代是很快的 ， 这方面不能完全等到法律制定出来 。 针对每一个问题都可以有相应的技术解决方案来应对它 ， 不是没解的 。 关键是我们要把规则制定清楚 。
推荐阅读
- IT|95306铁路货运电子商务平台升级上线 可24小时办理货运业务
- Intel|英特尔放出i9-12900K平台PCIe 5.0 SSD演示 突破13GB/s传输速率
- Intel|Intel在Alder Lake平台演示PM1743 PCIe Gen 5 SSD，带宽达14GB/s
- 科技创新平台|云南：打造世界一流食用菌科技创新平台
- 硬件|Intel 11代酷睿4核15瓦超迷你平台 仅有信用卡大小
- 平台|[原]蚂蚁集团SOFAStack：新一代分布式云PaaS平台，打造企业上云新体验
- 协作|微软发布了个“圈”，官方详解Microsoft Loop全新协作平台
- 审判|直接服务“三城一区”主平台，怀柔科学城知识产权巡回审判庭成立
- 相关|科大讯飞：虚拟人交互平台1.0在媒体等行业已形成标准产品和应用
- 平台|数梦工场助力北京市中小企业公共服务平台用数据驱动业务创新