技术|许丽颖:心理学研究发现人对技术不了解造成算法厌恶

中新经纬客户端6月26日电 (张燕征)近日 , 由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行 。 清华大学社科学院心理学系博士后许丽颖在研讨会上表示 , 要解决算法歧视和算法厌恶等问题 , 需要更多实证道德心理学研究 , 了解更多民众的观点 。 “平台收集人们的数据 , 做用户画像和用户分类 , 需要探索一个合适的‘度’ 。 ”

技术|许丽颖:心理学研究发现人对技术不了解造成算法厌恶
文章图片

清华大学社科学院心理学系博士后许丽颖 。 来源:主办方供图
许丽颖表示 , 心理学领域对算法有很多研究 。 数据表明 , 很多人知道算法决策表现是更优的 , 但是人们还是不太喜欢让算法做决策 , 更愿意让人类做决策 , 人们称这种心理为算法厌恶 。 当这种决策任务有道德性质时 , 这个厌恶就更加强烈 。
【技术|许丽颖:心理学研究发现人对技术不了解造成算法厌恶】那么算法厌恶形成的原因是什么?又该如何解决?许丽颖指出 , 可在实证研究基础上再去探讨一些解决方式 。 比如研究发现 , 人们对于算法不了解 , 从而导致人们产生算法厌恶 , 那么可以提高算法的透明度 , 提高普通人的算法知识 。 也有实证研究发现 , 人们对于算法能力不信任 , 那么可提高算法的决策能力、专业化和个性化 。
“还有一些人了解算法 , 也信任它的能力 , 但是内心就是不愿意用 , 针对这种现象 , 可以增强人类和算法的合作 , 不是把决定权交给算法 , 而是共同做决策 , 一定程度可以减少算法厌恶 。 ”许丽颖称 。
许丽颖介绍道 , 她所在的研究团队从人工智能的社会心理学、道德心理学研究领域 , 将算法研究划分成了三个层面:最底层的数据和算法包括隐私泄露问题 , 中层是人机交互辅助决策和冲突问题 , 上层探讨算法歧视问题 。 “从下至上是越来越社会化的 , 从上至下是越来越基础 。 剥离人的因素 , 然后在这个框架下进行系列研究 。 ”
针对算法歧视方面的研究 , 许丽颖团队采用了情境实验的范式 , “通过对比分析性别、学历、民族、年龄等要素 , 我们发现无论是什么样的歧视 , 相比算法歧视来说 , 人们对人类的歧视更加愤怒、更加生气 。 ”许丽颖称 。
在许丽颖看来 , 要理解算法歧视现象 , 还需要进一步探讨中介机制 。 “算法歧视行为是没有意图 , 不是主动去做的 , 没有自由意志 , 而如果我们将算法拟人化 , 算法就有更多意图 , 更多的自由意志 , 那民众可能对它更愤怒 , 更想要惩罚它 。 ”
“道德心理学对于人工智能研究是一个以人为本的研究 , 无论是算法厌恶还是算法歧视 , 其实都是从民众中来的 , 要研究如何解决也要到民众中去 , 看民众怎么想 , 在了解他们意见的基础上 , 我们再提出一些针对性的措施去解决 。 ”许丽颖称 。 (中新经纬APP)
中新经纬版权所有 , 未经书面授权 , 任何单位及个人不得转载、摘编或以其它方式使用 。

    推荐阅读