中国人工智能发展的愿景应该以生态为中心 ， 真正达到善治 ， 实现技术的发展与人类、环境和谐共生 。
全文2424字 ， 阅读约需5分钟
新京报采访人员 张璐 编辑 张磊 校对 卢茜
2021全球数字经济大会人工智能产业治理论坛8月3日举行 ， 首个《人工智能产业担当宣言》正式发布 ， 倡议人工智能企业设立伦理研究员岗位或通过外部技术支持等方式 ， 加强企业自律自治 。
近年来 ， 人工智能被误用、被滥用的问题引发舆论关注 。 此次《宣言》由北京智源人工智能研究院和瑞莱智慧共同发起 ， 提出中国科技企业在推动人工智能自律自治、稳健发展中应积极承担的责任 。 在技术能力方面 ， 要最大限度确保人工智能系统安全可信 ， 增强算法透明性和可解释性 ， 对用户数据提供充分的安全保障 。
━━━━━
新京报：目前人工智能企业对人工智能治理的态度如何？此前媒体报道过大数据“杀熟”、外卖员困在系统里等问题 ， 如果破解算法被误用的问题？
曾毅：近几年 ， 全球人工智能伦理规范以及我国新一代人工智能治理原则形成发布后 ， 企业越来越意识到人工智能技术风险、社会伦理风险带来的实际问题 ， 以及这些问题给企业带来的负面口碑和影响 。
但我并不认为相关企业已经最大化避免了可能存在的风险 ， 诸如大数据“杀熟”、骑手困在系统当中等问题 ， 企业并非提前全然不了解 ， 但面临企业的生存压力和同行竞争等外部压力 ， 他们做出了有违道德价值观的选择 ， 这种选择倾向了短期利益 ， 忽略长期对社会和企业的负面影响 ， 是得不偿失的 。
所以学术界、政府、媒体应当与企业协同 ， 做出真正对社会负责任的人工智能设计、研发、部署和服务 ， 通过多方共治实现人工智能的稳健发展 。
另外一个需要注意的问题是 ， 一些企业将参与人工智能伦理、治理作为自己公关宣传的手段 ， 但真正提供人工智能产品服务时 ， 对于伦理风险有时避而不谈甚至是视而不见 。
用户看到手机屏幕有一个圈圈住人脸 ， 会有一种误解 ， 认为其他部分没有被采集 。 所以有些人赤裸上半身 ， 有些女性穿得少一点也不会在意 。 一方面 ， 采集超过人脸的信息必须做好用户的知情同意 。 另外 ， 我认为 ， 采集人脸以外的上半身信息作为确定活体依据的技术手段 ， 需要逐步被替代 。
━━━━━
可持续发展的人工智能需关注
公益议题 ， 不能只顾短期收益
新京报：在应用人工智能过程中 ， 做好隐私保护还存在哪些难点？如何破解？
曾毅：举例来说 ， 对目前人工智能产业当中广泛采用的深度神经网络而言 ， 直接删除用户数据会对模型准确率产生影响 ， 若想消除这种影响 ， 技术上还存在巨大瓶颈 。
新京报：人工智能伦理研究是否需要跨学科的专家组成？都涉及哪些相关专业？
曾毅：在两年前 ， 绝大多数技术人员是不太关注人工智能伦理和治理的 。 如今 ， 基于互联网的人工智能从设计研发到产品服务周期缩短 ， 没有经过任何社会学、伦理学和哲学训练的理工科学生 ， 想了一个创新主意 ， 开发完系统第二天就可以上线 ， 它可能产生的负面影响也将随即发生 。
2018年开始 ， 我们在中国科学院大学开设了《人工智能哲学与伦理》的课程 。 课堂上 ， 学习人文科学的学生谈论更多的是技术会给社会带来什么问题 ， 技术创新者更关注技术可能为社会带来的改变 。 当这些不同视角的辩论升级时 ， 就会使我们意识到人工智能的潜在问题 。
构建负责任的人工智能 ， 需要广泛学科背景的专家来参与讨论 ， 涉及社会学、哲学、伦理学、法学、人类学等 ， 有工程技术背景的人工智能专家特别要参与其中 。 政府和媒体也毋庸置疑要发挥监督、宣传的作用 ， 实现多方共治 。
新京报：你提到人工智能发展的可持续性 ， 如何理解和做到可持续？
曾毅：我们分析了计算机科学和人工智能领域发表的英文文献 ， 发现800万篇人工智能和计算机科学相关的论文中 ， 只有0.1%是真正跟可持续发展目标高度关联的 ， 这是一个非常可悲的指标 。
目前很多人工智能应用于健康、教育 ， 但是它也可能给健康和教育带来负面影响 ， 所以应该同步关注产生的负面影响 ， 比如用人工智能分析学生在课堂的表情 ， 引发了关于隐私的讨论 。
大多数应用偏向于教育、健康 ， 是因为这两个领域机遇多、能赚钱 。 如果人工智能的创新目标就是赚钱 ， 那么很多可持续发展目标无法通过人工智能赋能来实现 。
我特别倡议 ， 人工智能应该特别关注野生动物保护、消除饥饿、赋能文化交互、环境保护和气候行动这类议题 。 仅仅有企业的参与是不够的 ， 学术界、政府在这些更长远的议题上应当发挥持续性的主导作用 。
值班编辑 花木南 康嘻嘻
点击下图进入" 全国新型冠状病毒感染肺炎实时地图 "
杭州警方发布关于林生斌相关情况通报
上海确诊病例打过疫苗吗？张文宏最新回应
【人工智能|解救“困在系统里”的骑手】新京报小鲸铺子
推荐阅读
- 快报|“他，是能成就导师的学生”
- 技术|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- bug|这款小工具让你的Win10用上“Win11亚克力半透明菜单”
- 重大进展|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- 历史|科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 空间|（科技）科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 精度|将建模速率提升10倍，消费级3D扫描仪Magic Swift在2021高交会大显“身手”
- 四平|智慧城市“奥斯卡”揭晓！祝贺柯桥客户荣获2021世界智慧城市治理大奖
- |南安市司法局“加减乘除” 打造最优法治营商环境
- ASUS|华硕预热ROG Flow Z13：称其是“全球最强悍的游戏平板”