易坊好文馆

  1. 首页 > 玩科技 >

应用|我要看看 谁敢把“鸟”写成“乌”

人工智能 人脸 应用 摄像头 作业 孩子 准则 家长 伦理 骏马 楚门 麦卡锡

最近 ， 一款神奇的作业灯登场了 。
它有两个摄像头 ， 一个紧盯着孩子的作业本 ， 另一个可以盯着孩子的面部表情 。 这样在做作业的时候 ， 如果孩子敢把“鸟”写成“乌” ， 家长哪怕在千里之外 ， 仍能大喝一声 。 孩子若想愣神儿 ， 没门儿；想揉揉眼睛玩玩笔 ， 一句“集中注意力”保准会扔过来 。
可以理解 ， 这款产品能给一些因为工作和生活远离孩子的家长提供慧眼 ， 实现远程陪伴 。 不过 ， 它也给那些“直升机”家长增添了利器 ， 不仅盯着人 ， 也能盯着所有的小动作 ， 包括指尖、眼神 。
凭我们的才智 ， 这样的产品肯定会被超越：可以再加一个摄像头盯着孩子的腿脚 ， 写作业时双脚必须并齐放在地面上 ， 不许跷二郎腿；头上可以悬个锤子 ， 发现走神 ， 锤子立马落下来 。
人工智能应用越来越多 ， 在信息安全的前提下 ， 交通导航、医学诊断、移动支付、药物筛选等等 ， 给我们带来了太多福祉 。 疫情防控 ， 人工智能也功不可没 。
从一个摄像头变成两个摄像头 ， 是不是创新暂且不论 ， 关键是与人工智能嫁接 ， 号称人工智能助力教育的新产品 ， 这就值得讨论一下了 ， 人工智能到底该如何助力教育？
浙江某地一所小学的学生 ， 去年被戴上了脑机接口环 。 这个脑箍可以检测脑电波 ， 评判学生上课、写作业时是否集中注意力 ， 系统可以给注意力打分 ， 分数能实时传输到老师的电脑里 ， 据说也会像考试成绩排名一样被发到家长群里 。
还有一款可以对学生课堂听讲情况全程监控的产品 ， 举手3次、低头8次、打瞌睡1次、趴桌子1次……一举一动、面部表情都能被记录在案 。
【应用|我要看看 谁敢把“鸟”写成“乌”】好在经媒体报道后 ， 浙江当地教育部门禁用了上述头箍；上述第二个产品的开发公司也随后发声明说只是技术场景概念演示 ， 否认应用 。 真要谢谢他们 ， 不然 ， 孩子上学戴上头箍 ， 放学回家用上作业灯 ， 全天候、无死角 ， 尽在大人掌握和干预之中 。 这不就是电影《楚门的世界》中 ， 活生生的现实“小楚门”吗 ， 24小时都被监控、直播 。
如何培养出更多有创造力、想象力、敢于突破的杰出人才一直是我们的追问 ， 也是目标 。 一个人的成长需要适度的空间 ， 心理的成熟、心灵的丰富 ， 都需要自我不断探索尝试 。 很多从试错、反思中得到的经验更可贵 。 一直被作业、分数捆绑 ， 没有一丝一毫的空间 ， 也许会有一个好看的分数 ， 但难说会有阳光的心态 。
有人生动比喻 ， 一匹从小只会拉磨的小马 ， 永远不会成为骏马 。
前两年人脸识别技术刚刚开始应用的时候 ， 就有公园里的厕所安装人脸识别设备 ， 一刷脸给你一截手纸 ， 你要想再多要一截 ， 对不起 ， 面子只能刷一次 。 若有特别需求 ， 还真得找别人“借脸用一下” 。 人脸识别应用场景很多 ， 在新冠肺炎疫情期间 ， 即使戴着口罩 ， 有些摄像头也能识别 。
现在厕所厕纸也升级了 ， 有的把二维码印在地上 ， 扫码关注公号才能滑出一截手纸 。 这种推广和营销 ， 用在厕所里总是让人觉得违和 。
奇葩年年有 ， 人工智能来了就特别多 。
一些批量生产“优雅骂人”语句的软件横空出世 。 这类软件可以从文学名著中快速检索、生成特定的骂人句子 ， 语句虽不带脏字却恶意满满 。 这些软件为网络“喷子”提供了“装满大粪的炸弹” ， 中伤他人 ， 污染网络环境 。
不断迭代的科技 ， 双刃剑从来都是锋利无比 。 有学者在科技与伦理的论述中 ， 这样形容“科学技术像一匹不断飞驰的骏马 ， 那么伦理就像制约骏马的缰绳 。 如果没有伦理的规范、约束和引导 ， 科技一味疯狂发展很可能会把人类带上不归路 。 ”
贺建奎对基因编辑技术滥用 ， 被追究刑事责任 ， 这就是缰绳起了作用 。 前些年瘦肉精、三聚氰胺、苏丹红同样如此 。
伦理具有一定的稳定性 ， 面向不确定性增多的未来 ， 科技要给人类提供什么帮助？科技的限度和禁区在哪里？从以往来看 ， 如果预先设置一些高于现行要求的伦理规范 ， 有机会消除一些技术带来的不确定性危害 。
去年 ， 几家研究机构共同推出了《人工智能北京共识》 ， 提出人工智能的研发、使用、治理 ， 应该遵循有益于人类命运共同体构建和社会发展的15条原则 。 例如“善用与慎用原则” ， 要对人工智能应用可能带来的潜在影响具备充分认识 ， 避免误用、滥用 ， 以最大化人工智能带来的益处、最小化其风险 。
之后科技部也对外公布了《新一代人工智能治理原则——发展负责任的人工智能》 ， 提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、敏捷治理等八项原则 。
几乎在同时间 ， 欧盟委员会也发布了人工智能伦理准则 ， 并宣布同时启动该准则的试行阶段 。 据统计 ， 目前各国政府、各类组织、研究机构和产业界颁布的有关人工智能伦理准则提案已经有几十份 。
不过 ， 也可以看出 ， 这些准则大多只是原则性、倡议性的 ， 缺乏可操作性 ， 也缺乏法律上的约束性 。
因此 ， 如何善用人工智能 ， 还是要靠科研人员的自我约束 。 作业神灯的发明者 ， 想想自己小时候 ， 是不是愿意被家长、老师无时无刻盯着就行了 。
当然 ， 无论是阿拉丁神灯还是宝莲灯 ， 无论是金箍还是银箍 ， 产品经理肯定是考察了市场 ， 看到了需求 ， 推广团队也会培育市场以获得收益 。 但是这种收益的埋单者是谁 ， 只是家长花钱吗？非也 ， 损失的有可能是一群人的未来 。
被算法24小时罩起来的孩子 ， 可能会非常听话 ， 写作业时遇到难题也不会龇牙咧嘴 。 如果都这样 ， 倒像一批批小机器人 ， 那么未来这个世界到底是谁的世界呢？
电影《星球大战》里 ， 那颗被称为“终极武器”的死星 ， 代表了技术双面中的“恶” ， 这个有两个重力场的巨大怪物 ， 会让克隆人慢慢减少人性 ， 让所有东西都在机器控制之下 。
不说那么远的科幻世界 ， 近几年 ， 商业公司最感兴趣的信息 ， 已经从个人的生日、电话、住址变成了指纹、人脸特征、虹膜等 。 南京一家售楼处采集看房者人脸信息 ， 有自我保护意识的买房人戴着钢盔看房 。 家长放心把自家孩子的脸通过神灯交给一家公司？
近几年热热闹闹的人工智能 ， 已经有60多年历史 。 现在公认的说法是1956年达特茅斯学院夏季研讨会（人工智能的起源事件）的召集者麦卡锡（John McCarthy）想出来的 。 有人考证 ， 说这是误读 ， 因为麦卡锡晚年承认这个词最早是从别人那里听来的 ， 但记不清是谁了 。 如今当事人大都已仙逝 ， 谁发明了这个词恐成世纪悬案 。 不过 ， 人工智能花里胡哨的应用 ， 还能远程管中国小孩写字多一笔少一笔 ， 应该是这些先贤们没有想到的 。
李新玲 来源：中国青年报 （ 2020年12月16日 06 版）

    推荐阅读


    上一篇：男方|我的相亲对象不是人

    下一篇：病毒|中科院微生物所施一：探索科研无人区，关注冰川冻土下古病毒