易坊好文馆

  1. 首页 > 玩科技 >

定义|【智库声音】美国《人工智能风险管理框架》概念先导！重新定义AI风险，指出管理框架的灵活可选性( 二 )


1.2 冲击就业格局
2016年12月 ， 美国白宫发布报告《 人工智能、自动化及经济》（ Artificial Intelligence, Automation and the Economy） ， 指出人工智能技术可能会给现阶段的靠劳动力生存的人们带来威胁 ， 并预测未来10年至20年间 ， 时薪低的工种将受到人工智能技术的冲击最大 。
1.3 政治安全
人工智能已被用于分析国民政治立场 ， 研判政治舆情 ， 影响政治进程 。

  • 例如 ， 剑桥分析公司利用人工智能分析了海量美国公民的用户信息 ， 包括肤色、性取向、智力水平、性格特征、宗教信仰和政治观点等 ，辅助进行竞选战略 ， 影响美国大选结果 。
  • 此外 ，人工智能还被用于伪造虚假政治信息或传播特定政治观点 ，有网民利用人工智能技术 ， 伪造了一段美国前总统奥巴马批评现任总统特朗普的视频 ， 造成了恶劣影响 。
1.4 个人隐私安全
二是信息收集多样 ， 侵犯个人隐私 。 随着人脸识别、虹膜识别等应用的普及 ， 人工智能正在大规模、不间断地收集、使用敏感个人信息 ， 个人隐私泄露风险加大 。
1.5 技术风险
  • 不可预测性 。 人工智能算法可能会产生一些意外的结果 。 目前人工智能系统已经出现了很多失败的案例 。
  • 大规模破坏 。 如果人工智能系统发规模部署 ， 那么系统失败可能会引发明显的风险 。 分析师称人工智能系统识别的方式可能是相同的 ， 可能会引发大规模的破坏效应 。
  • 不可解释性 。 目前 ， 性能最好的人工智能算法都无法解释其工作过程 。
目前 ， 性能最好的人工智能算法都无法解释其工作过程 。
2.风险定义
在人工智能风险管理框架中 ，“风险”表示事件发生的概率和对相应事件后果的综合衡量 ， 而不是仅关注负面的影响 。
3.框架制定
信息调查：背景、范围和受众
3.1 “NIST人工智能风险管理框架”制定原则与进程
美国国家标准与技术研究所提出的 “ NIST人工智能风险管理框架” 旨在解决人工智能产品、服务和系统的设计、开发、使用和评估过程中的风险 ， 并本着自愿原则进行使用 。
  • 2021年7月29日 ， 美国国家标准与技术研究所（NIST）就向公众发出了信息调查
  • 2021年10月19日-21日举行研讨会 ， 对该概念文章草稿进行讨论
3.2 主要关注议题：管理方法、受众、效果
本次征求意见主要关注以下问题：

上一篇：洗衣机|滚筒洗衣机性能对比测试：松下、美菱等10款样品机对织物损伤较大

下一篇：基础科学|DARPA建立公私伙伴关系以支持“联合大学微电子2.0”计划