斯坦福大学 AI100 报告发布:AI 发展速度惊人但风险也正走进现实

发布日期:2021-09-24 01:20   来源:未知   阅读:

  语言处理、计算机视觉和模式识别的巨大进步,意味着人工智能(Artificial Intelligence,AI)每天都在与人们的生活进行交互,从帮助人们选择电影,到帮助人们解决医疗诊断难题方面都在积极发挥作用。

  然而,伴随着这些成功的案例,人们迫切需要重新了解和降低 AI 驱动系统的风险和缺点,例如 AI 算法歧视或者利用 AI 进行恶意欺骗的行为。计算机科学专家们必须与社会科学专家和法律专家合作,以确保使 AI 带来的陷阱最小化。

  9 月 16 日,来自计算机科学、公共政策、心理学、社会学和一些其他学科的专门评估 AI 领域状况的国际专家小组,在斯坦福 AI100 的网站上,以 Gathering Strength, Gathering Storms 为题,共同发表了人工智能百年研究 2021 年研究小组报告。

  AI100 是由斯坦福大学 Human-Centered AI 研究所主持的一个正在进行的项目,旨在监测 AI 的进展并指导其未来的发展。这份新报告是 AI100 项目发布的第二份报告,评估了 2016 年到 2021 年间 AI 方面的发展。

  这份报告的重点在于回答 14 个 AI 相关的问题,并探讨 AI 发展的关键领域。这些问题由 AI100 常务委员会制定,而这个委员会由一些著名的 AI 领导者组成。

  这些问题包括:AI 最重要的进步是什么? 和 AI 方面最鼓舞人心的开放式挑战是什么?。其他的问题则涉及 AI 主要风险和危险、AI 对社会的影响、公众对于 AI 认知和 AI 领域的未来。并且在报告中,委员会召集了一个由 17 名研究人员和专家组成的小组解答了这些问题。

  报告小组的主席、布朗大学计算机科学教授 Michael Littman 表示: 在过去的五年里,AI 已经从主要发生在研究实验室或其他高度控制环境中的事情,跨越到社会上影响人们生活的事情。

  Michael Littman 继续补充说: 这是一件很令人兴奋的事情,因为这项技术正在做一些我们在 5 年或 10 年前只能在梦里才可以实现的事情。但与此同时,AI 领域正在着手应对这项技术的带来社会影响,我认为下一个前沿的方式是考虑如何从 AI 中获益,同时将 AI 的风险降至最低。

  在 AI 的进步方面,专家组成员们注意到 AI 各个子领域的重大进展,包括语音和语言处理、机器视觉和其他领域。这一进步在很大程度上是由机器学习技术的进步推动的,特别是深度学习系统方面的进步,近年来这些技术从学术环境逐渐转变到了日常应用。

  src=图 OpenAI 的 DALL-E 生成图像表明这套系统不仅仅是检索相关图像,而是产生新的视觉特征组合。(来源:AI100 Stanford)

  例如,在自然语言处理领域,AI 驱动的系统现在不仅能够识别单词,还能够理解它们在语法上的使用方式以及单词的含义在不同的上下文中发生的变化。这使得网络搜索、预测文本应用程序、聊天机器人等功能更加完善。其中一些系统现在可以生成难以与人工生成区分开来的原始文本。

  在一些其他的领域,AI 系统诊断癌症和其他疾病的准确度可以与训练有素的病理学家媲美。基于 AI 的研究技术对人类基因组产生了新的见解,并加速了新药物的发现。虽然人们承诺已久的自动驾驶汽车尚未得到广泛地应用,但是基于 AI 的驾驶辅助系统,如车道偏离警告和自适应巡航控制,已经成为了大多数新车的标准配置。

  src=图 人工智能已经离开了实验室,并以新的方式进入了人们的生活(来源:Nick Dentamaro/ 布朗大学)

  Littman 说,最近的一些 AI 进展可能会被该领域之外的观察者忽视,112223333.com,但实际上反映了基础 AI 技术的巨大进步。一个相关的例子是在新冠疫情大流行期间,在视频会议中使用背景图像,成为了许多人在家工作中普遍存在的现象。www.645555.com

  为了将人们置于背景图像的前面,20678金算盘论坛心水,系统必须将人们与身后的东西区分开来,而仅仅从一组像素上区分是十分困难的。能够很好地理解图像以区分前景和背景可能是五年前在实验室中发生的事情,但肯定不是在每个人的计算机上实时以高帧速率发生的事情。这是一个相当惊人的进步。

  至于 AI 的风险和危险,这个专家小组并没有设想一个反乌托邦的情景,即超级智能机器接管世界。AI 的真正危险虽然微小,但是同样令人担忧。

  报告中提到的一些危险源于故意滥用 AI,即用于传播错误信息或损害人们声誉的深度伪造图像和视频,或用于操纵公共言论和舆论的在线机器人。其他风险源于 公众意识的某些角落与 AI 决策相关的中立和公正氛围,导致系统被视为客观的,即使它们可能是有偏见的历史决策,甚至是公然歧视的结果。

  src=图 利用 AI 生成的高分辨率图像,这种技术引起人们对虚假信息传播的担忧(来源:AI100 Stanford)

  在执法等领域,这是一个特别令人关注的问题,犯罪预测系统已被证明对有色人种社区产生不利影响,或者在医疗保健领域,保险算法中嵌入的种族偏见可能会影响人们获得适当护理的机会。

  随着 AI 使用的增加,这类问题可能会变得更加普遍。Littman 表示,好消息是 AI 领域正在认真对待这些危险,并积极寻求心理学、公共政策等领域专家们的意见,从而探索出减轻这些危险的方法。

  src=图 家用传感器和机器人正在兴起,提供支持和护理的同时也引起了人们对普遍监视的负面影响的担忧。(来源:AI100 Stanford)

  Littman 说,编写这份报告的小组成员来自不同的领域,可以反映出 AI 领域正在扩大的视野。 这个小组由几乎一半的社会科学家和一半的计算机科学人员组成,我对社会科学家对人工智能的了解如此之深感到非常惊喜。我们现在有在各种不同领域工作的人,他们被认为是 AI 专家,这是一个积极的趋势。

  展望未来,专家小组得出结论,政府、学术界和工业界需要发挥出更大的作用,以确保人工智能的发展为更大的利益服务。

  总部位于西雅图的 Allen AI 研究所首席执行官 Oren Etzioni 曾经是 2016 年报告研究小组的成员。他对 AI100 的更新表示欢迎并表示,2021 年这份报告代表了 AI 领域内外顶级专家的大量工作和见解。报告避免了耸人听闻的说法,而倾向于有节制的学术义务。我认为这份报告关于人与 AI 合作的前景、AI 素养的需求以及来自学术界和非营利组织强有力的非商业视角的重要作用是正确的。

  Etzioni 唯一的质疑是报告声称到目前为止,人工智能的经济意义 相对较小——特别是相对于预期而言 。对此,Etzioni 表示 实际上,我认为这份报告可能低估了 AI 的经济影响,因为 AI 通常是苹果、亚马逊、谷歌和其他一些大公司产品中的一项组件技术。

  德克萨斯大学奥斯汀分校计算机科学教授、索尼 AI 美国公司执行董事兼 AI100 常务委员会主席 Peter Stone 说: 虽然过去的一些年中,有很多关于 AI 影响的报告。但是 AI100 报告的独特之处在于,它们都是由 AI 内部人士撰写的。这些 AI 内部人士是创建 AI 算法或研究 AI 对社会影响的专家,并将 AI 领域作为主要职业活动。这也是一项持续的、纵向的、长达一个世纪的研究的一部分。2021 年的 AI100 报告对于的这个百年计划来讲至关重要,因为它通过评论 AI 在这五年间的变化与 2016 年的报告紧密相连。

  微软首席科学官、AI 百年研究的联合创始人 Eric Horvitz 称赞了研究小组的工作说: 不同的 AI 专家小组在这份里程碑报告中分享的见解给我留下了深刻的印象。2021 年的报告在描述 AI 的现状和发展方向方面做得很好,包括评估我们当前理解的 AI 前沿,以及 AI 对人类和社会影响的关键机遇和挑战的理解和指导。

  人工智能百年研究(AI100)于 2014 年秋季启动,是对 AI 领域及 AI 对人类、社区和社会影响的长期调查。它考虑 AI 计算系统的科学、工程和部署。作为其核心活动,监督百年研究的常务委员会每五年组成一个研究小组,以评估 AI 当前的状态。研究小组回顾了上一份报告之后几年 AI 的进展,展望了 AI 未来的潜在进展,并描述了这些进展带来的技术和社会挑战和机遇,包括在伦理、经济和与人类认知相容的系统设计等领域。

  百年研究定期专家审查的首要目的,是提供一组关于 AI 及其影响的思考。这些研究为 AI 研究、开发和系统设计方向提供专家的指导,以及帮助确保这些系统广泛造福个人和社会的计划和政策。

  百年研究以早期的一项非正式研究 AAAI-Asilomar 研究 为蓝本。2008-2009 年间,时任人工智能促进协会(AAAI)主席的 Eric Horvitz 召集了来自多个机构和领域的 AI 专家,以及认知科学、哲学和法律学者。参与者在分布式小组中工作,讨论近期 AI 的发展、长期可能性以及法律和道德方面的问题,然后在 Asilomar 举行为期三天的会议,分享和讨论他们的研究结果。

  与会者随后与其他同事进行的讨论进一步扩大了关于密集会议讨论的简短书面报告,引起了该领域内外的广泛兴趣和辩论。Asilomar 会议的影响,以及 AI 领域的重要进展,包括 AI 算法和技术开始进入全球日常生活,激发了对 AI 及其对人类和社会的影响进行长期反复研究的想法。这项百年研究随后被一所大学资助,以促进深入思考和跨学科学术调查,从而激发创新,并为政府机构和行业提供明智的建议。