广告

人工智能安全性又浮上台面

时间:2021-10-08 09:09:11 作者:George Leopold 阅读:
在第一轮对人工智能夸张的担忧想法中,主要包括担心它的恶意、可自我复制,以及类似HAL的机器最终超越它的创造者或在战场上不受控制地攻击。但自那以后,对人工智能的讨论变得更加务实,更多地聚焦于最受关注的安全性问题上。
广告

特斯拉机器人(Tesla Bot)的华丽亮相又将人工智能的安全性问题摆上了台面,如何在自动化系统走进城市街道和工厂车间之前对其进行测试和验证成了一个大问题。

在第一轮对人工智能夸张的担忧想法中,主要包括担心它的恶意、可自我复制,以及类似HAL的机器(电影“2001太空漫游”中的超级计算机)最终超越它的创造者或在战场上不受控制地攻击。但自那以后,对人工智能的讨论变得更加务实,更多地聚焦于最受关注的安全性问题上。具体而言,讨论的焦点是,如何让人类操作员在应用场景中信任自主机器系统来改善AI的安全性?尽管这些应用目前还远未达到关键性任务的级别,可能不需要99.999%的可靠性。

汽车行业分析师和EE Times 专栏作家Egil Juliussen指出,监管机构已经迈出了积极的第一步,认识到采用驾驶辅助系统的车辆所造成的AI事故是“碰撞(crash)”,而不是“意外(accident)”。 Juliussen表示,“汽车行业越来越关注‘碰撞’,因为这是某个人的错误或责任。而‘意外’这个词常常让人推辞逃脱责任。”

在一系列关于人工智能安全的政策简报中,乔治城大学安全与新兴技术中心的研究人员在尝试识别出实现安全AI系统的工程要求。

“如今尖端的AI系统在很多方面都很强大,但在某些方面却极度脆弱,”该政策简报的起草人Zachary Arnold和Helen Toner指出。“AI系统往往缺乏很浅显的常识,很容易被愚弄或破坏,并以意想不到和不可预测的方式出现故障。

研究人员总结道,“人们通常很难或不能理解它们为什么会这样,”对不可靠的人工智能系统的信任度“很可能造成可怕的后果”。

和善的特斯拉人形机器人Tesla Bot(图片来源:特斯拉)

核心问题在于了解黑盒AI系统如何运作,或者称之为AI的“可解释性”,就像数学老师要求学生“展示解题过程”一样。

因此,AI研究人员建议成立一个国家AI测试平台,设置参数以确保基于深度学习的人工智能系统的安全。“现在并没有普遍接受的安全AI定义,也没有标准方法来测试真实世界AI系统的意外风险,”Arnold和Toner总结道。

尽管现在已经有经过验证的方法,可以测试用于飞机自动驾驶仪等故障安全应用的早期专家系统,但却没有类似的人工智能方法。“那些方法都不能用于深度学习,”Toner在接受采访时强调。

“当我们开始在某些地方应用这些系统,而错误或故障可能造成非常严重的影响时,我们应当投入更多的精力来开发新的方法,”她补充道。“我们应当有方法可以提前测试AI系统,并确保我们知道它们可以做什么,不能做什么,以及它们何时工作,何时不工作。”

像特斯拉这样的先驱者可能会使用Tesla Bot这样的原型推动人工智能技术的发展。特斯拉首席执行官Elon Musk表示,Tesla Bot原型可能会在明年推出。

在最近的特斯拉AI Day活动期间,Musk宣布了特斯拉机器人计划,他在鼓吹Tesla Autopilot具有“出奇好”的可预测性时,监管机构开始提出质疑,他承认Autopilot可能会产生的意外后果。

但特斯拉机器人“当然是友好的,” Musk保证道。“我们将它设置为处于机械层面,即物理层面,你可以逃离它,”当然这只是个玩笑,“但最大可能是制服它。希望这永远不会发生,但谁知道呢。”

Musk稍稍回避了一下,实际上他也应当这样做。人工智能安全研究人员指出,原因之一是特斯拉机器人和其他一些最近出现的例子都代表了早期的AI机器人尝试。

“人工智能的工程规范实际上并不存在,”乔治城人工智能中心的Toner说。“人工智能没有技术标准,我们想要实现怎样的性能并没有普遍共识,也无法判断我们是否能实现它。”

Toner补充到,人工智能的发展到了一个转折点。“它显然对很多事物都有益处,但到目前为止,大多用于极低风险的任务。问题就在于,我们能否解决人工智能可靠性和可信度方面的挑战,释放其潜能,将之应用于更广阔的高风险应用?

“对我来说,这依然是个问题。”

(参考原文:AI Safety Moves to the Forefront)

责编:Amy Guan

本文为《电子工程专辑》2021年10月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅 

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
George Leopold
EE Times特约编辑。自1986年以来,George Leopold一直在华盛顿特区撰写有关科学和技术的文章。除了EE Times,Leopold的作品还出现在《纽约时报》(New York Times),New Scientist和其他出版物上。 他住在弗吉尼亚州雷斯顿。
  • 盘点2021年人工智能领域发布的十大技术 人工智能已经成为未来数十年的重大科技发展方向之一,在经过了前面五年左右的突破、落地以后,现在AI的发展似乎越来越深入。现在我们总结人工智能技术领域在2021年发布的十大技术。
  • 摩尔定律都没了,GPU 3倍性能提升可信吗?详解英伟达Hoppe 我们在看过英伟达Hopper的发布后,更为现存的AI芯片公司感到颤栗:倒不光是明面上Tensor Core的算力与HBM3、NVLlink传输带宽之类的数字提升,还在于英伟达如今也在芯片架构层面做出更具针对性的改进……
  • 2022年人工智能推理五大趋势 如今人工智能各领域都正以足以让业界所有人都激动不已的速度加速发展,而推理领域更是如此。新的一年里,这种发展势头能否持续,都会出现什么发展趋势?来自Flex Logic科技公司推理产品的销售和营销副总裁Dana McCarty,分享了他的观点。给予他对市场的精准把脉,预测出2022年的人工智能推理的5大发展趋势。
  • 国产AI芯片调研分析之Top 15国产边缘AI芯片 AI芯片按照应用场景不同,可分为云端AI训练和推理、边缘AI推理,以及终端AI推理。我们在10大国产AI芯片文章中列出了10家国产AI芯片公司的云端AI训练和推理芯片,本文将侧重于边缘侧和端侧的AI芯片。
  • 目标宏大的激光雷达以及硬件无关的互联汽车平台 蓬勃发展的自动驾驶,催生出了激光雷达和互联网汽车平台。激光雷达的发展现状如何?未来前景又如何?互联网汽车平台的发展趋势又是什么?就这些热点问题,本期精英访谈采访了两位业内专家——Velodyne激光雷达的首席执行官Ted Tewkesbury和常春藤平台开发的高级副总裁Sarah Tatsis。就上述两个主题,他们分别表述了自己的观点。
  • 后疫情时代的消费者有哪些预期? 疫情发生后的两年多时间里,大家的生活方式都发生了或多或少的变化,但人们对于高质量体验的追求永无止境,本文将针对后疫情时代消费者最关注的三个领域展开讨论,探寻这些领域的发展将会如何影响客户体验的答案......
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。
  • 类脑芯片与智能座舱深度融合,时识科 类脑智能与应用解决方案提供商SynSense时识科技宣布与宝马展开技术探索,推进类脑芯片与智能座舱应用场景的深度融合。双方将主要围绕SynSense时识科技基于类脑技术的“感算一体”动态视觉智能SoC——Speck,探索汽车内外相关车载智能应用创新。
  • 美光:智能边缘应用的供应链和汽车架 随着数十亿台设备产生的数据和洞察力不断激增,智能边缘也随之崛起
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了