广告

人工智能仍然存在信任问题

时间:2018-12-28 作者:Gary Hilson 阅读:
预计在2019年我们将会看到更多致力于为人工智能消除偏见并使决策更加透明的工作进展…
EETC https://www.eet-china.com

过去一年来,业界已经完成许多任务,大幅提高了人工智能(AI)的理解力、准确性和可扩展性,预计在2019年我们将会看到更多致力于为AI消除偏见并使决策更加透明的工作进展。U69EETC-电子工程专辑

IBM Research副总裁Jeff Welser表示,过去一年来,业界已经在AI方面达到几项发展里程碑了,预计在2019年将持续关注于三大关键领域。他说,对于企业而言,将以AI驱动的认知解决方案带入可使其轻松导入的平台,不只是一项策略性业务需求,同时也增加了AI的理解,以及解决偏见和信任等问题。U69EETC-电子工程专辑

在推动AI的进展方面,Welser表示业界已在几个方面取得进展,包括理解语音和分析影像。例如,IBM的Project Debater计划已能将目前的AI语音理解能力扩展到回答简单问题的任务之外,让机器更能理解人们可能何时提出争论,并使其超越仅限于“搜寻类固醇”(search on steroids)这一类的简单任务。例如,提出一个没有固定答案的问题——政府是否应该提高对于远距医疗的投资。U69EETC-电子工程专辑

Welser说,如同让AI更能理解所说的内容一样至关重要的是,它在更快、更准确地辨识所看到的内容方面也取得了长足进展。IBM的作法并非要求提供数千或甚至数百万幅标记影像来训练视觉辨识模型,而是证实AI现在甚至可以只用一个例子作为辨识新对象的指导原则,这让AI得以扩展。U69EETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan ZafrirU69EETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan Zafrir(来源:IBM Research)U69EETC-电子工程专辑

Welser说,让AI学习变得可扩展的另一种方式是让AI代理之间相互学习。IBM研究人员开发了一种架构和算法,让AI代理之间得以交换知识,从而比以前的方法学得更快。此外,他说,他们还可以学会调整现有方法失败之处。U69EETC-电子工程专辑

“如果你面对更复杂的任务,其实并不必一定要训练一个大型系统,”Welser说,“但你可以采用个别系统并将它们结合起来共同完成任务。”U69EETC-电子工程专辑

降低深度学习模型的复杂度

在降低深度学习模型所需的运算资源方面也正取得进展。2015年,IBM介绍如何使用16位精度训练深度学习模型,而今,该公司强调 8位精度也不至于折衷各种主要AI数据集类别(包括影像、语音和文本)的模型准确度。AI的调整也可以透过新的神经网络架构搜寻技术来实现,从而减少设计网络所需的繁重工作。U69EETC-电子工程专辑

这些进展都建立在AI必须值得信赖的事实基础上,Welser表示,明年将会有很多工作都关注在这一点。就像其他技术一样,AI可能会受到恶意控制,因此它必须能够预测对抗性攻击。U69EETC-电子工程专辑

现在,AI可能很容易受到所谓“对抗示例”(adversarial examples)的影响,黑客可能会在你不知不觉时改变影像,欺骗深度学习模型,而将其分类为攻击者所需的各种类别。IBM Research的解决办法是采用一种不依赖于特定攻击(attack-agnostic)的措施,以评估神经网络的稳健性,并指导系统如何检测和防御攻击。U69EETC-电子工程专辑

另一个难题是神经网络往往是黑盒子——关于他们如何做出决定并非显而易见的,Welser说。缺乏透明度是对于AI信任的一项障碍。同时,消除偏见也很重要,因为AI越来越依赖于决策,他说,但这相当具有挑战性。U69EETC-电子工程专辑

Wesler说:“截至目前为止,我们已经看到大多数人都非常兴奋地展开AI系统设计,使其能够实现某些任务。然后他们会试着搞清楚所设计的AI系统是否存有偏见或者是否安全稳健,或者他们所做的决定是否有问题。”U69EETC-电子工程专辑

编译:Susan Hong,EET TaiwanU69EETC-电子工程专辑

EETC https://www.eet-china.com
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
您可能感兴趣的文章
  • 以粤港澳大湾区为例,如何进行智慧产业建设,打造智慧城市 在当前中美贸易摩擦日益升级的国际国内大环境中,为解决企业在产品、方案、技术、销售渠道、代工厂还是人脉这些都有可能影响到企业未来几年的起起伏伏的痛点问题,帮助企业更好地适应新的经济科技新形势,今日(5月23日)在深圳科兴科学园国际会议中心,ASPENCORE旗下《电子工程专辑》、《电子技术设计》、《国际电子商情》三大媒体联合举办了2019国际电子产业链资源对接会。
  • 国内晶圆厂建设究竟有多热?盘点国内十家晶圆厂的最新进 全球都在关闭晶圆厂,而我国大陆却在疯狂建设。然而宣布建设的晶圆厂有多少能真正建成?芯谋创始人顾文军曾发微博评论:“现在大陆多少12吋Foundry了!这下真热闹!两年后会有多少人哭成一片!”我们来盘点一下国内十家晶圆厂最新进展,究竟是“几家欢喜,几家忧”呢?
  • 服务器装机容量超10万台!百度云计算中心落户西安 5月12日,在西安市投资环境推介暨重点项目签约仪式上,百度公司与西安市政府签署数据中心落地协议,百度云计算(西安)中心项目将落户西安航天基地。
  • 如何从工业存储与周边元件,定义智慧物联网范畴? “物联网”、“边缘运算”和“人工智能”等流行语已经流传了好一段时间。这些字词随处可见,但每个人对于这些名词背后的理解与定义可能不尽相同,甚至一头雾水。
  • 【中国Fabless特刊】以四维视角看中国IC产业现状和发 2019年中国IC领袖峰会以“世界都在看中国“为主题,邀请了产业最受关注的本土IC领袖人物走上大舞台向世界喊话,与数百位资深设计工程师、管理精英和技术决策者共同探讨产业的成长和突破之道。峰会演讲嘉宾和圆桌论坛专家从四个维度透视了中国IC设计产业的现状和未来发展。
  • 利用本性、借力培育打造令人惊叹的AI SoC 将高级AI功能集成到SoC中经常会暴露SoC架构的软肋。 SoC的DNA(其“本性”)强壮程度依赖于其设计环境(其“培育”)所赋能。了解如何选择合适的工具和流程,特别是正确的IP,可以帮助你培育表现出色的AI SoC。探索Synopsys的 DesignWare IP,可助你实现令人惊艳的AI。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告