向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

人工智能仍然存在信任问题

时间:2018-12-28 作者:Gary Hilson 阅读:
预计在2019年我们将会看到更多致力于为人工智能消除偏见并使决策更加透明的工作进展…

过去一年来,业界已经完成许多任务,大幅提高了人工智能(AI)的理解力、准确性和可扩展性,预计在2019年我们将会看到更多致力于为AI消除偏见并使决策更加透明的工作进展。jPPEETC-电子工程专辑

IBM Research副总裁Jeff Welser表示,过去一年来,业界已经在AI方面达到几项发展里程碑了,预计在2019年将持续关注于三大关键领域。他说,对于企业而言,将以AI驱动的认知解决方案带入可使其轻松导入的平台,不只是一项策略性业务需求,同时也增加了AI的理解,以及解决偏见和信任等问题。jPPEETC-电子工程专辑

在推动AI的进展方面,Welser表示业界已在几个方面取得进展,包括理解语音和分析影像。例如,IBM的Project Debater计划已能将目前的AI语音理解能力扩展到回答简单问题的任务之外,让机器更能理解人们可能何时提出争论,并使其超越仅限于“搜寻类固醇”(search on steroids)这一类的简单任务。例如,提出一个没有固定答案的问题——政府是否应该提高对于远距医疗的投资。jPPEETC-电子工程专辑

Welser说,如同让AI更能理解所说的内容一样至关重要的是,它在更快、更准确地辨识所看到的内容方面也取得了长足进展。IBM的作法并非要求提供数千或甚至数百万幅标记影像来训练视觉辨识模型,而是证实AI现在甚至可以只用一个例子作为辨识新对象的指导原则,这让AI得以扩展。jPPEETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan ZafrirjPPEETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan Zafrir(来源:IBM Research)jPPEETC-电子工程专辑

Welser说,让AI学习变得可扩展的另一种方式是让AI代理之间相互学习。IBM研究人员开发了一种架构和算法,让AI代理之间得以交换知识,从而比以前的方法学得更快。此外,他说,他们还可以学会调整现有方法失败之处。jPPEETC-电子工程专辑

“如果你面对更复杂的任务,其实并不必一定要训练一个大型系统,”Welser说,“但你可以采用个别系统并将它们结合起来共同完成任务。”jPPEETC-电子工程专辑

降低深度学习模型的复杂度

在降低深度学习模型所需的运算资源方面也正取得进展。2015年,IBM介绍如何使用16位精度训练深度学习模型,而今,该公司强调 8位精度也不至于折衷各种主要AI数据集类别(包括影像、语音和文本)的模型准确度。AI的调整也可以透过新的神经网络架构搜寻技术来实现,从而减少设计网络所需的繁重工作。jPPEETC-电子工程专辑

这些进展都建立在AI必须值得信赖的事实基础上,Welser表示,明年将会有很多工作都关注在这一点。就像其他技术一样,AI可能会受到恶意控制,因此它必须能够预测对抗性攻击。jPPEETC-电子工程专辑

现在,AI可能很容易受到所谓“对抗示例”(adversarial examples)的影响,黑客可能会在你不知不觉时改变影像,欺骗深度学习模型,而将其分类为攻击者所需的各种类别。IBM Research的解决办法是采用一种不依赖于特定攻击(attack-agnosTIc)的措施,以评估神经网络的稳健性,并指导系统如何检测和防御攻击。jPPEETC-电子工程专辑

另一个难题是神经网络往往是黑盒子——关于他们如何做出决定并非显而易见的,Welser说。缺乏透明度是对于AI信任的一项障碍。同时,消除偏见也很重要,因为AI越来越依赖于决策,他说,但这相当具有挑战性。jPPEETC-电子工程专辑

Wesler说:“截至目前为止,我们已经看到大多数人都非常兴奋地展开AI系统设计,使其能够实现某些任务。然后他们会试着搞清楚所设计的AI系统是否存有偏见或者是否安全稳健,或者他们所做的决定是否有问题。”jPPEETC-电子工程专辑

编译:Susan Hong,EET TaiwanjPPEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
您可能感兴趣的文章
  • 史上最大FPGA芯片集成900万个系统逻辑单元 最新FPGA VU19P,据称是迄今为止全球最大容量的 FPGA,集成了900万个系统逻辑单元,所包含的晶体管数量高达350亿个。VU19P采用16 纳米 (nm) 工艺,拥有有史以来单颗芯片的最高逻辑密度和最大I/O 数量,可用于复杂ASIC 和 SoC 的仿真与原型设计。
  • 上下并行互通,建筑物联网将颠覆未来 长期以来,由于安装和维护成本不断上升,以及规划和维护建筑所需的专业门槛提升,高效建筑管理系统仅在大型建筑物中可行。现今的建筑自动化系统越来越多地基于无线物联网技术,易于部署、操作和修改。全新低功耗广域蜂窝网络(LPWAN)正在为新一代应用奠定基础,诸如蓝牙5.0和蓝牙mesh网络这类短距离通信技术的创新也在发挥同样的作用。
  • 智能与AI能够为工业4.0的数据连接创造什么价值? 用一个词来总结工厂追求工业4.0的原因,那就是“效率”。或者说实现更低的成本,更简单的生产和运维,这成为实质上推动工业4.0发展的最重要动力……
  • 第一届中国IC产业规模城市排名榜出炉:上海第一,深圳第四 第一版中国集成电路产业规模城市排行榜以百亿为基础排列。过百亿的15个城市集成电路产业规模合计为8280亿元,前10大城市集成电路产业规模合计为7370亿元,占比89%。2018年无锡成为继上海之后 ,第二个产业规模超过1000亿的城市。
  • 存储器和晶圆代工厂商面临“Hyperscaler”科技巨头提 为了满足从云端运算到IoT等新应用需求,Google、Facebook和Amazon等“超大规模业者”(hyperscaler)正以AI/ML作为开发下一代架构的重要基础,重塑半导体产业…
  • AI会变成危险分子,是机器学习算法扭曲? 在大数据时代,隐私法正迅速成为任何数字安全对话的主要元素。对于那些业务建立在消费者数据之上的公司,消费者的信任正在发展成为其业务模式的重要组成部分。相比之下,人工智能的“公平性”还处于20年前隐私讨论的处境。它还没有上升到许多人的意识层面,至少目前还没有。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告