向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

人工智能仍然存在信任问题

时间:2018-12-28 作者:Gary Hilson 阅读:
预计在2019年我们将会看到更多致力于为人工智能消除偏见并使决策更加透明的工作进展…

过去一年来,业界已经完成许多任务,大幅提高了人工智能(AI)的理解力、准确性和可扩展性,预计在2019年我们将会看到更多致力于为AI消除偏见并使决策更加透明的工作进展。HPrEETC-电子工程专辑

IBM Research副总裁Jeff Welser表示,过去一年来,业界已经在AI方面达到几项发展里程碑了,预计在2019年将持续关注于三大关键领域。他说,对于企业而言,将以AI驱动的认知解决方案带入可使其轻松导入的平台,不只是一项策略性业务需求,同时也增加了AI的理解,以及解决偏见和信任等问题。HPrEETC-电子工程专辑

在推动AI的进展方面,Welser表示业界已在几个方面取得进展,包括理解语音和分析影像。例如,IBM的Project Debater计划已能将目前的AI语音理解能力扩展到回答简单问题的任务之外,让机器更能理解人们可能何时提出争论,并使其超越仅限于“搜寻类固醇”(search on steroids)这一类的简单任务。例如,提出一个没有固定答案的问题——政府是否应该提高对于远距医疗的投资。HPrEETC-电子工程专辑

Welser说,如同让AI更能理解所说的内容一样至关重要的是,它在更快、更准确地辨识所看到的内容方面也取得了长足进展。IBM的作法并非要求提供数千或甚至数百万幅标记影像来训练视觉辨识模型,而是证实AI现在甚至可以只用一个例子作为辨识新对象的指导原则,这让AI得以扩展。HPrEETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan ZafrirHPrEETC-电子工程专辑
IBM Research的AI导入来自Project Debater计划为辨论内容打造的机器学习听力理解功能;图右是专业人类辩论家Dan Zafrir(来源:IBM Research)HPrEETC-电子工程专辑

Welser说,让AI学习变得可扩展的另一种方式是让AI代理之间相互学习。IBM研究人员开发了一种架构和算法,让AI代理之间得以交换知识,从而比以前的方法学得更快。此外,他说,他们还可以学会调整现有方法失败之处。HPrEETC-电子工程专辑

“如果你面对更复杂的任务,其实并不必一定要训练一个大型系统,”Welser说,“但你可以采用个别系统并将它们结合起来共同完成任务。”HPrEETC-电子工程专辑

降低深度学习模型的复杂度

在降低深度学习模型所需的运算资源方面也正取得进展。2015年,IBM介绍如何使用16位精度训练深度学习模型,而今,该公司强调 8位精度也不至于折衷各种主要AI数据集类别(包括影像、语音和文本)的模型准确度。AI的调整也可以透过新的神经网络架构搜寻技术来实现,从而减少设计网络所需的繁重工作。HPrEETC-电子工程专辑

这些进展都建立在AI必须值得信赖的事实基础上,Welser表示,明年将会有很多工作都关注在这一点。就像其他技术一样,AI可能会受到恶意控制,因此它必须能够预测对抗性攻击。HPrEETC-电子工程专辑

现在,AI可能很容易受到所谓“对抗示例”(adversarial examples)的影响,黑客可能会在你不知不觉时改变影像,欺骗深度学习模型,而将其分类为攻击者所需的各种类别。IBM Research的解决办法是采用一种不依赖于特定攻击(attack-agnostic)的措施,以评估神经网络的稳健性,并指导系统如何检测和防御攻击。HPrEETC-电子工程专辑

另一个难题是神经网络往往是黑盒子——关于他们如何做出决定并非显而易见的,Welser说。缺乏透明度是对于AI信任的一项障碍。同时,消除偏见也很重要,因为AI越来越依赖于决策,他说,但这相当具有挑战性。HPrEETC-电子工程专辑

Wesler说:“截至目前为止,我们已经看到大多数人都非常兴奋地展开AI系统设计,使其能够实现某些任务。然后他们会试着搞清楚所设计的AI系统是否存有偏见或者是否安全稳健,或者他们所做的决定是否有问题。”HPrEETC-电子工程专辑

编译:Susan Hong,EET TaiwanHPrEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
您可能感兴趣的文章
  • 2020年Gartner十大策略科技趋势预测 Gartner近日提出2020年企业必须了解的十大策略性科技趋势。分别为超级自动化、多重体验、专业知识的全民化、增进人类赋能、透明化与可追溯性、更强大的边缘运算、分布式云端、自动化对象、实用性区块链,以及人工智能安全性。
  • 如何选择AI加速器? 越来越多的公司开始将机器学习纳入其营运业务中,但随着AI生态系统扩展,他们开始面对如何为其业务决定最适用加速器的“选择题”…
  • AI芯片推理性能比拼,Nvidia称第一 继今年稍早之前发表了AI训练的性能测试基准后,MLPerf近期又针对AI推理性能公布了一份测试基准以及各家业者的跑分结果。
  • 地平线张永谦:AI在边缘侧落地背后的思考 “边缘侧智能设备大规模爆发的趋势,使数据成为如今AI芯片领域最大的挑战。”2019年11月7日,在由ASPENCORE《电子工程专辑》、《国际电子商情》和《电子技术设计》主办的“2019全球双峰会”上,地平线副总裁&AIOT芯片方案产品线总经理张永谦以“边缘AI芯片赋能行业,共建普惠AI时代”为题,介绍了地平线机器人在边缘AI芯片以及解决方案,以及地平线对AI在边缘侧落地背后的思考。
  • 从e-AI和SOTB两大技术看,如何通过技术创新实现业务模式 目前在各种领域当中都有AI的应用方案,但很多方案AI应用都取决于云端的计算能力。嵌入式系统对实时性的要求,会因为延时而出现滞后问题。在这样的环境下,嵌入式人工智能就能大显身手。
  • 算力“下凡”新纪元,Arm赋能中国芯 我们正在进入以数字驱动的第五波计算,这波浪潮建立在AI,IoT和5G迅速融合的基础上。在数字驱动计算的世界里,人口和用户的数量,以及产生的数据扮演着越来越重要的角色。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告