广告

明确的机器学习目标是人工智能安全的关键

时间:2022-01-30 14:36:42 作者:George Leopold 阅读:
美国乔治敦大学安全与新兴技术中心的一篇论文指出,克服机器学习的规格描述挑战,是迈向更高AI安全性的关键步骤。
广告

设计机器学习应用程序的一个关键挑战,是在软件程序代码当中精确地描述开发者想要系统执行的工作。美国乔治敦大学(Georgetown University)安全与新兴技术中心(Center for Security and Emerging Technology)不久前发表的一篇论文作者强调,克服机器学习的规格描述挑战,是迈向更高人工智能(AI)安全性的关键步骤。

上述论文作者将AI安全性规格(specification)定义为在程序代码中传达机器学习系统应该要执行之工作的详细描述,或者他们所称的“人类特有目标”(human-specific objective)。一个例子是在排列的图片方块中找出“红绿灯”的CAPTCHA图砖验证系统(EETT编按:在一些网站可以见到,用以区分机器人与人类的验证步骤)。而像是训练模型的步骤规则未包括在内。

为了让机器学习能辨识各种图形,开发人员会详述关键目标。该目标函数代表一套学习算法的核心成分,阐述一个模型在搜集更多的训练资料时该如何学习。

 

为机器学习订定明确目标是确保AI安全性关键。

而在开发者试图从功能有限的应用程序迈进更具挑战性的真实世界应用程序之同时,AI安全性规格是研究人员最关注的议题之一。上述乔治敦大学论文的共同作者Helen Toner在接受访问时表示:“已经有越来越多基础研究聚焦于AI安全性与可靠性,以及对AI性能的理解。”

她指出:“那些AI系统的可解释性(interpretability),在此是另一个真正有用的输入,能让你了解,依据应用以及哪一类保证是你所需要的,是否有更好的方法从概念上去了解这些系统里面到底发生什么事情,这也是相当有价值。在我看来,这是此堆栈底部的基础科学部份。”

随着机器学习逐渐演进,从产品推荐等较狭窄的应用,发展到诸如自动驾驶等关键性任务,对于安全性规格的需求也跟着成长。“当机器学习系统变得更先进,将会被配置在越来越复杂的环境,以执行日益复杂的任务;”论文作者指出:“这时候规格问题可能会开始变得棘手。”

该作者指出,对开发者来说,更大的责任是以新的方法在程序代码中传达其意图,让机器学习服从“被赋予的规则之字面意义,并非精神。”包含人类监督或迈向预测最坏情况之步骤的算法,被推荐做为一个克服“错误设定规格”的方法。

还需要的是更多研究,了解开发人员如何在程序代码当中传达细微、复杂的目标,并确保他们所设计的系统能够达成这些目标。而在那之前,论文作者警告,机器学习仍应该被局限在“狭窄、严格规范的设定中。”

本文同步刊登于《电子工程专辑》台湾版杂志20221月号

编译:Judith Cheng

(参考原文:Specifying Objectives is Key to AI Safety,By George Leopold)

责编:Luffy
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
George Leopold
EE Times特约编辑。自1986年以来,George Leopold一直在华盛顿特区撰写有关科学和技术的文章。除了EE Times,Leopold的作品还出现在《纽约时报》(New York Times),New Scientist和其他出版物上。 他住在弗吉尼亚州雷斯顿。
  • 人工智能软件应优先于芯片设计 本次精英访谈中,SiFive公司的工程与产品总裁Chris Lattner与读者分享了人工智能(AI)工作负荷构建人工智能处理器所面临的挑战,以及当今软件如何以及为何阻碍人工智能性能的发展,同时也讨论了在人工智能应用中高效使用硬件的难度,以及SiFive的软件优先开发方法。
  • 克服常见的人工智能问题:内存瓶颈 人工智能方兴未艾,各领域都正以足以让业界激动不已的速度快速发展,但它也面临各种挑战,内存需求就是一个瓶颈,特别是对于参数动辄多达上万亿的复杂大型模型训练而言。如何破解人工智能的内存瓶颈?且看本文中专家们的观点。
  • 2022年及之后人工智能/深度学习的八大应用方向 人工智能、机器学习、深度学习已经成为当下最热门的前端科技之一。这三者其实是子-子集的关系。随着技术发展和应用的深入,深度学习越来越重要,成为AI的金字塔。本文总结了人工智能领域在2022年及以后数年内最热门的八大应用领域和方向。
  • 2021年全球VR头显出货量破千万 国内开启新一轮竞争 2021年是AR/VR头显市场继2016年后再度爆发的一年,相较于5年前,从硬件设备、技术水平、内容生态、创作环境上来说,相较五年前已经有了大幅度的提升,行业生态更加健康,产业基础更为牢固......
  • 俄乌局势紧张,这7大产业恐受波及 俄乌冲突对相关产业影响的调查及预测:电视、液晶监视器及笔电出货面临修正压力;2022年电竞液晶监视器出货量年增率收敛;各类DRAM产品价格受影响......
  • 2022年人工智能推理五大趋势 如今人工智能各领域都正以足以让业界所有人都激动不已的速度加速发展,而推理领域更是如此。新的一年里,这种发展势头能否持续,都会出现什么发展趋势?来自Flex Logic科技公司推理产品的销售和营销副总裁Dana McCarty,分享了他的观点。给予他对市场的精准把脉,预测出2022年的人工智能推理的5大发展趋势。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。
  • CST92F25:高集成度 低功耗BLE5.0芯 随着无线通信技术的快速迭代,智能家居逐渐走进了千家万户。市场上最常见的无线通信技术主要有三种:Wi-Fi、Zigbee和BLE。三者各有优势,在应用场景上互为补充。CST92F25是芯海科
  • 曦智科技沈亦晨入选2022达沃斯世界 日前,达沃斯世界经济论坛公布了2022年“全球青年领袖”名单,曦智科技创始人兼首席执行官沈亦晨博士获选,他将与来自全球42个国家的其他109位青年领袖一起,加入到为期三年的领导力培训项目中,从不同领域为全球发展发挥更大的影响力。
  • 开关电源芯片CY2525D开启绿色照明之路 开关电源芯片CY2525D开启绿色照明之路LED照明技术自动化提升了产品的质量以及稳定性,成本也得以下降,促进LED照明向民用领域渗透,到目前为止已实现近60%-70%替代。深圳银联宝科技的LED照明
  • 华为应用市场登陆全新宝马7系 宝马昨日面向中国大陆用户发布了全新 BMW 7 系轿车。新车将搭载华为车载应用市场,用户可通过后排悬浮式巨幕体验影音娱乐、新闻阅读、儿童等多品类车载应用。这也是华为应用市场与宝马全新 BMW 7 系的
  • 2022年最新全球EMS代工厂60强(TOP60) 点击上方“皇华电子元器件”关注我们以上是知名电子制造服务研究网站MMI(Manufacturing Market Insider)经过对100余家最大的EMS公司年度调查,公布了过去一年时间里全球最大
  • 天文学家发现了迄今为止最遥远的星系 点击蓝字 关注我们SUBSCRIBE to USHarikane et al.近日,一个发光的红色天体被确定为迄今为止发现的最遥远的星系。天文学家发现,这个星系在宇宙大爆炸后仅3.3亿年就存在了。4月
  • 北方华创招聘!  中国半导体论坛 振兴国产半导体产业!   点击链接:2022春季半导体线上招聘会开始啦!公司简介北方华创科技集团股份有限公司是由北京七星华创电子股份有限公司和北京北方微电子基地设备工艺研究中心有限责
  • 半导体精品公众号推荐!  中国半导体论坛 振兴国产半导体产业!    信息爆炸的时代更需要断舍离如何更加高效的获取高质量的信息在碎片化的时代里收获满满?2022年,半导体人只需关注5个公众号半导体技术天地ID:ic2018i
  • 电子元器件知识|电容器组接线方式和作用 点击上方“皇华电子元器件”关注我们容器组的接线模式应根据电容器的电压、保护模式和容量进行选择,通常包括三角形接线和星形接线。当电容器的额定电压与网络的额定电压一致时,应采用三角形接线;当电容器的额定电
  • 马斯克:特斯拉将于2024年生产无方向盘和踏板的新型自动驾驶出租车 在 2022 年第一季度的财报电话会议上,埃隆-马斯克分享了关于特斯拉新的 Robotaxi(自动驾驶出租车)车辆的一些细节。这款新车不会有方向盘或踏板,因为它将完全使用特斯拉的完全自动驾驶(FSD)
  • 由理想遭退市警告与国内新能源汽车行业动向引发的思考 理想突遭退市风险4月22日,美国证券交易所(SEC)将理想汽车、百世、贝壳等企业也列入了“预摘牌”名单。名单内的公司有:知乎,诺华家具, LOVARRA,万春医药,瑞幸咖啡,极光移动,科学能源,中国食
  • IPCAPEXEXPO2023技术论文征集 即将于圣地亚哥举办的IPC APEX EXPO 2023正接受技术论文演讲、海报和专业发展课程的摘要投稿!IPC APEX EXPO是电子制造业的顶级盛会。技术会议及专业发展课程是整个展会中最为精彩的
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了