过去所讨论的人工智能话题大都是有关系统开发人员和制造商如何在系统中植入人工智能以及相关方面的技术创新、突破、芯片、软件和工具,而对于人工智能的风险和危险,谈论得却远不够。

无论到哪,发现几乎人人都在谈论人工智能。在EE Times过往的报道中,也经常谈论此话题。不过,讨论的大都是有关系统开发人员和制造商如何在系统中植入人工智能以及相关方面的技术创新、突破、芯片、软件和工具,而对于人工智能的风险和危险,谈论得却远不够。

危险显然存在

先是OpenAI董事会之争,虽然人们并不知道背后的全部情况,但一些人似乎预感,这是由于安全护栏不达标,抑或是技术发展速度过于惊人所导致。随后是去年10月份发生的Cruise自动驾驶出租车事故,车辆没有检测到行人,而是直接碾停在了行人身上。

人工智能也可能有丑陋的一面,正如之前在神经信息处理系统会议(NeurIPS 2023)上发表的一篇论文所强调的那样。该文表明,人工智能网络和工具比以前认为的更容易受到针对性攻击,这些攻击会有效迫使人工智能系统做出错误决策。

北卡罗来纳州立大学电气和计算机工程系的研究人员开发了一款名为QuadAttacK的软件,专门测试深度神经网络面对针对性攻击时的脆弱性。该软件旨在探明黑客如何通过操纵数据来欺骗人工智能网络,并观察人工智能的反应。一旦识别出漏洞,就可以迅速让人工智能看到该软件希望它能够发现的任何问题。

就此含义,该论文的合著者、该大学副教授吴天福进行了解释。“攻击者一旦发现人工智能的漏洞,就可能会利用这个漏洞造成灾难。”他解释道,“这一点非常重要,如果人工智能系统对这类攻击的抵御能力不够强大,就无法投入实际应用,尤其是可能影响人类生活的应用。”

“当想到最近关于使用自主武器系统的讨论时,这尤其令人担忧。”他进一步解释道,“想象一下,如果有人聪明地理解了系统中的漏洞,会发生什么。对于我们这些特定年龄段的人来说,不免回想起之前卡通漫画里想疯狂地 ‘控制整个世界’的那些狂妄之徒!”

安全/焦虑 vs 利润/羡慕,如何平衡?

毫无疑问,风险是真实存在的。所以,人们应更多地挖掘人工智能的糟糕和丑陋的一面,无论是现在还是将来,尤其是当人工智能全面普及后。

为了解决这一方面的争论,EE Times、Silicon Catalyst与小组成员合作举办了一场网络研讨会,讨论人工智能的社会责任、监管和投资者视角。

在小组讨论会上,责任创新实验室(RIL)首席运营官Jama Adams、Mayfield的管理合伙人Navin Chaddha及美国人工智能标准(INCITS/ANSI)主席Rohit Israni,都分别从社会影响、投资策略和监管的多个角度,探讨了人工智能的美、丑、恶。

图1:人工智能使人类正处于转折点。(来源:Silicon Catalyst)

利润和安全之间显然存在着较大矛盾,正如被称为“人工智能教父”的杰弗里·辛顿所说,“人工智能正使人类处于转折点” 。

这场长达一小时的网络辩论研讨会,深入探讨了人工智能将如何塑造人们生活的“大局”,也探讨了以下两者之间的平衡行为:

  • 人工智能的安全问题以及人工智能引发的所有问题。显然,最近与人工智能相关的事件非常相关,首先是与自动驾驶汽车公司Cruise有关的事故,再就是OpenAI发生的宫廷阴谋。还有,监管将会对创新带来什么影响?
  • 人工智能在私人市场和公共市场上对电子行业投资机会的财务影响。针对电子行业投资机会,无论是私人还是公共市场,人工智能的财务影响如何。不用说,许多组织和投资者(私人和机构)都羡慕英伟达在市场上的地位——其销售额同比大幅增长,占据了人工智能处理器市场80%以上的份额,近期其股票价格一路向上飙涨。

这场网络研讨会,帮助读者了解了快速发展的人工智能领域及行业现状,以及监管监督和投资决策如何考虑人工智能对人类的影响。

该网络研讨会特别及时,因为针对人工智能,RIL为初创公司和投资者推出了行业驱动的自愿负责任承诺和协议,已有50多家风险投资机构报名参加。作为发布会的一部分,RIL与VC及美国商务部长雷蒙多举行了圆桌会议。雷蒙多表示,如今仍处于人工智能时代的早期阶段,有必要“追究责任,确保人工智能的发展方式是安全、可信、无顾虑、非歧视、合乎道德与人道的”。

Mayfield是签署该协议的50家风投机构之一,在网络研讨会上,Chaddha解释了对人工智能初创公司的投资策略,以及负责任的人工智能承诺将如何影响他们的思维。

所有社会责任辩论的关键点是,该行业需要考虑人工智能可能带来的风险。

Mayfield的Chaddha在此次网络研讨会上的闭幕词中说:“我认为现在是创办一家公司并以平衡方式运作的好时机。不过,既要赚钱,也要为世界做好事!”

(原文刊登于EE Times美国版,参考链接:Navigating the Good, the Bad, the Ugly of AI,由Franklin Zhao编译。)

本文为《电子工程专辑》2024年4月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里

责编:Franklin
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
此次测评首次引入人类学生熟悉的学科测试,让AI考生和三年级到高三学段的人类考生平均水平一较高下。“文强理弱”、简单题目反而错误率高等大模型普遍存在的短板集中展现在大众面前……
哈戈谷对于8英寸晶圆结构性需求逆风和12英寸扩张可能带来的折旧负担持谨慎态度。这种情况下,虽然部分产品有机会逐步转向12英寸厂生产,但短期内仍然面临挑战。
从技术角度看,1c nm DRAM相比于前一代的1b nm DRAM,将带来更高的密度和能效改进。这对于提升HBM4内存的性能和降低功耗具有重要意义。
AI PC现在是个热词,连苹果都打算入局了,6月份的WWDC上大概就能见到。本文尝试盘点AI PC的竞争现状与实质...
随着人工智能和机器人技术的发展,服务机器人正逐渐从执行简单任务的机器转变为能够理解和适应复杂环境的智能体,在所有机器人类别中,最有希望、也最有必要从“智障机器人”晋级为“智能机器人”。
机器人关键技术中,芯片组合主要包括机器人SoC(系统级芯片)、通用SoC、MCU(微控制器单元)、电源管理等。AM890是一微半导体为机器人SLAM技术专门设计的高性能SoC主控芯片,集成了视觉和激光定位加速器……
工程师对某个方案的选取,需要考虑系统性能,器件参数,成本等多个因素。HP1010 的测试数据证实,图腾柱拓扑在收获高效的同时, 可以安全可靠的运行;结合特有的控制算法,电流互感器方案简洁灵活,并且CBC保护性能出色。
2024年第一季度全球云基础设施服务支出同比增长21%,达到798亿美元,增加134亿美元。三大云提供商——AWS、微软Azure和谷歌云——合计增长了24%,占总支出的66%。
当前,5G发展已行至中场,5G Advanced正在加速落地,不仅将进一步释放5G全部潜能,还将为6G奠定技术基础,加速推动未来十年的创新。
Ampere Computing® 今天正式发布年度战略和产品路线图更新,重点介绍 Ampere 在可持续、高效能计算的云和人工智能计算方面的持续创新和发明。
NVIDIA 带来知乎精彩问答甄选系列,将为您精选知乎上有关 NVIDIA 产品的精彩问答。本期是解读 NVIDIA GTC 2024 发布的新技术第五期。以下四个知乎甄选问答将为您带来更多关于 NV
根据合肥安赛思半导体有限公司(以下简称:安赛思)官方消息,5月18日,安赛思与新加坡三福半导体科技有限公司(以下简称:三福半导体)签署战略合作备忘录仪式暨安徽大学与三福半导体联合实验室揭牌仪式正式举行
来源:江苏扬州维扬经济开发区5月16日,上午,探路者集团探路者扬州项目一期工程在维扬经济开发区正式开工;下午,深圳康盈半导体与维扬经济开发区签订了高速固态存储智能制造基地项目进园协议。本次开工的探路者
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光赢未来...欢迎来到今日光电!----追光逐电 光赢未来----来源: 光电读书申明:感
2024年5月16日,熙泰科技(眉山)2024年微显示模组项目开工仪式在联东U谷·成眉合作数字产业园隆重举行。天府新区眉山党工委副书记、管委会常务副主任余敏,天府新区眉山党工委委员、管委会副主任许晓飞
未来三年是数据要素×发展的核心时段,且今年开始也是资产入表的重要起点,在政策的支持推动下,企业也纷纷实施落地。本文主要从数据入表的政策解读和流程简介、数据工程产品、企业数据能力提升案例三部分进行详细说
5月19日消息,360集团创始人周鸿祎近日发布视频,大胆预测中国汽车产业未来的全球地位。他表示,最快在五年内,中国汽车的市场份额有望超过全球市场的50%,从而达到世界第一的水平。周鸿祎的预测基于多个观
插播:6月14日,汇川、锦浪、英飞凌、芯联动力、三安、天岳、扬杰科技、蓉矽、普兴、合盛、晶亦精微、希科、丰田商社、大族、泰克、志橙及泽万丰等邀您参加上海SiC大会,详情请点击文末【阅读原文】。SiC已
据港媒报道,近日,香港立法会财务委员会批准了高达28.4亿港元(折合人民币约26.33亿元)的拨款,用于设立一个专注于半导体研发的中心——香港微电子研发院。香港微电子研发院将专注支持第三代半导体,包括
点击上方蓝字谈思实验室获取更多汽车网络安全资讯在刚刚过去的北京车展,雷军和小米SU7无疑成为了公众关注的焦点。虽然小米在造车领域已经取得了阶段性进展,但似乎雷军并不满足于此。21ic发现,近日一家名为