广告

人工智能时代的双刃剑

时间:2021-08-02 作者:Maurizio Di Paolo Emilio 阅读:
人工智能迅速扩张并已成为一个竞争相当激烈的行业。大多数单独的人工智能技术将被用于各种机器人控制任务的自动化,它们能够做出关键决策,但也会对整个数字生态系统产生负面影响。
广告

“人工智能将是人类最重要的成就,但可惜可能是最后一个”—— Stephen Hawking

深入了解一个事物的物理学原理,例如材料的原子结构,将有机会更加有效地应用概念,从而创造出新的设备。为此,我们需要新的技术,而人工智能就是其中之一。

人工智能越来越多地出现在我们的认知中,不仅如此,还有机器学习和深度学习,而且这二者有时还会被混为一谈。事实上,“人工智能(artificial intelligence , AI)”这个词最早出现于1950年代,它包含所有能够执行人类智力相关任务的计算机。机器学习只是实现人工智能的一种方式,而深度学习则是与机器学习相关的众多方法之一。

人工智能涉及所有与人类智力有关,但由计算机执行的操作。它包括规划、语言理解、物体和声音识别、学习和解决问题。而人工智能与物联网(IoT)之间的关系就好比人脑和人体之间的关系。通过视觉和触觉等各种感官输入,我们的身体能够识别特定的处境并执行相应的动作。大脑根据感官输入做出决定,并向身体发送信号以指挥其运动。物联网也只不过是一组连接在一起的传感器,只有借助人工智能,它才能理解所有获取的数据,再通过控制系统或电路核心(即CPU)做出决策并操作执行器,最终实现各种运动(如机器人手臂)的控制。

机器学习与深度学习

机器学习(ML)本质上是实现人工智能的一种方法;属于人工智能的一种子组(subgroup),专注于让机器拥有接收一组数据并自行学习的能力,当它们获得与正在处理的任务相关的更多信息时,可以不断调整算法。人工智能和机器学习这两个术语经常被互换使用,尤其是在大数据领域。实际上,“机器学习”一词是在“人工智能”之后创建的,它描述了“机器无需明确编程即可学习的能力”。因此,机器学习是一种“教育”算法的方法,这让它可以从各种环境处境中学习。教育,或用一个更恰当的词,训练,是指使用大量数据和有效算法以便根据发生的状况进行调整(和改进)。

机器学习利用神经网络方法和统计模型自动构建分析模型,来查找数据背后隐藏的信息。而神经网络的出现源于由互连单元(如神经元)构成的人脑功能,这些互连单元通过响应外部输入来处理信息,从而在不同单元之间传递相关信息。机器学习的一个典型实例就是人工视觉系统,即通过计算系统来识别图像传感器以数字方式获取的对象。在这些情况下应用的算法必须能够识别特定对象,区分它们是动物、物体还是人类,同时还能从处境中学习,也就是说,它必须存储已经完成的任务,并将之有效应用在下一次计算机视觉习得中,这主要应用于自动驾驶汽车系统。

深度学习是机器学习的一种方法,它从人脑的结构或各种神经元的互连中汲取灵感。其他的机器学习方法还有归纳逻辑编程、聚类和贝叶斯网络等。其中贝叶斯网络基于由一组变量及其条件依赖组成的 DAG 模型(有向无环图)。这种模型可以表达疾病和症状之间的概率关系,即以给定症状作为输入,可以估计出给定疾病发生的概率。

深度学习采用了具有各种处理单元的大型神经网络模型;它利用计算的发展和训练技术通过大量数据来学习复杂的模型。其常见应用包括成像和语音识别。由于涉及的层次很多,深度学习的概念有时被简称为“深度神经网络”。

近年来,机器学习和深度学习让人工智能获得了巨大的发展。这两者都需要无数传感器收集大量的数据,而且越来越多的传感器还在继续填充物联网生态系统,这进一步改善了人工智能。改善物联网生态系统将引领人工智能,继而引领能够成功实施的方法。从工业角度来看,人工智能可用于预测机器何时需要维护,或分析生产过程以实现大幅效率提升,从而节省数以百万计的资金。而消费者利用人工智能将有机会以最佳方式管理他们的时间和条件。

人工智能是一把双刃剑

电子技术的进步持续推动着人工智能和物联网的共生;计算机处理和数据存储的发展使得整合和分析更多数据成为可能;减少计算机芯片和改进制造技术带来了成本更低但更强大的传感器;而无线连接则以非常低廉的价格提供了大量数据,并允许所有这些传感器将数据发送到云端;云的诞生让这些数据的存储几乎不受限制,并提供了相当可观的计算处理能力。所有这些进步都让人工智能更接近其最终目的,即创造越来越多的智能机器,并融入我们的日常生活。

为了实现人工智能和机器学习的持续发展,驱动算法和相关决策的数据必须是高质量的,才能被正确解释。随着连接到互联网和相互连接物联网设备的激增,收集、存储和处理的数据量每天都在增加,这为大数据的安全和隐私保护带来了新的挑战。黑客带来破坏性攻击的风险也与日俱增。预防这些风险,需要所有组织机构严格控制数据的产生、存储和通信,因为黑客有可能会控制重要系统并在任意时间内为所欲为。

具体有哪些风险呢?

几十年来,人工智能经历了它的繁盛时代,我们在语音识别和自动驾驶汽车等各个领域都能看到它的身影。但是,从史蒂芬·霍金(Stephen Hawking,已于几年前去世),到伊隆·马斯克(Elon Musk)和比尔·盖茨(Bill Gates),这些杰出人物均对人工智能可能带来的风险向我们发出警告,从“奇点”带来的危险,或机器完全控制人类,到网络攻击。有多项研究都强调了机器学习被网络犯罪分子利用而存在的隐患:对数字安全的威胁不仅涉及隐私泄露和数据盗窃,还涉及在这个完全连接的生态系统中,人类生命的安全。这些研究由来自多所大学的众多专家完成,包括牛津、剑桥、斯坦福、耶鲁和巴斯等大学。

人工智能和相关技术的出现为网络安全带来了很多可能性,事实上,这是一把双刃剑,在心怀叵测之人的手中,它将变得非常危险。拥有完美的网络安全策略或解决方案,其重要性与日俱增。而造成这一切的根源就在于智能设备的激增。此外,由于始终连接到物联网生态系统的端点不断增加,网络犯罪分子现在有太多的机会可以渗透到设备中。由于大量的数据被存储,大数据泄露对系统性能和功能安全方面都可能带来毁灭性的后果。大规模的数据安全漏洞影响面将非常广,它不仅损坏声誉,还会带来严重的法律后果。任何组织机构都需要确保他们在数据有用性和隐私权之间取得恰当的平衡。在存储数据之前,有关用户的任何唯一标识符都应被删除。但这本身就存在安全风险,因为删除并不能确保数据在将来仍保持匿名。

随着组织机构存储的数据越来越多,他们还面临硬件和软件加密的挑战。如果需要云端执行分析,则用户就不能加密再发送数据。使用“全同态加密”( Fully Homomorphic Encryption, FHE)是其中一种解决方案,它允许存储在云端的数据对加密数据执行操作。当数据被解码时,其结果与对明文数据执行操作是相同的。因此,云端将能够在不知道明文数据的情况下对加密数据执行操作。行业专家分析了黑客和安全专业人员对机器学习算法的大量应用。这场没有规则的战斗使企业防御神经紧绷,但如果处理得当,企业应该可以对特定目标进行系统内攻击,从错误中汲取教训,进而加固系统。在搜索漏洞方面,与自动化的共生将推动网络犯罪分子加快病毒实施操作,并进一步寻找更多的系统弱点。例如,网络犯罪分子可以通过这些功能来扫描软件中以前未知的漏洞,并将其用于非法目的。但机器学习也可以洞察不良行为,补充通过其他手段获得的情报。而且它更加敏捷、更加灵活,因为与其他工具相比,人工智能工具通常部署速度更快,交付运营效果也更快。毕竟,智能安全系统可以击败任何复杂的威胁,但同时也代表着它已成为下一个人工智能网络攻击的目标。

可能会发生的可怕的事

随着全球高科技公司和政府的不断投资,人工智能迅速扩张并已成为一个竞争相当激烈的行业。Markets and Markets 最近的一项研究预测,未来几年其复合年增长率 (CAGR) 将超过 60%,价值超过 150 亿美元。硬件创新的势头也很强劲,这些创新提高了计算机的操作能力,使得在不同的 GPU 平台上运行更复杂的模型成为可能。

大多数单独的人工智能技术将被用于各种机器人控制任务的自动化,它们能够做出关键决策,但也会对整个数字生态系统产生负面影响。因为自动化智能机器可以评估最易被攻击的目标。利用先进的技术,人工智能可以通过操纵系统和禁用安全组件来隐藏“网络感染”。一旦系统被感染,它们就可用于传播各种计算机病毒,包括更高级的勒索软件。

目前,大多数网络犯罪组织均使用各种知名的勒索软件系列,他们修改其源代码来生成不同的样本。采用类似的方式,人工智能技术将能够创建自己的定制恶意软件,它可能是从头开始创建并执行先进的机器学习算法。物联网设备(例如医疗设备)及其背后的资源和数据很可能是其主要攻击点。但我们要应对的案例不仅集中于计算机病毒,还集中在与机器人和无人机相关的方面。从用于消费者或工业活动的简单机器人,到无人机和未来的民用飞行出租车,它们都可能成为潜在的危险武器,极易受到远程操纵。而自动驾驶汽车和整个智慧城市生态系统也可能被刻意误读信号,加剧危险的交通状况。

许多工程师和分析师估计,下一次利用AI的重大攻击可能会在几年内发生。最大的威胁仍然是身份盗用、拒绝服务攻击和密码破解。在日益数字化的世界中,这类攻击会削弱人类的能力并影响公共机构的行政行为。AI还可能是鱼叉式网络钓鱼攻击的关键,它收集和处理数据库数据以轻松链接来自不同源的信息,并发起最佳攻击。许多攻击都可以与人工智能配合,它可能混淆医生的诊断。恶意人工智能与黑客攻击的配合,理论上可以达到无法估量的尺度。

安全专家推测,最大的威胁可能是——人工智能能够利用机器巨大的计算能力创建出新的病毒样本。通过设计,AI可以分析当前的病毒弱点并生成更高级的形式。其首个缺点可能是较高的计算成本,但随着时间的推移,计算成本必会减少。

很多组织机构已经开始打击人工智能恶意软件,为未来可能发生的攻击做准备。但由于人工智能理论上具有的无限潜力,网络安全专家也意识到它越来越难管理并将会严重威胁IT安全。当然,人工智能有望为物理、化学和医学等各个领域的研究提供支持,我们还将看到人工智能如何参与到对新行星的探索当中。

(参考原文:The Age of Artificial Intelligence)

责编:Amy Guan

本文为《电子工程专辑》2021年8月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅 

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 中国科大成功研发出新型量子机器学习技术,实现数据特征 机器学习是指使用计算机从大量历史数据中挖掘隐含规律,并用于后续预测或者分类的过程。机器学习是人工智能的核心,是计算机具有智能的根本途径,其理论和方法已被广泛应用于解决日常应用和科学领域的复杂问题。为了成功完成特定任务,人工智能往往需要大量数据用于总结与分类……
  • 创意电子发布业界带宽最大、功耗最低的晶粒对晶粒 (GL GLink 2.0 IP 采用台积电 5 纳米制程与 2.5D 先进封装技术,并成功完成硅验证
  • 探讨最新处理器技术, 共话MCU生态 2021年8月26日,由ASPENCORE举办的一场“全球MCU生态发展大会”汇聚了微控制器领域的技术和应用专家,共同探讨最新处理器技术、边缘AI、新兴应用和生态发展等热门议题。此次大会的主题为“把握'芯'基建,共绘MCU生态”。
  • Intel GPU的野望:从游戏到数据中心 今年的Intel Architecture Day上,更多有关Intel GPU的产品信息揭开面纱。这次Intel主要谈到了面向游戏玩家的Xe-HPG架构Alchemist GPU;以及面向数据中心的Xe-HPC架构GPU芯片Ponte Vecchio。后者被Intel形容为技术难度“堪比登月”的芯片,这也是我们第一次见到MCM(Multi-chip Module)/chiplet形态的GPU芯片……
  • 2021年全球智能视频监控市场规模将达242亿美金 据Omdia最新研究数据显示,全球智能视频监控及相关基础设施市场规模将在2021年达到242亿美金。随着因2020年新冠疫情影响的需求回升,智能视频监控市场将在2021年快速恢复。
  • 详解12代Intel酷睿处理器的两种核心,是大招还是牙膏? 有关Intel Architecutre Day的报道,我们将分成两篇。本篇要详细阐述的是Intel的新版CPU架构Golden Cove和Gracemont,产品层面会主要谈这两种核心架构构成的Alder Lake处理器,以及混合架构核心调度策略Intel Thread Director,并顺便稍微带到Sapphire Rapids。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  • EMC对策产品: TDK推出用于移动设备 TDK株式会社(TSE:6762)推出用于移动设备的TCM0403M系列小型薄膜共模滤波器
  • 比科奇ORANIC板卡获行业大奖,5G小基 比科奇(Picocom)日前宣布:该公司荣获全球小基站论坛(SCF)一项大奖,其全新的ORANIC板卡赢得了全球小基站论坛(SCF)2021年度“小基站芯片及组件杰出创新金奖”。
  • 国产半导体传来好消息,集成电路设备产量大涨,中芯国际也在加速! 我国不断提高芯片产业的竞争力,对很多国产半导体企业都采取较大的扶持力度,还计划不断提升芯片产能。但是提升芯片产能的前提是加大半导体设备产量。好消息是,我国集成电路设备产量大涨,国产芯片制造商中芯国际也
  • 如何将Flash模拟成EEPROM ↑点击上方蓝色字体,关注“嵌入式软件实战派”获得更多精彩内容。温馨提示:本文参考《EEPROM Emulation with Qorivva MPC55xx, MPC56xx, and MPC57xx
  • 华为:即使打尽最后一颗子弹,也要建立起芯片产业链! “美国给华为制造了不少困难,但这些困难可解决。目前阶段性为华为造成了最大困难的是手机业务,手机芯片需要先进工艺,体积小、功耗小。华为能设计出来,但没有人能帮华为制造出来,卡住了。我们和产业链的伙伴还在
  • 建厂难、验证烦,Foundry和Fabless的同一个“困惑”  问题到底出在哪里?作者:亚亚君引言——几年前,上海的一位领导向芯谋研究首席分析师顾文军问了一个问题:“作为国内领先的代工厂,中芯国际能给高通流片28纳米工艺,为什么不能给展锐流片?而展锐作
  • 国产替代之痛,这款超高性价比的MCU堪称“翘楚”! MCU涨价缺货是埋在工程师心头的一根刺,从晶圆产能告急再到疫情天灾不断,MCU市场命途多舛。而究其市场国外产品占据超过70%,加之地缘政治摩擦加剧,国产化和国产替代成为当代电子必谈之需。记者获悉,从去
  • 采样电阻选型详析 电流检测电阻的基本原理根据欧姆定律,当被测电流流过电阻时,电阻两端的电压与电流成正比.当1W的电阻通过的电流为几百毫安时,这种设计是没有问题的.然而如果电流达到10-20A,情况就完全不同,因为在电阻
  • 10年后手机会是什么样子,有哪些投资机会? 智能手机浪潮带来海量的投资机会,未来10年,手机会变成什么样子?又有哪些投资机会?TechRadar 的团队和资源数据分析机构ElementsVC 试图解答这些问题。 在2010年代末期,智
  • Q2晶圆代工排名公布:台积电第一、中芯国际第五 8月31日,集邦资讯公布了Q2季度全球晶圆代工市场最新排名,总产值达到了244.07亿美元,环比增长6.2%,创下了2019年Q3季度以来连续8个季度增长的新高。在TOP10厂商中,台积电一家独大,Q
  • 【数据】2021年vivo占稳中国手机市场第一 关注国产手机最新消息:今日,知名市调机构Counterpoint Research发文称,vivo是中国智能手机市场的低调之王。但从数据来看,vivo自2021年第一季度以来一直占据着中国智能手机市场
  • 半导体产业之污染控制(一) 这几节小编将为大家解释污染对器件工艺、器件性能和器件可靠性的影响,以及芯片生产区域存在的污染类型和主要的污染源。同时,也将对净化间规划、主要的污染控制方法和晶片表面的清洗工艺进行讨论。首先来看看什么是
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了