向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

AI会变成危险分子,是机器学习算法扭曲?

时间:2019-07-24 作者:Junko Yoshida 阅读:
在大数据时代,隐私法正迅速成为任何数字安全对话的主要元素。对于那些业务建立在消费者数据之上的公司,消费者的信任正在发展成为其业务模式的重要组成部分。相比之下,人工智能的“公平性”还处于20年前隐私讨论的处境。它还没有上升到许多人的意识层面,至少目前还没有。

工程界的许多人都认为“公平”这个话题是模糊的而且令人不快。在他们看来,这与他们在技术开发和软硬件设计方面的工作无关。是这样吗?7LtEETC-电子工程专辑

几十年前,我曾作为美国出版物EE Times的外派记者在欧洲工作。当我不经意地表示对美国商业惯例的反感,认为这是对隐私的侵犯时,一些行业分析师告诉我:“在美国,消费者愿意用他们的私人数据来获取免费的东西。”至于美国的隐私保护,他们说,“很久以前火车就离开了站台。” 现在提出来已经太晚了。7LtEETC-电子工程专辑

是这样吗?7LtEETC-电子工程专辑

自欧盟于一年前推出其通用数据保护法规(GDPR)以来,遵守GDPR的压力已扩展到美国的数据平台公司,这些公司的覆盖范围实际是全球性的。此外,即使在美国,加利福尼亚州去年也推出了加州消费者隐私法案(CCPA),该法案旨在增强对州居民的隐私权和消费者权利进行保护。这项规定被一些人视为是比GDPR更强大的保护政策,该法将于明年1月生效。7LtEETC-电子工程专辑

公众对隐私的重视正在美国迅速发酵。7LtEETC-电子工程专辑

美国的消费者或许姗姗来迟,但他们正在醒悟他们放弃隐私所付出的代价。将个人数据留在Facebook和谷歌这样的大型技术平台公司手中,而这些公司可能会或可能不会做合乎道德的事情;美国人发现,当他们的个人数据被黑客入侵、窃取、买卖甚至被可疑群体用来影响选举结果时,他们几乎没有任何追索权。7LtEETC-电子工程专辑

在大数据时代,隐私法正迅速成为任何数字安全对话的主要元素。对于那些业务建立在消费者数据之上的公司,消费者的信任正在发展成为其业务模式的重要组成部分。7LtEETC-电子工程专辑

相比之下,人工智能的“公平性”还处于20年前隐私讨论的处境。它还没有上升到许多人的意识层面,至少目前还没有。7LtEETC-电子工程专辑

我意识到在工程界,许多人认为“公平”这个话题是模糊的而且令人不快。在他们看来,这与他们在技术开发和软硬件设计方面的工作无关。7LtEETC-电子工程专辑

是这样吗?7LtEETC-电子工程专辑

一些读者认为,EE Times特别项目中所讨论的AI公平是“社会工程”。7LtEETC-电子工程专辑

许多此类评论暗示工程师们是被要求去操纵技术(或游戏算法或数据集),为了“政治正确性”而改变机器学习的结果,而“政治正确性”这个术语和“公平”一样有着相同的含义。7LtEETC-电子工程专辑

事实远非如此。7LtEETC-电子工程专辑

被AI解雇或被AI杀死

真正的问题是“歧视”,这里暗指那些可能会扭曲机器学习结果的数据集的歧视。而这种歧视通过训练算法的优化策略又被进一步放大。7LtEETC-电子工程专辑

想想那些不完整的数据集,比如,它忽略了那些坐轮椅的人,忽略了那些穿着绿色荧光夹克的建筑工人们。基于这些数据集被训练的人工智能算法可能会杀死建筑工人,就好比玩保龄球游戏和使得坐轮椅比骑单轮脚踏车更危险。7LtEETC-电子工程专辑

在这种情况下,人工智能的不准确性最终可能会搭上人们的性命。显然,人工智能的机器决策对那些穿绿色荧光夹克和坐轮椅的人来说是“不公平的”。7LtEETC-电子工程专辑

市场对AI趋之若鹜,因为每个企业都在寻找自动化其部分业务的方法。在追求自动化的过程中,在整个决策领域,有意或无意地,我们开始屈服于机器。 AI所涉及的工作包括招聘、信用评分、客户服务甚至驾驶。7LtEETC-电子工程专辑

或许,要了解 AI 的不公平,你需要把自己想象成是机器决策触发的坏消息的承受者。7LtEETC-电子工程专辑

如果某个 AI 算法算出某个年龄段的员工工作是多余的,那么这些不幸的工人有权质问AI为什么是他被解聘。他可能还想知道他的雇主所依赖的AI系统是否在不知不觉中被设计为对某个年龄组不公平。7LtEETC-电子工程专辑

一旦觉得被机器冤屈,你很可能会感到一定程度的愤怒,甚至可能比被一个混蛋老板解雇时更愤怒。7LtEETC-电子工程专辑

算法也是个混蛋吗?7LtEETC-电子工程专辑

黑盒算法

这个问题暴露了一个令人不安的现实,即每个AI算法都是一个黑盒子。没人知道算法在做什么,无论是Facebook这样的社交网络巨头使用的算法,还是Waymo的无人驾驶赛车robocar使用的算法,这使得这个勇敢的新AI时代的一切都变得不透明和不确定。7LtEETC-电子工程专辑

最近几天,人们已开始公开讨论是时候拆分Facebook了。7LtEETC-电子工程专辑

我不确定这种拆分是否会改变那些巨型技术平台之间的任何商业行为,但有一件事是肯定的,不是用户,而是Facebook本身在肆意决定我们在新闻推送中能看到什么。Facebook在没有监管的情况下运营。7LtEETC-电子工程专辑

正如Facebook 的联合创始人 Chris Hughes在“纽约时报”上写道的:7LtEETC-电子工程专辑

Facebook最大的麻烦在于马克单方面控制言论的能力。马克有能力监控、组织甚至审查20亿人的谈话,这是史无前例的。7LtEETC-电子工程专辑

Facebook的工程师们编写算法,并决定哪些用户评论或体验最终会显示在朋友和家人的新闻推送中。这些算法规则针对性强,而且非常复杂,甚至许多Facebook员工自己都无法理解这些规则。7LtEETC-电子工程专辑

工程界不应肩负所有重任,企业、监管机构、消费者和整个社会都应合作共商。7LtEETC-电子工程专辑

那些编写算法和设计系统的人们应该开始考虑那些乍看之下离他们的实验室很远的后果——隐私保护和公平性。现在开始讨论基于“隐私保护设计”(privacy protection by design)或“设计实现公平”(fairness by design)原则的系统开发,亡羊补牢,为时未晚。7LtEETC-电子工程专辑

本文同步刊登于电子工程专辑杂志2019年7月刊7LtEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Junko Yoshida
ASPENCORE全球联席总编辑,首席国际特派记者。曾任把口记者(beat reporter)和EE Times主编的Junko Yoshida现在把更多时间用来报道全球电子行业,尤其关注中国。 她的关注重点一直是新兴技术和商业模式,新一代消费电子产品往往诞生于此。 她现在正在增加对中国半导体制造商的报道,撰写关于晶圆厂和无晶圆厂制造商的规划。 此外,她还为EE Times的Designlines栏目提供汽车、物联网和无线/网络服务相关内容。 自1990年以来,她一直在为EE Times提供内容。
您可能感兴趣的文章
  • 芯片设计需善用IP资源:省人力、免验证、高规格、快流程 半导体设计及验证一般要一年以上,投片成本极高,不容闪失。设计专业需长期累积,若能善用已经投片验证的IP进行迭代设计,可大幅节省人力、降低风险、提高质量,并可加快研发流程,进而抢占市场先机,提高公司竞争力和盈利能力。然而若内部没有足够的IP,就需要向外寻求资源,首先要看的就是IP供应商的“专家技术支持”和“最新工艺技术支持”能力,以及IP成功案例。
  • 摩尔定律失效,FPGA迎来黄金时代? 应对摩尔定律挑战的一个典型方案是异构集成和3D-IC。这也是现在比较流行的所谓more than Moore ( 超越摩尔定律),在封装层面的革新,是许多人认定延伸摩尔定律的一种可行方案。
  • 华为发布全球最快的AI训练集群Atlas 900 ,集数千颗算力 9月18日,华为全联接2019(HUAWEI CONNECT)大会上,华为副董事长胡厚崑发布了Atlas 900 AI训练集群,以超强算力带给企业人工智能业务的极致体验。世界正从数字化向智能化转型,人工智能产业作为关键驱动力,面临自身的升级进化的挑战。华为在超强人工智能算力和大规模分布式AI训练集群两个方面加速智能化世界的转型。
  • 数据分析:AI芯片市场究竟有多大? 市场研究机构ABI Research最近发布了两份报告,详细描绘了今日的AI芯片市场状态...
  • 西门子与AI技术,为Mentor带来了什么? 在提到Mentor的时候,通常就不可避免地需要将其和Synopsys和Cadence这两个竞争对手放到一起,毕竟这三家公司是EDA市场的主要参与者。2016年Mentor开始并入西门子工业软件业务,虽然我们掌握的消息不多,但从Mentor近些年在Mentor Forum技术论坛上公开的一些数据和资料来看,Mentor在被西门子收购以后,其发展方向和业务路线都得到进一步扩展。
  • “记录,就是用来被打破的”:华为麒麟990堆103亿晶体管重 2017年,麒麟970,全球首发集成AI NPU单元,成为首个人工智能移动计算平台,开启端侧AI新纪元;2018年,作为华为历史上投入最多、创新力度最大、成本最高、挑战最大的人工智能手机芯片,华为麒麟980横空出世,并创下“六个全球首款”的历史记录。然而,“记录,就是用来被打破的。”
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告