广告

别让AI变成人类眼中的混蛋!

时间:2019-07-01 作者:Junko Yoshida 阅读:
要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。
EETC https://www.eet-china.com

几十年前,我是美国媒体EE Times驻欧洲的外籍特派记者,当我不经意地表示对美国商业惯例的反感,认为这是对隐私权的侵犯时,一些产业分析师告诉我:“在美国,消费者愿意用他们的个资来换免费的东西;”至于美国的隐私权保护,他们说:“火车已经过站很久了…”pSnEETC-电子工程专辑

还是这样吗?pSnEETC-电子工程专辑

自从欧盟在一年前推出《通用数据保护规则》(General Data Protection Regulation,GDPR),遵守GDPR的压力已扩展到美国的资料平台业者,这些公司的业务覆盖范围实际上涵盖全球。而且即使在美国本土,加州也在去年推出了《加州消费者隐私保护法案》(California Consumer Privacy Act,CCPA),该法案旨在强化对加州居民的隐私权和消费者权利保护,有人认为该法案比GDPR更强大;该法案将在2020年1月生效。pSnEETC-电子工程专辑

社会大众对隐私权的重视正在美国迅速发酵。pSnEETC-电子工程专辑

美国消费者或许姗姗来迟,但他们正在醒悟放弃隐私所付出的代价。将个资留在Facebook、Google这样的大型技术平台业者手中,这些公司可能会也可能不会做合乎道德的事情;美国人发现,当他们的个资被黑客入侵、窃取、买卖,甚至被可疑群体用来影响选举结果时,他们几乎是诉诸无门。pSnEETC-电子工程专辑

在大数据时代,隐私保护法规迅速成为任何数字安全对话的主要元素;对于那些将业务建立在消费者个资之上的公司,消费者的信任正演变为其商业模式的重要组成部分。但相较之下,人工智能(AI)的“公正性”(fairness)仍处于我们在20年前讨论隐私权时的状态,它还没有上升到许多人的意识层面,至少目前还没。pSnEETC-电子工程专辑
我意识到在工程领域,许多人认为“公正性”是模糊、令人不快的议题,在他们看来,这与他们在技术开发和软/硬件设计方面的工作无关。pSnEETC-电子工程专辑

是这样吗?pSnEETC-电子工程专辑

EE Times在最近推出的一个AI专题报导中讨论了AI的公正性,但有些读者认为那应该是“社会工程”(social engineering)的范畴。pSnEETC-电子工程专辑

许多那一类的评论认为,这暗指工程师会被要求去操控技术(或游戏算法、数据集),为“政治正确性”(politically correctness)改变机器学习的结果;而“政治正确性”和“公正性”一样,是有着预设立场的一个词。pSnEETC-电子工程专辑

事实远非如此。pSnEETC-电子工程专辑

被AI解雇或被AI杀死

真正的问题是“偏见”(bias),这里指的是那些可能会扭曲机器学习结果的数据集偏见,而这种偏见透过训练算法的优化策略又被进一步放大。pSnEETC-电子工程专辑

想想那些不完整的数据集,例如忽略了坐轮椅的人、忽略了穿着绿色荧光夹克的建筑工人们;基于这些数据集被训练的AI算法可能会像打保龄球那样撞倒一群建筑工人,让坐轮椅比骑独轮车更危险。pSnEETC-电子工程专辑

在这些案例中,AI的不准确性最终可能赔上人们的宝贵性命,显然AI的机器决策未公正对待对那些穿荧光绿夹克和坐轮椅的人。pSnEETC-电子工程专辑

市场对AI趋之若鹜,因为各家企业都在寻求自动化其特定业务的方法;在寻求自动化方案的过程中,我们开始有意或无意地屈服于机器,涵盖整个决策范围。AI涉及的工作包括人事管理、信用评等、客户服务,甚至是驾驶。pSnEETC-电子工程专辑

要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。pSnEETC-电子工程专辑

如果某个 AI 算法做出针对某个年龄层员工进行裁员的决策,这些倒霉的员工有权质问AI为什么丢饭碗的是他们;他们可能还想知道,他们的雇主所依赖之AI系统是否在不知不觉间被设计为不公平对待某个年龄层。pSnEETC-电子工程专辑

一旦感觉到受了机器的委屈,你可能会很抓狂,甚至可能比被一个你知道是混蛋的人类老板炒鱿鱼更不爽。pSnEETC-电子工程专辑

算法也会是个混蛋吗?pSnEETC-电子工程专辑

不透明的算法

这个问题暴露了一个令人不安的现实──每套AI算法都是一个黑盒子,没人知道算法在做什么,无论是Facebook这样的社交网络巨擘使用的算法,还是Waymo自动驾驶车辆使用的算法,这使得这个大无畏的新AI时代之一切,都变得不透明和不确定。pSnEETC-电子工程专辑

最近人们已经开始公开讨论,是时候与Facebook分手了…pSnEETC-电子工程专辑

我不确定如果使用者决定分手,是否会改变那些大型科技平台的任何商业行为,但有一件事是肯定的:不是使用者,而是Facebook本身在肆意决定我们会在新闻推送看到什么;Facebook的运营不受任何法律监督。pSnEETC-电子工程专辑

正如Facebook共同创创办人Chris Hughes在投稿《纽约时报》(The New York Times)的一篇文章所写:“Facebook的力量最大的麻烦在于,马克(编按:Facebook共同创办人暨执行长Mark Zuckerberg)能单方面控制言论;他这种拥有监控、组织甚至审查20亿人对话的能力史无前例。”pSnEETC-电子工程专辑

他写道:“Facebook的工程师们编写算法,并决定哪些使用者评论或体验最终会显示在朋友和家人的新闻推送中。这些算法规则是专属的,而且非常复杂,甚至许多Facebook员工自己都不懂那些规则。”pSnEETC-电子工程专辑

这一切并非都是工程社群的责任,企业、政府主管机关、消费者和整个社会应该共同承担。pSnEETC-电子工程专辑

不过那些负责撰写算法和设计系统的工程师们,应该开始考虑乍看之下离他们的实验室很远的后果——隐私权保护和公正性。从现在开始讨论以「隐私权保护设计」(privacy protection by design)或“公正性设计”(fairness by design)为基础原则的系统开发正是时候!pSnEETC-电子工程专辑

本文同步刊登于电子工程专辑杂志台湾版2019年7月刊;责编:Judith ChengpSnEETC-电子工程专辑

(参考原文:AI Doesn't Know When It's a Jerk,by Junko Yoshida)pSnEETC-电子工程专辑

 pSnEETC-电子工程专辑

EETC https://www.eet-china.com
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Junko Yoshida
ASPENCORE全球联席总编辑,首席国际特派记者。曾任把口记者(beat reporter)和EE Times主编的Junko Yoshida现在把更多时间用来报道全球电子行业,尤其关注中国。 她的关注重点一直是新兴技术和商业模式,新一代消费电子产品往往诞生于此。 她现在正在增加对中国半导体制造商的报道,撰写关于晶圆厂和无晶圆厂制造商的规划。 此外,她还为EE Times的Designlines栏目提供汽车、物联网和无线/网络服务相关内容。 自1990年以来,她一直在为EE Times提供内容。
您可能感兴趣的文章
  • 深度学习的兴起,是通用计算的挽歌? 早期的计算机鲜有真正“通用”的设计,它们基本上都是为某一类算法特制的,我们不能简单将其说是像ASIC或FPGA。即便在真空管转向半导体以后,针对新功能进行硬件重新设计也是必须的。后来才有基于冯诺依曼体系的计算机架构,即可以存储指令,在软件中执行算法才成为可能。这是“专门硬件”向通用硬件的华丽转身。
  • 行AI之术,察腠理之疾 《扁鹊见蔡桓公》相信大家小时候都背过,蔡桓公讳疾忌医,最后导致病入骨髓、体痛致死。时至今日,人们虽然不再讳疾忌医,但医疗资源紧缺让大家只能把大量时间耗费在大医院排队中。在疾病之初,症状初显甚至未显之时,能否在家中通过自查发现呢?不是每家都可以有神医扁鹊,但未来AI和先进半导体技术的加持下,每家都可以有精准而方便的家用医疗器械……
  • Graphcore如何能成为西方半导体业唯一“独角兽”? 总部位于英国布里斯托的新创公司Graphcore,开发了一款被称为智能处理单元的新型AI加速器;Graphcore估计市值达17亿美元,被认为是西方半导体产业界唯一的“独角兽”,其投资者包括Dell、Bosch、BMW、Microsoft和Samsung等巨擘。
  • 六大技术支柱, 英特尔开启多元化计算时代的一把秘钥 只用了不到半年的时间,Agilex FPGA就成为“六大技术支柱”落地的最佳载体,英特尔强大的系统研发和整合能力可见一斑。
  • 青城山下问医道:AI医疗“硬”创新之难,堪比修仙? 说到青城山下,你可能说着说着就唱出来了。这是中国民间传说《白蛇传》中白素贞修仙的地方,“洞中千年修此身”后,白娘子就来到了苏杭地区,与她做大夫的相公许仙一起开药铺,悬壶济世。看来青城山除了是道教名山,还和医道有着渊源,近日在青城山脚下举办的第三届 “青城山中国IC生态高峰论坛”,就以智慧医疗电子为主题,聚集了生态链各个环节的厂商、机构代表和精英人士……
  • 从云端走入凡间:“AI at the Edge”商机发酵中 现在还没听过什么是人工智能(AI)的业界人士或一般消费者,应该是少之又少。在人工智能、机器学习(Machine Learning;ML)大行其道的现在,所有的产业都想跟人工智能/机器学习有“更深层的结合”,以期可从中开创更多新应用,并增加营收。也因此随着一些业界大厂积极发展并强化人工智能技术,使得人工智能已经不再是一个技术名词,而是已经开始深入到人们的生活。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告