5月15日据Gizmodo报道,3个月前,谷歌被曝决定为有争议的美国国防部军事试验项目Project Maven提供人工智能(AI)支持,该项目旨在通过自动对物体和人的图像进行分类,来加速对无人机拍到视频的分析。 20180516-Google-AI 不少员工表示抗议,当时有多大3000名谷歌员工签向谷歌现任CEO桑达尔·皮查伊(Sundar Pichai)提交了一封信,要求皮查伊立即取消参与Maven项目,并起草并公开一份清晰的政策表明:谷歌和它的合作方不会开发用于战争的技术。 20180516-google-AI “谷歌在Maven项目中的相关参与计划将不可挽回地毁灭谷歌的品牌和它吸纳人才的能力。在越来越多的对于人工智能可能会偏激化和武器化的恐惧中,谷歌在获取公众信任方面已经显得力不从心了。这一协议将会使谷歌的声誉面临威胁,并将会使谷歌站在其核心价值观的对立面。”谷歌的员工在信中写到。

不过,这封信在谷歌内部并没有起到作用。现在已经有十多名谷歌员工辞职,以抗议公司继续参与Project Maven。

谷歌员工:没有人重视我们的声音

辞职员工的情绪十分沮丧,他们特别担心AI被用于无人机战争中,同时担心谷歌的政治决策,这些行动可能导致用户的信任受到侵蚀。那些辞职的员工表示,高管们对有争议的商业决策已经不那么透明了,“过去几个月中,没有人愿意倾听我们的声音,我们没有得到满意的答复。”。

在Project Maven的例子中,谷歌正在帮助国防部实现机器学习,将无人机收集的图像进行分类。但有些员工认为,人类而非算法应该对这种敏感和潜在的致命工作负责,而谷歌不应该参与军事项目。

从历史上看,谷歌奉行开放的企业文化,鼓励员工挑战和讨论产品决策。但许多员工认为,他们的上司不再关注他们的担忧,而是让他们直接面对后果。一位辞职员工表示:“在过去的几个月里,我对人们的反应以及人们对自己正受到的关注和倾听的担忧越来越淡然。”

2015年,员工和用户都成功地挑战了谷歌禁止在博客上发布露骨内容的禁令,但这是谷歌员工首次为抗议公司业务决定而大规模辞职。

然而,越来越多的员工压力似乎没有影响谷歌的决定,该公司不仅继续为其行为辩护,甚至还在争取参加美国国防部另一个重要云计算项目——联合企业国防基础设施(JEDI),该项目目前正在招标。员工们要求谷歌结束其国防部合同的要求,也因谷歌声称只向Project Maven提供开源软件而变得更加复杂,这意味着即使谷歌不接受付款或提供技术援助,军方仍然能够使用该技术。

谷歌原董事长施密特曾明确表示不与军方合作

辞职的员工认为,谷歌在Project Maven的工作与公司“不作恶”信条不一致。谷歌官方发言人强调“这一技术不会用于攻击中,AI 用于军事领域可能会引起人们的担心,谷歌内部也对这一话题进行过讨论,AI 将只会被用于非保密图像的分析中,并且还会制定一系列围绕机器学习和人工智能的安全保障措施。”

但是在国防部无人机项目中使用AI,仍然会给技术工作者和研究机器学习领域的学者们带来复杂的伦理和道德问题。除了在谷歌内部的请愿活动外,Tech Workers Coalition特在4月份发起了一项请愿,要求谷歌放弃Project Maven合同,科技公司(包括IBM、微软和亚马逊)应拒绝与美国国防部合作。 20180516-google-AI-3 谷歌母公司Alphabet原董事长的埃里克·施密特(Eric Schmidt)曾在一次谈话中说到科技圈与军方合作关系的担忧。

施密特表示,“技术社区普遍担心军事和工业结合体,会被作为不正当杀人利器,”同样也是国防创新委员会成员的他补充说,“我不会在军队内部提供Alphabet的东西。”

但谷歌公司在Maven项目中的态度,让谷歌的员工产生了怀疑。他们从一开始的愤怒,逐渐转为失望。

越来越多学者加入对谷歌的声讨

在学界,也有越来越多的人加入对谷歌的声讨中。5月15日,国际机器人武器控制委员会(ICRAC)联合90多名人工智能、伦理学和计算机科学领域的学者,向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌现任CEO桑达尔·皮查伊、谷歌云CEO黛安·格林、谷歌云首席科学家、副总裁李飞飞发出了一封公开信,呼吁谷歌结束其对Project Maven的支持,转而支持禁止自主武器系统的国际条约。 20180516-google-AI-1 这封信的两位作者彼得·阿萨罗(Peter Asaro)和露西·苏希曼(Lucy Suchman)曾在联合国就自动武器问题作证,第三位作者Lilly Irani是一位科学教授、前谷歌员工。

20180516-google-AI-2 值得一提的是,目前已有364名专家和学者在这封信上签名,签名数量也在不断地增加。

苏希曼在文中表示,谷歌对Project Maven的贡献可以加速全自动武器的开发。虽然谷歌总部位于美国,但它有义务保护全球用户群,而不是与任何一个国家的军队结盟。谷歌的高管们正在为参加Project Maven辩护,包括Google Cloud业务主管黛安·格林(Diane Greene),她曾多次力挺这个项目。

不过这个时候用“螳臂当车”来形容这些抗议或许更合适一些,因为据美国国防部的公开数据,已经有多达100家公司参与到了 Maven 项目之中,因为 Maven 不仅会用于无人机的视频分析,未来还会拓展到所有视频监控类的数据分析中,以打击恐怖活动。

大家觉得,参与这种军事项目,究竟是“作恶”,还是“保卫和平”呢?

拓展阅读:Project Maven

2017年4月,美国军方提出Project Maven,其目标是“加快国防部整合大数据和机器学习”,也被美国国防部称为算法战争跨功能团队(AWCFT:Algorithmic Warfare Cross-Functional Team)。据《华尔街日报》的报道,美国国防部在2017年人工智能相关领域的花费为74亿美元。

Maven的首要任务是帮助美国国防部有效地处理来自全球各地的海量的视频资料。美国国防部每天收集到数量庞大的无人机飞行画面,但人类图像分析师远远跟不上视频数量的增长。因此,国防部希望能利用机器学习来识别无人机镜头中的车辆和其他物体,从而减轻分析人员的负担。在自身资源不足的情况下,国防部转向了学界与业界的人工智能专家合作。

在这一争议项目中,谷歌提供的TensorFlow是一款人工智能领域里的免费开放软件,也是谷歌人工智能战略的关键。它为机器学习工程师提供了进行数据排序和训练算法的框架,并且在整个行业中被广泛使用。

“我们长期与政府机构合作为其提供技术解决方案。这个特定项目是国防部的试点项目,提供开源的TensorFlow API,可以帮助其识别未分类数据中的对象。”谷歌发言人曾就这次合作评论到。

根据国防部的说法,Maven利用最先进的计算机视觉技术,能够自动检测和识别无人机全动态摄像机捕获的38种物体。这种技术目前已经部署在法律执行和军事应用中,用来识别汽车和人等基本物体。

但新技术并非总能带来便利,已经有研究人员发出警告,人工智能技术可能会以不易察觉的方式产生重大偏见。例如,ProPublica新闻网站就曾在一份报道中指出,美国警方用于预测囚犯再度犯法可能性的算法经常表现出种族歧视倾向。

面对质疑,美国军方强调,只会将人工智能作为人类收集情报的合作伙伴。但这并不能保证计算机辅助决策不会引发错误。人类无人机操作员可能过分依赖有缺陷的计算机分析结果,如果没有适当的监督,这些缺陷可能会被忽视。

项目成立之初,谷歌也注意到了这个问题,其发言人当时表公司正在起草一份关于机器学习使用的政策和防护安全措施文件,但据知情人士了解,这份文件的起草还未实施。

本文综合自网易科技、中原网、威锋网、创世纪报道

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。