向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

用人工智能预防自杀是善意,但也是道德绑架?

时间:2017-12-22 作者:Ariella Brown 阅读:
Facebook运用人工智能(AI)技术从其大数据(Big Data)库中撷取数据,辨识用户偏离正常贴文的行为模式,并对于可能出现的轻生念头发出警告。虽然可能是出于善意的目的,但这合乎伦理道德吗?

Facebook开始采用人工智能(artificial intelligence;AI)辨识用户偏离正常贴文的行为,并对于可能出现的轻生念头发出警告。但这样做合乎伦理道德吗?l99EETC-电子工程专辑

在当今高度互连的世界中,我们不断产生和收集如此庞大的数据量,甚至已经超出人类能力所能全部过滤筛选的范围了。确实,人工智能的应用之一就是辨识这些贴文上的意图所表现出来的模式与偏差。因此,Facebook以这种方式运用AI,从其大数据(Big Data)数据库中撷取价值,虽然可能是出于善意的目的,但也引发对于道德感的顾虑。l99EETC-电子工程专辑

为了能够更清楚掌握这个问题,在我不断的搜寻中,找到了一家名为“运算研究的普适资料伦理”(Pervasive Data Ethics for Computational Research;PERVADE)的组织。PERVADE组织与六所大学合作进行研究,并在今年9月取得了资金赞助,目前正致力于制订问题并积极寻求答案。l99EETC-电子工程专辑

我很快地与这家组织接触,针对Facebook以人工智能侦测自杀信号的道德问题征询了专家们的看法。后来有机会与该组织的一位成员Matthew Bietz取得了联系。l99EETC-电子工程专辑

Bietz告诉我,参与PERVADE组织的成员们正在研究普适资料的发展后果,包括不断地收集数据——不仅从我们发布到社交媒体的贴文,还来自“我们在上网时留下的数字轨迹”,例如我们以Google进行搜寻或收发电子邮件。他说,物联网(IoT)和可穿戴设备之间建立起新的联系,进一步促进了“我们所处空间的数据”主体日益增加。由于这个现像“相对较新”,因而对于“数据伦理”提出了值得探索的新问题。l99EETC-电子工程专辑

由于Facebook宣布不会将其自杀信号侦测工具扩展到欧盟(EU),我询问Bietz是否因为这项计划会违反欧盟的“通用数据保护条例”(General Data Protection Regulatio)?他坦言欧盟确实对于数据保护存在“一些世界上最严格的规定”,但他补充说,“以GDPR的标准来看,Facebook所做的是否违法,目前还不是完全明朗。”l99EETC-电子工程专辑

数据侦测与欧盟l99EETC-电子工程专辑

更准确的说,Facebook正冒险进入一种“未真正经试验的优势。但我猜测他们并不想成为测试用例。”l99EETC-电子工程专辑

Bietz说,Facebook的服务条款使其得以查看数据,因此,这样的行为并不会直接违反GDPR的隐私条例。但是,立法禁止公司仅根据“算法或由计算机自动进行分析”。l99EETC-电子工程专辑

这表示,如果算法在“没有人为介入”的情况下决定信号意义,并自行发出警告,那么这样的行为以GDPR来看就是错误的。然而,他说,如果只是利用算法“协助决定哪些贴文需要人们多加关照”,就可能在在法规允许范围。l99EETC-电子工程专辑

“道德的雷区”l99EETC-电子工程专辑

除了法规的问题,Bietz认为,Facebook的自杀侦测途径设定了一种“道德的雷区”(Ethical minefield),因为后果是如此的强烈。但这并不表示该公司所做的“必然是不道德的”,实际上还取决于“他们如何处理这些资料”,以及Facebook是否“值得我们信任”。l99EETC-电子工程专辑

目前,这是个悬而未决的问题。他表示,当Facebook的营利模式是基于有选择性的信息共享时,是否还能让我们相信它真的将自杀信号数据用于防范自杀以及改善社会问题的目的。为了证明其出于善意,Facebook应该尽快提供“信息如何分享的程度”,详细说明他们如何使用这些数据,以及如何保有其安全性。但是,Facebook的立场是我们只须要相信他们。l99EETC-电子工程专辑

Bietz说,我们现在面对的一部份问题是“前所未见的各种新技术及其应用”。因此,目前还没有明确的先例可用于指导道德决定。我们现正“探索一个全新的领域,不只是在技术上,在伦理道德方面也是如此”。此外,还必须取得一些方向来表达“正确的道德问题”。l99EETC-电子工程专辑

问题与结果l99EETC-电子工程专辑

Bietz表示,他赞成运用数据和算法来防范自杀的发生,并指出“危机求救热线”(Crisis Text Line)采用该方法来优先考虑对最紧急的情况做出反应。但Facebook并未详细说明其计划如何防范自杀,然而,Bietz认为,该公司也不应该自行尝试这项计划。他说:“如果我他们与来自公司外部的心理学研究人员密切合作,共同思考这些问题,我感觉会更好。”l99EETC-电子工程专辑

所使用的算法质量是也很重要,Bietz补充说。例如,过度谨慎可能会产生误报。但是,Facebook并未表明其算法的性质,或是说明计划如何处理这些热线。它将会持续使用原始算法或随着时间进行调整?同样地,Facebook并未透露任何细节。l99EETC-电子工程专辑

我们能够信任Facebook是合乎伦理道德的吗?由于社交媒体平台能够取得太多有关于我们的信息,现在必须提出这个问题。它不仅能从我们的历史讯息中辨识个人行为标准的“模式”,还可能根据朋友的贴文推断我们并未分享的信息。l99EETC-电子工程专辑

Bietz指出,我们的社会从来没有经历过这种范围缩小到个人层级的“监控”精确度,再加上这是一个“数百万Facebook账号”的庞大社群。如今,在这个全新的数据新世界,我们必须积极地寻找“道德的界线”。l99EETC-电子工程专辑

编译:Susan Hongl99EETC-电子工程专辑

本文授权编译自EE Times,版权所有,谢绝转载l99EETC-电子工程专辑

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。
l99EETC-电子工程专辑

l99EETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
您可能感兴趣的文章
  • 第二季智能手机生产数量达3.44亿支,较上一季成长10.5% 根据全球市场研究机构集邦咨询调查,第二季智能手机需求走出淡季阴霾,生产总数来到3.44亿支,较上一季成长10.5%。然而受国际市场上诸多不确定性因素的干扰,第二季智能手机生产总量与去年同期相比衰退2.4%,前六名依序为三星、华为、苹果、OPPO、小米以及vivo。
  • 2019上半年全球半导体厂商TOP15排名出炉 在2019年上半年,全球前15大半导体公司销售额合计同比下降18%,而全球半导体产业总销售额同比下降14%。三星(samsung)、海力士(SK Hynix)和美光(micron)这三大内存供应商的2019年营收均较上年同期下滑至少33%,而去年同期它们的营收较上年同期增长36%以上。
  • 全球半导体产业在未来两年将成长趋缓 长期乐观 具体来说,McLean预测2019年半导体产业营收成长1.6%,2020年则将衰退0.9%,再之后的三年则将有7%~13%的成长...
  • 无线传感器网络——半导体晶圆制造厂保持高效运行的秘 就半导体晶圆处理设施而言,如果运行时间优化、运行效率提高,产量就会提高,停机时间就会减少。SmartMesh IP 无线网格网络无需中断工厂运行就可安装,以改造已经投产的工厂,监视气罐使用情况。
  • 拆解:Apple Watch Series 5,差别不大 Apple Watch Series 5 发布后,一直被用户吐槽与上一代差别不大,著名拆解网站 iFixit 本周先后拆解了这款新手表的44mm和40mm,拆解结果印证了人们的看法。
  • 2022年智能手表将正式突破1亿支关卡,Apple Watch为主力 集邦咨询调查显示,2019年全球智能手表出货量预估将达6,263万支,2020年受到Apple调降旧款Apple Watch售价带动,加上各品牌推出智能手表积极度提升,出货量预计将来到8,055万支,年成长28.6%;而Apple Watch的出货量也将从2019年的2,790万支成长到2020年的3,400万支,年增长率达21.8%。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告