广告

用人工智能预防自杀是善意,但也是道德绑架?

时间:2017-12-22 作者:Ariella Brown 阅读:
Facebook运用人工智能(AI)技术从其大数据(Big Data)库中撷取数据,辨识用户偏离正常贴文的行为模式,并对于可能出现的轻生念头发出警告。虽然可能是出于善意的目的,但这合乎伦理道德吗?
EETC https://www.eet-china.com

Facebook开始采用人工智能(artificial intelligence;AI)辨识用户偏离正常贴文的行为,并对于可能出现的轻生念头发出警告。但这样做合乎伦理道德吗?AhREETC-电子工程专辑

在当今高度互连的世界中,我们不断产生和收集如此庞大的数据量,甚至已经超出人类能力所能全部过滤筛选的范围了。确实,人工智能的应用之一就是辨识这些贴文上的意图所表现出来的模式与偏差。因此,Facebook以这种方式运用AI,从其大数据(Big Data)数据库中撷取价值,虽然可能是出于善意的目的,但也引发对于道德感的顾虑。AhREETC-电子工程专辑

为了能够更清楚掌握这个问题,在我不断的搜寻中,找到了一家名为“运算研究的普适资料伦理”(Pervasive Data Ethics for Computational Research;PERVADE)的组织。PERVADE组织与六所大学合作进行研究,并在今年9月取得了资金赞助,目前正致力于制订问题并积极寻求答案。AhREETC-电子工程专辑

我很快地与这家组织接触,针对Facebook以人工智能侦测自杀信号的道德问题征询了专家们的看法。后来有机会与该组织的一位成员Matthew Bietz取得了联系。AhREETC-电子工程专辑

Bietz告诉我,参与PERVADE组织的成员们正在研究普适资料的发展后果,包括不断地收集数据——不仅从我们发布到社交媒体的贴文,还来自“我们在上网时留下的数字轨迹”,例如我们以Google进行搜寻或收发电子邮件。他说,物联网(IoT)和可穿戴设备之间建立起新的联系,进一步促进了“我们所处空间的数据”主体日益增加。由于这个现像“相对较新”,因而对于“数据伦理”提出了值得探索的新问题。AhREETC-电子工程专辑

由于Facebook宣布不会将其自杀信号侦测工具扩展到欧盟(EU),我询问Bietz是否因为这项计划会违反欧盟的“通用数据保护条例”(General Data Protection Regulatio)?他坦言欧盟确实对于数据保护存在“一些世界上最严格的规定”,但他补充说,“以GDPR的标准来看,Facebook所做的是否违法,目前还不是完全明朗。”AhREETC-电子工程专辑

数据侦测与欧盟AhREETC-电子工程专辑

更准确的说,Facebook正冒险进入一种“未真正经试验的优势。但我猜测他们并不想成为测试用例。”AhREETC-电子工程专辑

Bietz说,Facebook的服务条款使其得以查看数据,因此,这样的行为并不会直接违反GDPR的隐私条例。但是,立法禁止公司仅根据“算法或由计算机自动进行分析”。AhREETC-电子工程专辑

这表示,如果算法在“没有人为介入”的情况下决定信号意义,并自行发出警告,那么这样的行为以GDPR来看就是错误的。然而,他说,如果只是利用算法“协助决定哪些贴文需要人们多加关照”,就可能在在法规允许范围。AhREETC-电子工程专辑

“道德的雷区”AhREETC-电子工程专辑

除了法规的问题,Bietz认为,Facebook的自杀侦测途径设定了一种“道德的雷区”(Ethical minefield),因为后果是如此的强烈。但这并不表示该公司所做的“必然是不道德的”,实际上还取决于“他们如何处理这些资料”,以及Facebook是否“值得我们信任”。AhREETC-电子工程专辑

目前,这是个悬而未决的问题。他表示,当Facebook的营利模式是基于有选择性的信息共享时,是否还能让我们相信它真的将自杀信号数据用于防范自杀以及改善社会问题的目的。为了证明其出于善意,Facebook应该尽快提供“信息如何分享的程度”,详细说明他们如何使用这些数据,以及如何保有其安全性。但是,Facebook的立场是我们只须要相信他们。AhREETC-电子工程专辑

Bietz说,我们现在面对的一部份问题是“前所未见的各种新技术及其应用”。因此,目前还没有明确的先例可用于指导道德决定。我们现正“探索一个全新的领域,不只是在技术上,在伦理道德方面也是如此”。此外,还必须取得一些方向来表达“正确的道德问题”。AhREETC-电子工程专辑

问题与结果AhREETC-电子工程专辑

Bietz表示,他赞成运用数据和算法来防范自杀的发生,并指出“危机求救热线”(Crisis Text Line)采用该方法来优先考虑对最紧急的情况做出反应。但Facebook并未详细说明其计划如何防范自杀,然而,Bietz认为,该公司也不应该自行尝试这项计划。他说:“如果我他们与来自公司外部的心理学研究人员密切合作,共同思考这些问题,我感觉会更好。”AhREETC-电子工程专辑

所使用的算法质量是也很重要,Bietz补充说。例如,过度谨慎可能会产生误报。但是,Facebook并未表明其算法的性质,或是说明计划如何处理这些热线。它将会持续使用原始算法或随着时间进行调整?同样地,Facebook并未透露任何细节。AhREETC-电子工程专辑

我们能够信任Facebook是合乎伦理道德的吗?由于社交媒体平台能够取得太多有关于我们的信息,现在必须提出这个问题。它不仅能从我们的历史讯息中辨识个人行为标准的“模式”,还可能根据朋友的贴文推断我们并未分享的信息。AhREETC-电子工程专辑

Bietz指出,我们的社会从来没有经历过这种范围缩小到个人层级的“监控”精确度,再加上这是一个“数百万Facebook账号”的庞大社群。如今,在这个全新的数据新世界,我们必须积极地寻找“道德的界线”。AhREETC-电子工程专辑

编译:Susan HongAhREETC-电子工程专辑

本文授权编译自EE Times,版权所有,谢绝转载AhREETC-电子工程专辑

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。
AhREETC-电子工程专辑

AhREETC-电子工程专辑

EETC https://www.eet-china.com
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
您可能感兴趣的文章
  • 全球半导体产业在未来两年将成长趋缓 长期乐观 具体来说,McLean预测2019年半导体产业营收成长1.6%,2020年则将衰退0.9%,再之后的三年则将有7%~13%的成长...
  • 无线传感器网络——半导体晶圆制造厂保持高效运行的秘 就半导体晶圆处理设施而言,如果运行时间优化、运行效率提高,产量就会提高,停机时间就会减少。SmartMesh IP 无线网格网络无需中断工厂运行就可安装,以改造已经投产的工厂,监视气罐使用情况。
  • 平头塞耳机为什么很难实现主动降噪? 俗称的平头塞,或者叫半入耳式耳塞,是指佩戴时耳塞的耳壳基本在耳道以外的耳机,典型如苹果AirPods/EarPods。这类耳塞的优点就是佩戴舒适,甚至长时间放在耳朵里,也不会感觉到不适,不过半入耳式耳塞有个很大的问题:隔音差...
  • 除了苹果AirPods,哪家TWS真无线耳机设计最好? 蓝牙音频市场从最初CBA(高通CSR,BES恒玄,AIROHA络达)三分天下的格局。到现在百花齐放,伴随着蓝牙5.0起步,已经有多家品牌进入这个白热化的市场了,想必也能分走一块不小的蛋糕。
  • 传感器数据融合:提升增强游戏、导航和VR用户体验的关键 无论是智能手机、可穿戴设备、虚拟现实耳机,还是机器人吸尘器,当今用户都期望并要求这些设备始终按照指令运行,并平稳、准确地适应不断变化的周围环境。这需要精确的感测俯仰、滚转和航向方向,而这些则是通过从设备内置的加速度计、陀螺仪和磁力计收集的数据融合实现的。本文将提供强大传感器数据融合技术的示例,例如基于在标准使用期间获得的陀螺仪信号,对估算磁力计偏移加以利用,及其对用户相关特征(例如行人和头部跟踪)的影响。
  • 人体:世界上最复杂的环境 在本文,我们将介绍可穿戴设备是如何经受住我们身体严酷考验的,以及这些设计时如何快速调整,从而保证无论我们想去哪里或者需要去哪里,我们的技术都能与我们同在。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告