广告

将人工智能的可解释性应用于新冠病毒(Covid-19) X光检测系统

时间:2020-06-29 作者:Sally Ward-Foxton 阅读:
假设您完成了对患者的X射线检查,正在等待人工智能系统诊断病情。几分钟后,人工智能返回了诊断结果,显示可信度为98%,但是诊断结果明显错误。您该怎么做?尝试重新拍摄X光片,还是呼叫主任医师?
广告
ASPENCORE

假设您完成了对患者的X射线检查,正在等待人工智能系统诊断病情。几分钟后,人工智能返回了诊断结果,显示可信度为98%,但是诊断结果明显错误。您该怎么做?尝试重新拍摄X光片,还是呼叫主任医师?2IuEETC-电子工程专辑

人工智能通常被视为“黑盒子”,即人类不清楚具体算法,但这也是它特别有效的部分原因,人工智能建立算法的逻辑方式并不依赖人类的思路。但当人工智能无法正常工作时,我们就需要获得一定程度的可解释性,了解如何合理修复模型。2IuEETC-电子工程专辑

恩智浦一直致力于借助现有技术解决这一问题,并对技术进行优化,以量化对人工智能系统最重要的两种数学不确定性。2IuEETC-电子工程专辑

第一种是偶然不确定性,这是指自然发生的随机性或噪声,我们无法(或不知道如何)减少模型内部的这些不确定性。这代表了由于输入数据质量不佳导致的不确定性,原因可能是X光片模糊,就像自动驾驶汽车在起雾的夜间行驶,看不清交通标志,或图像中存在其他噪音源。2IuEETC-电子工程专辑

第二种是认知不确定性,在人工智能领域,这是指由于模型造成的不确定性。原因可能是数据集有限,模型训练得不够好,或为了降低训练成本而刻意简化了模型。2IuEETC-电子工程专辑

2IuEETC-电子工程专辑

Gowrishankar Chindalore(图片:恩智浦)2IuEETC-电子工程专辑

恩智浦嵌入式处理器技术和业务战略主管Gowrishankar Chindalore表示:“我们认为认知不确定性是可以降低的;您可以通过提高计算复杂度,进行更多训练,增加更多的层数,从而降低模型的不确定性,当然要注意避免过度拟合。对于输入不确定性,神经网络只能报告输入有问题,因此我们应对输出持谨慎态度。您希望神经网络能够识别这种局限性,最后由人类决定是否需要质量更好的输入,或完全拒绝输出。这就是恩智浦的可解释人工智能(xAI)的概念。”2IuEETC-电子工程专辑

在研究中,恩智浦使用了各种成熟技术来量化不确定性,包括TensorFlow概率、Logit概率分布和贝叶斯统计。我们的思路是,人类或算法根据量化不确定性决定下一步怎么做。例如,在上面的X射线方案中,如果返回的偶然不确定性超过一定水平,技术人员将重新拍摄图像。如果返回的认知不确定性太高,就需要由人类专家判断X光片,并考虑对模型进行更多训练。2IuEETC-电子工程专辑

2IuEETC-电子工程专辑

Natraj Ekambaram(图片:恩智浦)2IuEETC-电子工程专辑

恩智浦的技术总监兼人工智能/机器学习工程负责人Natraj Ekambaram表示:“今天任何神经网络都只会报告预测结果,其可信度为50%或70%。我们还希望神经网络能报告这两种不同的不确定性具体是什么。计算成本非常高,在边缘进行推理非常昂贵,存在功率和计算方面的限制。因此我们也探索各种技术,以优化的方式加速边缘不确定性量化技术。”2IuEETC-电子工程专辑

恩智浦认为可解释人工智能技术的首个应用是根据医学影像数据(X射线或CT扫描)进行新冠病毒筛查。Chindalore介绍了这项技术支持的新流程:2IuEETC-电子工程专辑

“在系统中输入X光片,经过训练的神经网络就会返回预测结果。我们改变了传统的垂直、线性、一维的方法,现在使用带分支的决策树。如果返回预测结果之后,[算法]报告传感器输入导致了不确定性,技术人员可以重新拍摄X光片,因为神经网络自身无法解决这一问题。但如果不确定性是由于模型的原因,将由专家对X光片进行判断,判断人工智能结果正确与否。这样就能取得可信的筛查结果。借助可解释性,人们可以采用三种决策中的一种。”2IuEETC-电子工程专辑

2IuEETC-电子工程专辑

恩智浦将可解释人工智能研究成果应用于新冠病毒筛查新流程的思路(图片:恩智浦)2IuEETC-电子工程专辑

目前的新冠病毒筛查依靠聚合酶链式反应(PCR)检测,利用鼻腔拭子对病毒相关遗传信息进行检测。由于检测试剂盒供应有限,并且需要几个小时才能得到结果,而X射线和CT扫描技术已经在医院广泛应用,可作为新冠病毒检测的快捷替代技术。恩智浦建议在人工智能技术中加入可解释性,以提高根据胸部成像检测细菌或病毒性肺炎的可信度,必要时可用于增强PCR检测。2IuEETC-电子工程专辑

Chindalore表示:“我们联络了许多公司、高校和医院,他们对此感到非常兴奋,因为通过神经网络进行疾病检测已非新鲜事。事实上,世界各地的许多医院已经开始使用神经网络技术。让他们感到兴奋的原因是可解释性因素能带来某种程度的可信度,神经网络不再盲目地提供输出,可以进行某种程度的反省。”2IuEETC-电子工程专辑

恩智浦计划开放根据医学成像检测新冠病毒模型的源代码,以帮助对抗病毒,并积极寻求与感兴趣的健康保健行业机构开展合作,特别是能够获得匿名训练数据集的机构,以进一步推动检测新冠病毒的研究工作。2IuEETC-电子工程专辑

虽然将这项技术投入实际应用为时尚早,但Chindalore和Ekambaram表示,这项技术还能用于自动驾驶汽车,识别需要驾驶员参与的情况,也可用于工业机器人,因为工业机器人的训练数据集往往非常有限。这项技术仍处于开发之中,尚未最终确定具体的商业模式。2IuEETC-电子工程专辑

编译:NXP2IuEETC-电子工程专辑

责编:Luffy Liu2IuEETC-电子工程专辑

参考原文:Applying AI Explainability To Covid-19 X-Ray Systems,By Sally Ward-Foxton2IuEETC-电子工程专辑

ASPENCORE
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Sally Ward-Foxton
Sally Ward-Foxton是EE Times特派记者,她专注于EE Times美国版的AI技术和相关话题,以及EE Times欧洲版杂志中的欧洲企业报道。 Sally base在英国伦敦,她报道电子行业已有15年,曾为Electronic Design、ECN、Electronic Specifie撰写设计、电子元件类文章。 她拥有剑桥大学的电气和电子工程硕士学位。
  • 重磅!中国成功研制全球神经元规模最大的类脑计算机 9月1日,亿级神经元类脑计算机重大成果新闻发布会在杭州召开。浙江大学校长吴朝晖院士出席并讲话。他表示,人工智能浪潮正加快智能增强时代的到来,类脑计算机将成为未来计算的主要形态和重要平台,将在模拟脑功能、高效实现AI算法、提升计算能力等方面发挥重要的独特作用。
  • 亚马逊机器人公司副总裁离职,加入AI初创公司 Scale AI 亚马逊机器人公司副总裁布拉德·波特(Brad Porter)加入人工智能创业公司Scale AI。Scale周一宣布,Brad Porter将担任首席技术官。
  • LPWAN技术们:要互补,要共存 如果把无线通信技术按照功耗与传输距离两个标准来区分的话,就发现能够同时满足“低功耗”和“长距离”这两个特点,Wi-Fi、蓝牙、zigbee以及2G、3G、4G等这些技术都还有所欠缺,LPWAN技术的出现正好弥补了这个短板。
  • 如何优化边缘机器学习的功耗和性能 知名市场研究和咨询机构 Tractica近日针对“深度学习芯片组”进行了分析和预测,报告结果显示,机器学习 (ML) 算法正被广泛运用于训练神经网络的企业云系统,而诸如汽车、无人机和移动设备等边缘设备的 AI/ML 芯片组更是以三位数的速度持续增长(图 1)。AI/ML已然成为这些领域欲发挥价值的关键因素。
  • 诚招智慧家庭布建帮手…博士学位可! 理论上我是完全支持智慧家庭的:当它一切顺利,那很好…但若是频频”突槌”,真的会让人抓狂!
  • 分析师:边缘AI将在2025年超越云端 ABI Research预测,到2025年边缘AI芯片市场营收将达到122亿美元规模,同一时间云端AI芯片市场的营收规模则为119亿美元。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了