假设您完成了对患者的X射线检查,正在等待人工智能系统诊断病情。几分钟后,人工智能返回了诊断结果,显示可信度为98%,但是诊断结果明显错误。您该怎么做?尝试重新拍摄X光片,还是呼叫主任医师?

假设您完成了对患者的X射线检查,正在等待人工智能系统诊断病情。几分钟后,人工智能返回了诊断结果,显示可信度为98%,但是诊断结果明显错误。您该怎么做?尝试重新拍摄X光片,还是呼叫主任医师?

人工智能通常被视为“黑盒子”,即人类不清楚具体算法,但这也是它特别有效的部分原因,人工智能建立算法的逻辑方式并不依赖人类的思路。但当人工智能无法正常工作时,我们就需要获得一定程度的可解释性,了解如何合理修复模型。

恩智浦一直致力于借助现有技术解决这一问题,并对技术进行优化,以量化对人工智能系统最重要的两种数学不确定性。

第一种是偶然不确定性,这是指自然发生的随机性或噪声,我们无法(或不知道如何)减少模型内部的这些不确定性。这代表了由于输入数据质量不佳导致的不确定性,原因可能是X光片模糊,就像自动驾驶汽车在起雾的夜间行驶,看不清交通标志,或图像中存在其他噪音源。

第二种是认知不确定性,在人工智能领域,这是指由于模型造成的不确定性。原因可能是数据集有限,模型训练得不够好,或为了降低训练成本而刻意简化了模型。

Gowrishankar Chindalore(图片:恩智浦)

恩智浦嵌入式处理器技术和业务战略主管Gowrishankar Chindalore表示:“我们认为认知不确定性是可以降低的;您可以通过提高计算复杂度,进行更多训练,增加更多的层数,从而降低模型的不确定性,当然要注意避免过度拟合。对于输入不确定性,神经网络只能报告输入有问题,因此我们应对输出持谨慎态度。您希望神经网络能够识别这种局限性,最后由人类决定是否需要质量更好的输入,或完全拒绝输出。这就是恩智浦的可解释人工智能(xAI)的概念。”

在研究中,恩智浦使用了各种成熟技术来量化不确定性,包括TensorFlow概率、Logit概率分布和贝叶斯统计。我们的思路是,人类或算法根据量化不确定性决定下一步怎么做。例如,在上面的X射线方案中,如果返回的偶然不确定性超过一定水平,技术人员将重新拍摄图像。如果返回的认知不确定性太高,就需要由人类专家判断X光片,并考虑对模型进行更多训练。

Natraj Ekambaram(图片:恩智浦)

恩智浦的技术总监兼人工智能/机器学习工程负责人Natraj Ekambaram表示:“今天任何神经网络都只会报告预测结果,其可信度为50%或70%。我们还希望神经网络能报告这两种不同的不确定性具体是什么。计算成本非常高,在边缘进行推理非常昂贵,存在功率和计算方面的限制。因此我们也探索各种技术,以优化的方式加速边缘不确定性量化技术。”

恩智浦认为可解释人工智能技术的首个应用是根据医学影像数据(X射线或CT扫描)进行新冠病毒筛查。Chindalore介绍了这项技术支持的新流程:

“在系统中输入X光片,经过训练的神经网络就会返回预测结果。我们改变了传统的垂直、线性、一维的方法,现在使用带分支的决策树。如果返回预测结果之后,[算法]报告传感器输入导致了不确定性,技术人员可以重新拍摄X光片,因为神经网络自身无法解决这一问题。但如果不确定性是由于模型的原因,将由专家对X光片进行判断,判断人工智能结果正确与否。这样就能取得可信的筛查结果。借助可解释性,人们可以采用三种决策中的一种。”

恩智浦将可解释人工智能研究成果应用于新冠病毒筛查新流程的思路(图片:恩智浦)

目前的新冠病毒筛查依靠聚合酶链式反应(PCR)检测,利用鼻腔拭子对病毒相关遗传信息进行检测。由于检测试剂盒供应有限,并且需要几个小时才能得到结果,而X射线和CT扫描技术已经在医院广泛应用,可作为新冠病毒检测的快捷替代技术。恩智浦建议在人工智能技术中加入可解释性,以提高根据胸部成像检测细菌或病毒性肺炎的可信度,必要时可用于增强PCR检测。

Chindalore表示:“我们联络了许多公司、高校和医院,他们对此感到非常兴奋,因为通过神经网络进行疾病检测已非新鲜事。事实上,世界各地的许多医院已经开始使用神经网络技术。让他们感到兴奋的原因是可解释性因素能带来某种程度的可信度,神经网络不再盲目地提供输出,可以进行某种程度的反省。”

恩智浦计划开放根据医学成像检测新冠病毒模型的源代码,以帮助对抗病毒,并积极寻求与感兴趣的健康保健行业机构开展合作,特别是能够获得匿名训练数据集的机构,以进一步推动检测新冠病毒的研究工作。

虽然将这项技术投入实际应用为时尚早,但Chindalore和Ekambaram表示,这项技术还能用于自动驾驶汽车,识别需要驾驶员参与的情况,也可用于工业机器人,因为工业机器人的训练数据集往往非常有限。这项技术仍处于开发之中,尚未最终确定具体的商业模式。

编译:NXP

责编:Luffy Liu

参考原文:Applying AI Explainability To Covid-19 X-Ray Systems,By Sally Ward-Foxton

本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
虽然人工智能和机器学习的应用越来越广泛,但在繁杂的电子设计中,能够帮助工程师实现什么类型的决策呢?工程师又将如何看待在设计中让人工智能进行这些决策呢?本文所揭示的一个设计趋势是,绝大多数的工程师们都信任人工智能,认为它们会在建模设计、元器件选型、加快新产品上市方面发挥越来越大的作用。
对于普通消费者,人工智能、机器学习、数字孪生、元宇宙这类科技名词简直让人目不暇给,其实这些都预示数字化大潮的来临。然而,如果没有好的大芯片,恐怕一切都是空谈。本文提出大芯片的设计之路,就是从架构到FPGA,再移植到ASIC。但这并非是平坦路,转换过程中存在各式各样的挑战。各团队必须清晰理解意图,牢记设计初衷。
ST已经在汽车、智慧工业和物联网等应用领域大力部署边缘AI。STM32系列的32位Arm Cortex微控制器已将适合边缘计算的低功耗版本涵盖其中。为了让不熟悉AI的人更容易上手,NanoEdge AI Studio整合了机器学习函数库,可以为任何指定的应用自动搜索和配置最适合的解决方案。
尽管黄仁勋重申将重视中国市场,且继续推出特供版AI芯片,但性能无疑会再次“阉割”。据悉,H20等全新特供芯片的研发、设计、生产,将通过后道点断生产工艺,来满足美国新的AI禁令要求。
《报告》显示,2023年上半年,中国人工智能服务器市场规模环比增长54.1%。IDC预计,全球人工智能硬件市场(服务器)规模将从2022年的195亿美元增长到2026年的347亿美元,五年年复合增长率达17.3%;在中国,预计2023年中国人工智能服务器市场规模将达到91亿美元,同比增长82.5%,2027年将达到134 亿美元,五年年复合增长率达21.8%。
尽管SK海力士利用TSV技术,使其HBM产品一直保持业界领先水平,但仍需解决产能偏低、成本过高的问题。为此,SK海力士持续研发主打封装技术TSV外,还在关注“扇出型晶圆级封装”,将其视为促使未来利润产生的新的增长动力和技术。
根据TrendForce集邦咨询最新OLED技术及市场发展分析报告统计,在近期发表的摺叠新机中,UTG的市场渗透率已逾九成,随着摺叠手机规模持续成长,预估2023年UTG产值将达3.6亿美元;2024年可望挑战6亿美元。
随着终端及IC客户库存陆续消化至较为健康的水位,及下半年iPhone、Android阵营推出新机等有利因素,带动第三季智能手机、笔电相关零部件急单涌现,但高通胀风险仍在,短期市况依旧不明朗,故此波备货仅以急单方式进行。此外,台积电(TSMC)、三星(Samsung)3nm高价制程贡献营收亦对产值带来正面效益,带动2023年第三季前十大晶圆代工业者产值为282.9亿美元,环比增长7.9%。
治精微推出具过压保护OVP、低功耗、高精度运放ZJA3018
无线技术每天都在拯救生命,有些非常方式是人们意想不到的。在美国加利福尼亚州Scotts Valley,一名路过的慢跑者发现一处住宅冒出火焰后,按响了门铃,试图通知屋主。屋主不在家中,但无线门铃连接到了智能家居中枢,提醒屋主慢跑者试图联系。屋主立即向他提供了安全密码,让他跑进房子,从火场中救出了宠物。
来看看,你需不需要这门接收机设计课程吧(已更新八次)。如有需要,现在仍然可以报名。(1)前几天,号友发来她的听课笔记,我真的是泪流满面。感觉,自己这么长时间的备课,总算没白费。说实话,我备课的时候,真
自从集成电路发明以后,人类的电子信息技术开始腾飞,60年多年来,在摩尔定律的指导下,半导体集成电路的高速发展彻底改变了电子产品。以计算机为例,1946年诞生的世界第一台数字计算机重30吨,占地约140
要点2022 年中国的经济增长不如 2021 年强劲,COVID-19 限制令和持续封锁削弱了中国的经济和制造活动。2022 年,LV 变频器市场增长了 3%,其中大部分增长来自于上一年积压订单的交付
广告分割线12月11日,臻鼎科技集团与协成昌集团(Saha Group)达成了战略合作协议。当晚还举办了“2023庆祝战略合作签约暨鹏晟科技动土典礼晚宴”。本次战略合作协议的签订将进一步促进双方的合作
AMD Vitis™ 高层次综合 ( HLS ) 已成为自适应 SoC 及 FPGA 产品设计领域的一项颠覆性技术,可在创建定制硬件设计时实现更高层次的抽象并提高生产力。Vitis HLS 通过将 C
有奖问卷调查:各位工程师朋友,作为全球知名的授权半导体和电子元器件代理商,贸泽电子 Mouser多年来一直倾心为中国工程师服务,助力本土创新! 时至年终,为了更好的服务工程师朋友,我们特别推出“贸泽电
为加强智慧应急能力建设,以新安全格局服务新发展格局,由中国科学院大学、全国安全职业教育教学指导委员会共同主办的“2023智慧应急发展论坛”于2023年12月10日在京召开。本次论坛主题是“加强智慧应急
点击左上角“锂电联盟会长”,即可关注!有需要联系,王经理:18058289318相关阅读:锂离子电池制备材料/压力测试!锂电池自放电测量方法:静态与动态测量法!软包电池关键工艺问题!一文搞懂锂离子电池
点击左上角“锂电联盟会长”,即可关注!粉尘、水分和毛刺是锂离子电池生产过程中需要严格控制的关键因素。严格控制电池生产环境的粉尘对锂离子电池的安全和性能至关重要。生产环境粉尘控制不足会导致涂层表面产生大
巨头动向腾讯今年回购金额已超过去10年总额12月11日,腾讯公告称,当日耗资约4.03亿港元,回购133万股股份。年初至今,腾讯已经出手113次,累计回购数量约1.28亿股,累计回购金额超过422亿港