人工智能的成功及其在医学和医疗保健中的地位在很大程度上取决于它能否穿透循证医学的界限，缺乏政策以及医疗专业人员不愿使用它。没有理由相信，如果不满足以前技术的标准和要求，它的使用将能够成为普遍做法。
然而，随着患者、政策制定者、医疗专业人员和医院对人工智能实施到日常医学中的需求越来越高，它从开发人员到实践的方式必须变得更快。除此而外，基于人工智能的医疗技术未来面临的主要挑战是什么？
今天分享的这篇节选自NPJ数字医学上的论文《A short guide for medical professionals in the era of artificial intelligence》（《人工智能时代医疗专业人员的简短指南》），作者是Bertalan Meskó & Marton Görög 。
可解释性
医疗专业人员倾向于使用通过他们了解或了解足够信任它的基础知识的技术获得的数据来做出决定。在人工智能的情况下，这可能是不可能的。然而，数以百万计的学习参数（网络内的连接权重）决定了深度神经网络的输出，这使得理解决策过程变得不直观。即使我们可视化网络不同部分的灵敏度并浏览这数千张嘈杂的图像，我们仍然看不到易于掌握的学习规则。推理不是算法的副产品。因此，可解释的人工智能对于提供对基于人工智能的算法的洞察力至关重要，足以获得对它们的信任。
增强智能
这是美国医学会等组织经常推广的术语。它侧重于人工智能在医疗保健中的辅助作用，强调人工智能的设计增强了人类的智力，而不是取代了人类的智力。它还指人工智能可以提供的价值，它来自于我们如何将人类专家的独特能力与人工智能的独特能力结合起来，为患者提供更好的护理。与增强智能相关的类似术语是“以人为中心的人工智能”，它探讨了开发基于人工智能的系统的必要性，这些系统以深入而有意义的方式向人类学习并与人类合作。
数据的质量和数量
人工智能以数据为食。它获得的数据越多、质量越好，它就越能在任务中表现出色。高级算法需要带注释的数据，以确保这些算法能够学习它们设计的任务。有医疗专业人员充当数据注释员，这是一项耗时且单调的任务。一些医疗算法只能通过大量注释数据来改进。因此，数据注释员的专门贡献对于在医疗保健环境中实施人工智能至关重要。因此，我们可以得出结论，数据注释者是医疗人工智能革命的无名英雄。
隐私问题
医疗人工智能需要访问医疗记录、来自健康传感器的数据、医疗算法、应用程序以及它可以学习的任何信息来源。数据可以来自医疗机构或个人。即使机构将数据匿名化，在许多情况下也证明可以追溯个人资料。
法律问题和责任
如果深度学习算法错过了诊断，医生接受了判断，患者遭受了后果怎么办？如果自主手术机器人在手术过程中伤害了患者怎么办？这是一个持续的争论，关于当机器人和人工智能自主行动伤害患者时，谁将在未来承担责任。目前的共识指出，如果专业人员在其监管批准范围之外的情况下使用该工具，或滥用该工具，或尽管专业上对围绕该工具的证据的有效性存在重大怀疑，或者知道工具制造商混淆了负面事实，则他或她将承担责任。在任何其他情况下，责任都落在创作者及其背后的公司身上。
信任
我们需要很多时间来信任自动驾驶汽车，看看它在我们熟悉的情况下的反应，或者它是否在紧急情况下做出类似的决定。因此，不仅对患者，而且对医疗专业人员来说，在医疗诊断、支持医疗决策或设计新药方面信任人工智能也需要更多时间。当我们决定将该技术应用于医疗保健环境时，应该考虑到这一点。
有偏见的人工智能
一项研究得出结论，商业公司的面部识别系统对肤色较浅的人的准确率提高了11-19%。这些在识别有色人种女性时产生了特别不准确的结果。在另一个例子中，人工智能在美国的刑事司法系统中实施，以预测累犯。他们发现，该算法预测了黑人未来犯罪的可能性不成比例地高，无论他们最初的罪行有多轻。这不仅是种族偏见，而且人工智能算法也经常歧视女性、少数民族、其他文化或意识形态。例如，亚马逊的人力资源部门不得不停止使用该公司开发的基于人工智能的机器学习工具，用于挑选最佳求职者，因为事实证明，智能算法有利于男性。当这些算法从它们提供的数据中学习时，人工智能程序员必须了解算法中的偏见问题，并通过定制它们来积极与之抗争。
患者设计
在为医疗目的设计算法时，患者应参与最高级别的决策，以确保满足他们的需求，并将问题和建议内置到技术中。关于其重要性的一个例子是，一家初创公司如何开发一种算法，可以在加拿大患者的电话中检测阿尔茨海默病的迹象。然而，它对有法国口音的患者显示出不同的结果。通过在发育的早期阶段邀请患者，可以避免此类问题。
由于正在积极努力解决这些问题，因此那些成为医疗实践常见部分的算法是否能够解决这些问题仍然是一个悬而未决的问题。
Links
