作者:王悦
在希波克拉底誓言奠定医学伦理基础的2400年后,人工智能的出现可能给医学伦理带来史上最大的挑战。
专家预测,到2024年,AI医疗将是一个近200亿美元的市场。人工智能有望成为医疗实践的福音,能够改善诊断效果、提供个性化治疗,并及时发现未来的公共医疗风险。
即便如此,该技术仍然引发了一系列棘手的道德难题。当AI系统决策失误时会出现哪些问题?如果有问题的话,该谁负责?临床医生如何验证甚至了解AI“黑匣子”的内容?他们又该如何避免AI系统的偏见并保护患者隐私?
2018年6月,美国医学会(AMA)发布了首个关于如何开发、使用和调节人工智能的指南。值得注意的是,该协会将人工智能称为“augmented intelligence”(智能增强),而非我们广泛认为的“artificial intelligence”。这表明,美国医学会认为人工智能的作用是增强而非取代医生的工作。
虽然AMA在指南中表示,人工智能应该设计用于识别和解决偏见、保障弱势群体需求、实现过程透明性并保护患者隐私,但在具体实施中,这些要求很难得到满足。以下是医学从业者、研究人员和医学伦理学家需要面对且最为紧迫的道德挑战。
背后的偏见,怎么克服?
2017年,芝加哥大学医学院(UCM)的数据分析团队使用人工智能来预测患者可能的住院时长。其目标是确定可以提前出院的患者,从而释放医院资源并为新的患者提供救治。然后,医院还会指派一名案例管理人员来帮助患者处理保险事宜,确保患者及时回家,并为其早日出院铺平道路。
在测试系统时,研究小组发现,预测患者住院时间最准确的因素是他们的邮政编码,这立刻给研究团队敲响了警钟。他们知道,邮编与患者的种族和社会经济地位密切相关。依靠邮政编码做预测,会对芝加哥最贫困社区的非裔美国人造成不良影响,这些人往往住院时间更长。因此该团队认为使用该算法分配案例管理员将是有偏见和不道德的。
“如果你要在实践中实施这个算法,你会得到一个矛盾的结果,那就是把更多(病例管理)资源分配给更富裕的白人患者,”UCM内科医生、医疗伦理学教授Marshall Chin说道。
最终数据分析团队删除了邮政编码这个预测因素。该算法仍在开发中,尚未测试出新模型。
这个案例指出了基于人工智能的医疗保健工具的弱点:算法通常可以反映现有的种族或性别健康差异。这个问题如果没有得到解决,就可能会导致长期性偏见并固化医疗保健领域现有的不平等现象。
偏见还会影响罕见病或新疾病的治疗,这些疾病的治疗数据有限。人工智能系统可能会直接给出一般治疗方案,而不考虑患者的个人情况。这时,人工智能拟议的治疗方案是无效的。
最近,斯坦福大学麻醉学助理教授Danton Char在一篇关于机器学习的论文中指出,因为严重脑损伤患者或极早产儿的存活几率很低,因此医生常常停止对他们的护理。而即使某些患者个体预后良好,机器学习算法仍然可能会直接得出结论:所有类似病例都是致命的,并建议撤回治疗。
|