斯坦福用算法分发新冠疫苗遭炮轰:医护人员只分到0.14%
澎湃新闻 王心馨
2020-12-22 10:33

本月初,辉瑞研发的新冠疫苗获得美国食品药品监督管理局(FDA)的紧急批准后,美国联邦政府开始向全国各地的卫生系统分发疫苗。按照特朗普的计划,2020年底前,2000万人美国将获得第一针疫苗。

当地时间2020年12月16日,美国弗吉尼亚州阿灵顿,弗吉尼亚医院中心的医护人员接受辉瑞新冠疫苗接种。人民视觉 资料图

在这个人口超过3亿的国家,分发疫苗必须要优先考虑易感染人群、运输等因素。由于数量巨大、时间紧急,如何分发疫苗的任务就落在了人工智能算法上。但用算法来做决策,又面临着另一个问题:算法缺乏透明度,决策过程无法具体知悉,鉴于此前已经有案例表明算法会对某些人口群体,特别是少数民族和低收入者存在偏见,用算法来解决疫苗分配产生的问题更值得关注。

实际上,这样的偏见已经发生了,而且就发生在美国顶尖高校斯坦福。日前,斯坦福大学获得了第一批5000支疫苗,但在接种对象名单中,医护人员的名额只占了0.14%。具体来说,5000人中只有7名医护人员获得了疫苗。但在斯坦福大学里,有1300多名医护人员、研究员,7人进入接种名单,意味着只有约0.5%的医护人员分配到了疫苗。相反,一些在家工作、不需要每日面对新冠患者的资深教员反而被大量选中。

一线医护人员是抗击疫情中的英雄,但在接种疫苗上却没有受到照顾。这份名单引起不满,医护人员也直接进行了抗议活动。而这一切的始作俑者是一套疫苗分发算法。

看到医护人员的抗议后,斯坦福医学发言人Lisa Kim表示,我们对疫苗分配计划执行中的错误承担全部责任。我们原本意图是制定一个道德、公平的疫苗分配程序。

提比略系统

斯坦福的疫苗分发策略仅是一个缩影。在联邦政府层面,为了实现到2021年第一季度为1亿美国人接种疫苗的目标,美国卫生与公共服务部与数据挖掘公司Palantir合作开发了一个名为提比略(Tiberius)的软件平台。

提比略的数据覆盖美国50个州,8个地区,允许州和联邦机构查看美国拥有医保名单的VTrckS网站和美国疾病控制和预防(CDC)的疫苗跟踪系统。他们还可以使用提比略来决定在辖区内将疫苗发送到何处。

美国目前的新冠疫苗研发遵循以下过程:每周四,疫苗生产商会通知美国公私合营的新冠治疗开发合作伙伴组织Warp Speed,在接下来的一周内可提供多少疫苗。周五,提比略系统进行运算,该算法会计入成年人口和疫苗摄入量在内的变量,并分配每个州可用的疫苗剂量数量。接着,在每周六,每个州要完成其订单,并在星期一完成交货。

根据此前公布的文件,该系统将允许卫生当局“整合广泛的人口、就业和公共卫生数据集,以确定优先人群”,并“支持分配决策”。卫生官员可以使用数据系统创建分析地图来规划疫苗剂量的分发和分配,并跟踪医院、诊所和其他注射地点交付疫苗的情况。

Warp Speed行动计划负责人Deacon Maddox上校将Tiberius的算法描述为“简单”,“公平”。但问题的关键是这个系统的输入数据大比重地依赖于美国人口普查局2018年美国社区调查得出的人口估算值。由于时间限制、人力不足和其他混杂因素,人口普查局经常低估美国某些地区的人口。例如,有研究表明,黑人男性(尤其是30至49岁的男性)的低估率远远高于黑人总人口或男性总人口的净低估率。

“这个普查数据存在报告不足和报告过多的问题。如果你不大范围地包括弱势群体,那你就是在低估感染人口数量。”华盛顿大学人类中心设计与工程学系的AI研究员Os Keyes在接受外媒采访时称,而他认为这可能会加大社会的不平等。

依赖这样的数据输入带来的影响是巨大的。根据约翰·霍普金斯大学(Johns Hopkins University)的数据,美国黑人感染新冠的速度几乎是美国白人的三倍,而死于该病毒的可能性是美国白人的两倍以上。部分原因是黑人更容易患病,没有医疗保险,而且更有可能是从事不适合居家办公的工作。

不平等继续,如何解决?

除了联邦政府有一套分配算法外,在美国的一些州,包括俄亥俄州,威斯康星州,南卡罗来纳州,新罕布什尔州,特拉华州,田纳西州和亚利桑那州在内,都正在使用内部开发的算法来确定应如何在当地分发疫苗。同时,在例如乔治华盛顿大学医院(GWUH)这样的当地机构,也运行这一套算法系统,会根据年龄,基本医疗状况,预防传播以及医院继续开展业务的能力来选择人群。

斯坦福大学的疫苗分配已凸显出算法局限,从联邦政府到州政府再到各个机构组织,在算法一层层的计算下,许多美国国内的专家认为这种做法势必会带来社会更多的不平等,但要改进算法可能并不那么容易。

佐治亚理工学院副教授Mark O. Riedl表示,如果斯坦福大学有资金充足的中心、专门研究AI算法的道德,公平、公正使用就好了。

发生抗议事件后,斯坦福卫生局总裁兼首席执行官David Entwhistle表示会纠正算法,制定新的疫苗分配计划。而对于此次算法的“错误”,他解释道:“疫苗分配算法遵循联邦政府的指导方针,即优先考虑医疗保健工作者和年长雇员。”

但外界似乎并不买账。一位斯坦福住院医生发给同行的邮件显示,他们在整个系统中处于劣势,因为没有具体的“位置”可以插入系统进行计算,而且他们还十分年轻。

根据科技网站Venturebeat报道,随着明年疫苗数量的增加,联邦和州机构以及医疗保健系统很可能会通过改进算法来应对分配问题。尽管如此,疫苗较少的阶段仍需要担心。十几个州的官员抱怨说,他们收到的剂量比承诺的要少。辉瑞公司声称,联邦政府尚未发布目前仓库中数百万剂疫苗的运输说明。如果不解决运输时间过长,缺乏透明度,加上数据和方法不均衡的问题,有可能加剧整个美国社区医疗保健不平等的状况。

实习编辑 黄嘉琳

(作者:王心馨)
免责声明
未经许可或明确书面授权,任何人不得复制、转载、摘编、修改、链接读特客户端内容
推荐阅读
读特热榜
IN视频
鹏友圈

首页