在美国，欧洲和中国，大多数针对眼睛疾病的检测算法都针对患者进行了培训。这可能使这些工具对其他种族和国家无效。

人工智能工具可以帮助诊断青光眼，糖尿病性视网膜病和与年龄有关的黄斑变性。照片：盖蒂图片社

人工智能有望熟练地在医学图像和扫描中诊断疾病。但是，仔细查看用于训练眼病诊断算法的数据，可以发现这些功能强大的新工具可能会使健康不平等长期存在。

英国的一个研究小组分析了94个数据集，其中包含超过50万张图像，这些数据集通常用于训练人工智能算法识别眼疾。他们发现几乎所有的数据都来自北美、欧洲和中国的患者。只有四组数据来自南亚，两组来自南美洲，一组来自非洲;没有一个来自大洋洲。

参与这项研究的伯明翰大学眼科学家、研究员刘晓轩说，这些眼部图像来源的差异意味着AI眼科检查算法对于来自代表性不足国家的种族群体来说，效果不太确定。她说：“即使某些人群中的疾病发生了非常微妙的变化，人工智能也可能会发生严重失误。

美国眼科医生协会对(American Association of Ophthalmologists)AI工具表现出了极大的热情，该协会表示，人工智能工具有望帮助改善护理标准。但刘说，如果医生们知道这些工具是从研究白人为主的病人身上建立起来的，他们可能不愿意为少数民族使用这些工具。她指出，由于差异太小，以至于医生自己也无法察觉，因此算法可能会失败。

研究人员还在数据中发现了其他问题。许多数据集不包括关键的人口统计数据，例如年龄，性别和种族，因此很难衡量它们是否在其他方面存在偏见。数据集也往往是围绕少数疾病创建的，如：青光眼，糖尿病性视网膜病变和老年性黄斑变性。用于训练算法的46个数据集无法提供这些数据。

近年来，美国食品和药物管理局已经批准了几款人工智能成像产品，包括两款用于眼科的人工智能工具。刘说，这些算法背后的公司通常不会提供这些算法是如何被训练的细节。她和她的合著者呼吁监管机构在研究人工智能工具时，考虑到培训数据的多样性。

眼睛图像数据集中发现的偏差意味着根据该数据训练的算法不太可能在非洲，拉丁美洲或东南亚正常运行。这将破坏AI诊断的最大好处之一：将AI自动化医疗专长带到缺乏的较贫穷地区的潜力。

刘说：“你的创新只会让某些特定人群的特定部分受益。这就像谷歌地图没有加入特定的邮政编码。”

眼睛图像缺乏多样性，研究人员称之为“数据匮乏”，这可能会影响许多医疗人工智能算法。

斯坦福大学(Stanford University)医学助理教授阿米特•考沙尔(Amit Kaushal)是一个小组的成员，他分析了74项涉及人工智能医学用途的研究，其中56项使用了美国患者的数据。他们发现，美国大部分数据来自三个州：加利福尼亚州（22个）、纽约州（15个）和马萨诸塞州（14个）。

“当人群中的子群体被系统地排除在人工智能训练数据之外时，人工智能算法在这些被排除的群体上的表现往往会更差，” 考沙尔说。“由于缺乏可用的数据，人工智能研究人员甚至可能不会研究代表性不足人口面临的问题。”

他说，解决办法是让人工智能研究人员和医生意识到这个问题，以便他们寻找更多样化的数据集。他表示:“我们需要创建一种技术基础设施，让人们能够访问用于人工智能研究的各种数据，以及一个支持和保护对这些数据的研究使用的监管环境。”

维卡什·古普塔(Vikash Gupta)是佛罗里达州梅奥诊所(Mayo Clinic)研究人工智能在放射学中的应用的科学家，他说：“简单地添加更多多样化的数据就可能消除偏见。但目前还很难说这个问题该如何解决。”

不过，古普塔说，在某些情况下，把算法的重点放在人群的一个子集上可能会有用，比如在诊断一种对该群体影响很大的疾病时。

眼科医生刘表示，随着人工智能技术的普及，她希望看到医疗人工智能培训数据的更大多样性。她说:“十年后，当我们使用人工智能诊断疾病时，如果我面前有一个肤色较深的病人，我不想说‘对不起，但我必须给你另一种治疗方法，因为它对你不起作用。