据STAT网站6月19日报道，哈佛大学法学院教授Jonathan Zittrain在波士顿举行的一次会议上指出，将人工智能用于医疗服务存在一些严重的问题。
Zittrain认为人们很容易被人工智能的错误结论误导。他在会上展示了一只猫的图像，谷歌算法将其正确地归类为虎斑猫；随后又放映了一张几乎完全相同的猫图像，仅有几个像素发生了变化，谷歌算法却以100％的确定性将屏幕上的图像归类为鳄梨酱。如将此演示放至医疗领域，当算法以100%的信心输出了错误的诊断结果，其严重后果可想而知。
此外，纽约数据与社会研究所的研究员Kadija Ferryman还发现，人工智能可能会延续医疗保健领域存在的一些不平等现象，诸如一种用于识别皮肤癌的算法对皮肤较黑的人效果较差；在精神卫生保健领域，电子病历中保存的数据显示出了对女性和有色人种的偏见。Ferryman认为，数据中的不公平不仅会转化为医疗保健领域的不平等待遇，还可能导致无效护理。她呼吁持续关注人工智能加剧不平等现象的可能性。
