人工智能已经成为我们技术基础设施和许多消费设备的重要组成部分。在不到十年的时间里，基于深度神经网络的机器学习算法已从识别视频中的猫发展到使智能手机能够在27种不同语言之间进行实时翻译。这一进展激发了人工智能在药物发现和开发中的使用。
人工智能可以提高治疗领域药物开发的效率和结果。例如，一些公司正在开发的人工智能技术有望通过在注册前识别高风险人群来预防临床试验中的严重不良事件。通过使用人工智能来整合其他数据源（如历史对照研究或真实世界数据），临床试验可以变得更有效率。人工智能技术也可以通过识别生物标志物来放大治疗反应，从而在复杂适应症中精确定位患者亚群。
这些领域的创新将为那些自愿参加试验的人带来巨大的好处，更不用说对新药的最终用户产生的下游效益。
但是，这些技术的错误使用会产生意想不到的有害后果。要了解一个好主意如何变坏，只需看看自算法兴起以来社交媒体发生了什么。错误信息比真相传播得更快，而且我们的领导人正忙于保护我们的政治制度。
人工智能和机器学习同样会破坏我们识别安全有效疗法的能力吗?
即使是善意的研究人员也可能开发出加剧偏见的机器学习算法。例如，许多用于医学的数据集主要来自于白人、北美和欧洲人群。如果研究人员将机器学习应用于这些数据集中的一个，并发现一个生物标志物来预测治疗的反应，则无法保证该生物标志物在更多样化的人群中也能很好地发挥作用。如果使用这样的生物标志物来定义一种药物的批准适应症，那么这种药物在不同的种族群体中可能会产生非常不同的效果，这仅仅是因为它是通过一个构造不良的算法的偏光镜过滤出来的。
对偏差和普遍性的担忧适用于大多数数据驱动的决策，包括那些使用更传统的统计方法获得的决策。但是，实现药物开发创新的机器学习算法比传统的统计模型要复杂得多。他们需要更大的数据集、更复杂的软件和更强大的计算机。所有这些都使得全面评估机器学习算法的性能变得更加困难，也更加重要。
处于药物开发和技术交叉领域的公司需要制定标准，以确保人工智能工具能够按预期运行。
美国食品药品管理局（FDA）已经发布了几项关于人工智能产品监管的提案，现在它有机会在这些努力的基础上更进一步。医疗器械和放射健康中心（Center for Devices and Radiological Health，CDRH）已经审查并清理了许多使用人工智能的设备。该中心还发布了一个提议的框架“将人工智能和机器学习作为医疗设备应用于软件”。然而，这些提议不一定适用于药物开发过程中使用的基于人工智能的工具。因此，生物制药和科技公司不确定这些工具如何适应当前的监管框架。
在11月7日FDA的报告中，作者认为FDA应该在确保基于人工智能的药物开发工具符合适当标准方面发挥重要作用。
FDA提出了一个框架，以指导发起人如何在药物开发项目中使用人工智能工具，从而缓解监管的不确定性。通过与行业合作制定可行的监管框架，FDA可以在人工智能提供重大公共卫生利益的机会与通过确保这些新技术可靠来保护公共卫生的使命之间取得平衡。同时，FDA可以为基于人工智能的药物开发工具的正式认证创建一条途径，以确保对这些工具进行充分审查。
此外，它可以鼓励在药物开发中探索性地使用基于人工智能的技术，这将使发起人和监管者通过使用新的监管途径更好地了解其优缺点，例如《复杂的创新试验设计试点计划》（Complex Innovative Trial Designs Pilot Program）。
这些具体的行动将为创新的临床试验方法打开大门，使药物开发更加有效，从而有助于尽快为需要治疗的患者提供新的治疗方法。
