《人工智能如何改变你的医生就诊?》

  • 来源专题:人工智能
  • 编译者: 高楠
  • 发布时间:2025-10-24
  • 从摄入表格到环境记录,人工智能正在改变你的医疗就诊。斯坦福大学的专家解释了每个病人都应该问的问题。

    人工智能正在改变我们理解疾病和发现新药的方式。但这也改变了患者的体验。入院表格正在从剪贴板转移到iPads,预约安排通过聊天机器人进行,远程医疗平台使用人工智能根据个人需求将个人与最好的医生匹配。

    我们应该如何看待医疗中的AI?

    到目前为止,病人护理体验并没有太大的变化,说尼甘·沙阿斯坦福大学医学教授,首席数据科学家斯坦福医疗保健,和的附属机构斯坦福以人为中心的人工智能研究所。“在全国范围内,我们似乎正在使用人工智能来做我们已经知道如何做的事情,比如自动计费。”

    但他设想未来人工智能将推进我们对疾病的理解,增强我们医疗保健专业人员的实践,并提高我们诊所和医院的效率。

    在最近的一次采访中,Shah解释了从患者的角度看医疗保健人工智能的前景,以及隐藏的风险可能存在于何处。

    方便还是侵犯隐私?

    您可能已经注意到,平板电脑已经取代了您在预约时收到的许多纸和笔形式的患者入院表格。这些由人工智能驱动的病人表格不仅可以建立你的电子健康记录,而且这些数据还可能会被识别并发送到其他公司进行研究,营销或培训人工智能模型。

    一旦你到达检查室,你的医生可能会使用一种“环境记录”产品,该产品利用生成式人工智能来倾听和记录你的谈话,记录相关细节,如病史、症状、诊断和建议的治疗方法。这些信息会流入您的电子健康记录,简化记录过程,同时从每次就诊中获取更多细节。

    Shah说,这些技术对病人有利也有弊。提供商表示,环境划线可以减少认知负担,也可能有助于从保险公司获得更好的补偿,但划线也可以创建更多提供商可以支付的代码,从长远来看,可能会增加患者的成本。

    虽然更多的患者数据可能会训练出更好、更有用的人工智能,或者有助于开发救命的药物,但同意接受他们的去识别信息Shah解释说,用于其他目的可能没有意识到“去身份化不是匿名化”。“一旦您的数据被剥离了个人身份信息,它就不再受HIPAA的保护,并且可以在蓬勃发展的数据行业中进行买卖。”

    他补充道,人们应该关注可接受使用的范围。例如,一家公司可以使用你的信息为你的保险定价吗?给你提供药品广告?你想知道谁从你的信息中获利吗?

    Shah建议患者向他们的提供者提问,以便更好地理解:

    • 你会把我的摄入数据存储在哪里?
    • 哪些第三方可以访问我的个人信息?
    • 我可以控制我的去识别数据是否用于营销、研究或训练人工智能模型吗?
    • 我的数据会在这个系统中保存多长时间?这次访问是否被实时记录或转录?
    • 此对话将存储在哪里,存储多长时间?
    • 谁有权访问此对话以及由此生成的笔记?
    • 人类会检查人工智能生成的笔记的准确性吗?
    • 我可以在哪里查看此次访问生成的记录,如果发现任何错误,我如何提交更正?
    • 我可以在访问期间拒绝使用环境脚本吗?

    增强治疗

    除了完成日常任务的人工智能工具,患者可能很快就会看到帮助医生规划治疗的人工智能。举个例子,阿特洛波斯健康由Shah在斯坦福大学共同创建,将数亿份去身份化的医疗记录汇集到一个系统中,医生可以查询该系统,以发现在任何给定的健康场景中类似患者发生了什么。

    沙阿解释说:“医疗保健人工智能已经达到了这样一个地步,医生可以在聊天窗口中提出一个问题,系统可以在几分钟内创建一个研究,根据类似患者过去的护理产生现实世界的证据。”。因此,患者可以在创纪录的时间内获得更有效的护理。

    在医生办公室外面

    消费者也越来越多地在医生就诊之外使用人工智能应用和设备。

    沙阿最近向一篇文章在……里美国医学协会杂志《医学中的人工智能》指出,目前有超过35万个移动健康应用程序可用,人工智能经常嵌入软件中。从诊断皮肤癌到检测跌倒,再到提供心理健康支持,这些流行的工具都有希望,但作者得出结论,如果要将它们纳入医疗保健系统,我们需要更清楚地了解它们的有效性和更好的监管。

    展望未来

    从更大的角度来看,人工智能不仅将改变我们与医生的互动方式,还将改变我们管理疾病的方式,从癌症到糖尿病再到阿尔茨海默氏症。

    但是,Shah警告说,消费者需要对可能发生的事情和时间有现实的预期。“好的进展会发生,但研究人员不应过度承诺。这需要时间。”

  • 原文来源:https://hai.stanford.edu/news/how-is-ai-changing-your-doctor-visit
相关报告
  • 《Nature | 医学人工智能的未来》

    • 来源专题:战略生物资源
    • 编译者:李康音
    • 发布时间:2023-10-29
    • 本文内容转载自“ChemBioAI”微信公众号。原文链接: https://mp.weixin.qq.com/s/hlwb9sc0rugxZ_ThiOy7gQ 2023年10月24日,《自然》新闻(Nature News)在线发表了一篇题为An AI revolution is brewing in medicine. What will it look like?的特别报道。 Jordan Perchik于2018年开始在亚拉巴马大学伯明翰分校进行放射科住院医生培训,那时正值他所谓的放射科学领域的“AI恐慌”高峰期。在计算机科学家Geoffrey Hinton宣称人们应停止培训成为放射科医生的仅仅两年后,这一时期开始。Hinton被称为人工智能之父,他预测这些系统很快将能够比人类更好地阅读和解释医学扫描图像和X光片。此后,放射科医学项目的申请数量大幅下降。 基于人工智能的工具越来越多地成为医疗保健的一部分,美国食品和药品监督管理局(FDA)已经授权使用超过500种这类工具。其中大多数与医学影像有关,用于改进图像质量、测量异常或标记检测结果以供后续跟踪。 调查显示,虽然许多医生知道临床AI工具的存在,但实际上只有很小一部分 (大约在10%到30%之间) 使用过它们,他们的态度从谨慎乐观到彻底不信任不等。荷兰乌得勒支大学医疗中心的医学创新实施专家Charisma Hehakaya说:“一些放射科医生对AI应用的质量和安全性存在疑虑。”即使AI工具能够完成它们的目标任务,仍不清楚这是否会转化为患者更好的医疗护理。但有一种被称为综合医学AI的方法似乎正在兴起。这些模型受到庞大数据集的训练,就像驱动ChatGPT和其他AI聊天机器人的模型一样。在吸收大量医学图像和文本数据后,这些模型可以适用于许多任务。尽管目前获得批准的工具执行特定功能,比如在计算机断层扫描(CT)中检测肺结节,但这些综合模型将更像医生,评估扫描中的每一种异常情况,并将其整合为一种诊断。 尽管现在的AI爱好者趋向避免大胆宣称机器将取代医生,但许多人认为,这些模型可以克服目前医学AI的某些限制,有朝一日可能在某些情况下超越医生。然而,这些新工具能够在实际临床护理中使用之前,还有漫长的道路需要走。 目前存在的限制 医学领域的人工智能工具充当从业者的辅助角色,例如通过快速浏览扫描图像并标记医生可能立即查看的潜在问题,这些工具有时表现很出色。Jordan Perchik记得有一次,在他值夜班的时候,一种AI分诊工具在凌晨3点为一名出现呼吸急促症状的患者标记了一张胸部CT扫描。他将这张扫描图像提上优先级,并同意AI的评估结果,该结果显示患者存在肺栓塞,这是一种可能致命且需要立即治疗的情况。如果没有被标记出来,这张扫描图像可能要等到当天晚些时候才会被评估。 但如果AI犯了错误,它也会产生相反的效果。Jordan Perchik说,最近他发现了一例AI没有标记出来的肺栓塞病例,他决定采取额外的审查步骤,最终证实了他的评估,但这减缓了他的工作进度。如果他决定相信AI并继续前进,那么这种情况可能会被漏诊。”许多已获批准的设备并不一定符合医生的需求,早期的AI医学工具是根据影像数据的可用性来开发的,因此一些应用程序是为常见且容易识别的疾病而建立的。 另一个问题是,这些AI工具倾向专注于特定任务,而不是全面解释医学检查——观察图像中可能相关的一切,考虑以前的结果和患者的临床病史。尽管专注于检测一些疾病具有一定价值,但它并不反映放射科医生真正的认知工作。 解决方案通常是增加更多基于AI的工具,但这也对医疗护理构成挑战,伦敦Google Health的临床研究科学家Alan Karthikesalingam表示。假如一个人接受常规乳腺X光检查,技术员可能会采用一种用于乳腺癌筛查的AI工具的辅助。如果发现异常,同一患者可能需要进行磁共振成像(MRI)扫描以确认诊断,而这可能需要另一个AI设备。如果诊断结果得到确认,那么病变将会通过手术移除,可能需要另一种AI系统来协助进行病理学分析。 许多医院并不了解监测AI性能和安全性所涉及的挑战,英国伯明翰大学研究医疗AI负责创新的临床研究员Xiaoxuan Liu表示。她和她的同事们确定了数千份医学成像研究,比较了深度学习模型的诊断性能与医疗保健专业人员的性能。对于该团队评估的69项诊断准确性研究,一个主要发现是,大多数模型未经真正独立于用于训练模型的信息的数据集进行测试。这意味着这些研究可能高估了模型的性能。 坚实的基础 为了解决医学领域AI工具的一些限制,研究人员一直在探索具备更广泛能力的医学人工智能。他们受到了像ChatGPT这样的革命性大型语言模型的启发。这个术语是由斯坦福大学的科学家们在2021年创造的,它描述了在广泛的数据集上进行训练的模型,这些数据集可以包括图像、文本和其他数据,使用一种称为自监督学习的方法。这些基础模型,也被称为基本模型或预训练模型,构成了后续可以适应执行不同任务的基础。 目前大多数医学AI设备是通过监督学习方法开发的。例如,使用这种方法训练一个模型来识别肺炎,需要专家分析大量的胸部X光片并将它们标记为“肺炎”或“非肺炎”,以教导系统识别与该疾病相关的模式。在基础模型中不需要大量图像的注释。例如,对于ChatGPT,使用大量文本进行训练,以训练一个通过预测句子中的下一个单词来学习的语言模型。同样,伦敦摩尔菲尔德眼科医院的眼科医生Pearse Keane及其同事开发的医学基础模型使用了160万张视网膜照片和扫描图像,以学习如何预测这些图像缺失部分应该是什么样子。在进行了这一预训练后,研究人员引入了几百张标记图像,使其能够学习特定的与视觉相关的疾病,如糖尿病性视网膜病变和青光眼。该系统在检测这些眼部疾病以及通过眼底血管微小变化检测出的心脏病和帕金森病等系统性疾病方面优于以前的模型,但该模型尚未在临床环境中进行测试。 Keane表示,基础模型对眼科学领域特别合适,因为几乎可以对眼部的每个部位进行高分辨率成像。而且有大量的这些图像数据可用于训练这种模型。人工智能将彻底改变医疗保健,而眼科学可以成为其他医学专业的示范。大型科技公司已经在投资使用多种图像类型的医学成像基础模型,包括皮肤照片、视网膜扫描、X光片和病理学切片,并整合电子健康记录和基因组数据。 今年6月,Google Research科学家们发表了一篇论文,介绍了他们称之为REMEDIS(具有自监督的强大和高效医学成像)的方法,与使用监督学习训练的AI工具相比,该方法能够将诊断准确性提高高达11.5%。研究发现,在对未标记图像的大型数据集进行预训练后,只需要少量标记图像就能达到这些结果。这项研究的共同作者之一,Karthikesalingam说:“我们的主要发现是,REMEDIS能够以非常高效的方式,只需很少的示例,学会如何在许多不同的医学图像中对许多不同的事物进行分类,包括胸部X光片、数字病理学扫描和乳腺X光检查。”次月,Google的研究人员在一篇预印本中描述了他们如何将这一方法与该公司的医学大型语言模型Med-PaLM相结合,该模型几乎可以像医生一样回答一些开放性的医学问题。结果表明,Med-PaLM Multimodal不仅可以解释胸部X光图像,还可以以自然语言起草医疗报告。 微软也在努力将语言和视觉整合到一个单一的医学AI工具中。今年6月,公司的科学家们推出了LLaVA-Med(生物医学大型语言和视觉助手),该模型在与从PubMed Central(一个公开可访问的生物医学文章数据库)提取的文本配对的图像上进行训练。微软Health Futures的生物医学AI研究负责人Hoifung Poon表示:“一旦你这样做,你就可以开始与图像进行对话,就像你在与ChatGPT交谈一样。” 这种方法的一个挑战是它需要大量的文本-图像对。 随着这些模型在越来越多的数据上进行训练,一些科学家乐观地认为它们可能能够识别人类无法识别的模式。AI工具可能在某些领域超越人类能力,比如使用数字病理学来预测免疫疗法对肿瘤的反应。 Karthikesalingam还指出,即使Google的医学成像AI取得了最佳结果,它仍然无法与人类相媲美。人类放射科医生的X光报告仍然被认为明显优于最先进的多模式综合医学系统。尽管基础模型似乎特别适合扩大医学AI工具的应用,但要展示它们可以安全用于临床护理还有很长的路要走。 毫无疑问,AI在放射科领域的作用将继续增长,与其说取代放射科医生,不如培训他们如何使用AI。
  • 《如何破解人工智能“落地难”?》

    • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者:冯瑞华
    • 发布时间:2018-05-07
    • 目前人工智能在行业应用落地方面有哪些挑战?人工智能技术公司与传统行业在发展人工智能方面应该如何合作?面对人工智能技术浪潮的冲击,传统企业应该怎样把握这一波机遇?我与微软亚洲研究院副院长张益肇博士就这些问题进行了深入交流,希望张院长在人工智能产业多年的实践经验和洞察能为转型中的中国企业带来一些思路。 目前的人工智能犹如90年代的互联网 历史上任何一次新技术的爆发,都带来了超乎想象的新商业与新经济模式。从最近的一次看,90年代互联网发展初期,我们没有预料到商业社会将如此大规模的被影响和改变。互联网的影响开始于媒体,《纽约时报》、《华尔街日报》等媒体通过网站更新新闻,最终全媒体行业都面临转型压力。后来消费者逐渐通过互联网买书、租录像带。互联网对商业社会的影响有一个过程,人工智能时代也是一样。 一位粗心大意经常忘记按时归还录影带而不得不缴纳大笔罚金的电影爱好者,里德?哈斯廷斯,为了避免高额预期罚金的电影租赁模式而创办了Netflix公司。1999 年,成立不久的Netflix公司推出线上影片订阅服务。当时美国最大的影片出租连锁企业Blockbuster公司并没有预料到这个营业额不到自己千分之一的Netflix公司会成为日后的行业颠覆者,到 2007 年, Netflix注册用户数超过 750 万,年复合增长率高于 50%。2010年曾经的美国影碟租赁巨头Blockbuster申请破产。2011年美国第二大连锁书店Borders申请破产。 互联网发展初期,线下商业巨头没预料到新技术和商业模式的冲击将如此之大,没有将新兴互联网上的新模式看成潜在对手并引起重视,十几年后,这些曾经的巨头已经消失。 张益肇认为,同样的事情也将发生在人工智能时代,哪怕体量再大的公司,如果不能把握和了解新的趋势,将在这一波浪潮中被颠覆掉,反之,像Amazon,Netflix,因为新的技术,有机会去颠覆不同的行业。 人工智能之花将在哪些行业绽放 目前,一些与计算机视觉相关的应用,比如在安防领域,已经产生了比较大的变化。之前的安防行业采用的是事后追查责任的思路,通过查找监控录像,回溯历史记录。比如北京机场据说有超过两万个摄像头,这是不可能靠人力实时监控保障安全的。而目前通过人工智能,可以预防和实时阻止部分危险情况的发生。 未来,人工智能对金融、医疗、教育、制造、零售、运输(自动驾驶)、物流等行业都会产生很大影响。张益肇认为,在人工智能算法依赖大数据训练的阶段,产生的价值大的行业会发展的好——如果一个行业应用人工智能产生的价值够大,会有人愿意出钱标注数据。现在大部分人工智能是要靠大量数据来进行学习的,一个行业发展人工智能相关应用的前提是获得与行业、领域相关的,且标注、整理过的数据。 微软希望通过与金融、医疗、制造等行业少数的几家领头羊企业合作,把问题弄清楚,给出问题的有效解决方案,在此之后,才有可能将解决方案模块化,让更多的合作伙伴利用。目前微软亚洲研究院成立了旨在通过开放创新推动行业应用发展的组织“创新汇”,来加强与各行业的领先企业合作。 每一波技术浪潮都会大幅提高社会生产力。与20年前相比,互联网使社会生产力大幅提高。人工智能同样如此,但人工智能落地需要技术与行业公司深度合作。要实现全社会生产力提升,靠一两家企业做不到,需要很多有远见的领头羊企业共同合作。 以金融领域的人工智能应用为例,在基金管理和辅助股票分析方面,技术公司与金融公司各有所长。一些基金公司也有数据科学家的团队,有些做的是比较传统的数据挖掘,还不是很了解深度学习等人工智能技术。基于数十年经验积累,基金公司更擅长判断一只股票是否值得投资,哪些市场信息具有参考价值。而人工智能技术公司没有这方面的知识积累,但拥有先进的人工智能技术储备。通过业务公司与技术公司的合作,基金经理可以在人工智能的帮助下更好的分析市场。比如,有上市公司称由于今年春节较晚而影响了这一季度的销售额,分析师需要就春节对销售额的影响做一个分析和历史对比,分析这是公司的借口还是真实情况。每个上市公司都会有季报,内容几页到几十页的不等,要做很细的分析,除了看现在的,还要把去年、前年、甚至大前年的数据做对比,这么细的分析单靠人是不可能的,一个分析师要分析几十家公司,不可能每一份季报都看的非常细,这方面可以由人工智能来辅助分析。 人工智能技术企业要进入某一个垂直领域缺乏的是相关领域的数据和知识。假如与医院合作,由于技术企业没有经验丰富的医生,无法判断医学影像的数据是否正确。由于缺乏相关专业知识和经验,在出错的时候也无法判断是由于标注错误还是由于图像不够清晰造成。而技术企业与垂直行业互动的时候,需要让行业理解,人工智能不是超人类智慧,无法做到提供给机器一个数据库就可以得到想要的结果,这是目前双方合作前面对的挑战之一。由于数据需要标注整理,目前阶段的人工智能实现的前提,是以大量人为标注的数据为基础的。比如斯坦福大学建立的目前全球最大的图像识别数据库ImageNet里面数百万张照片也是很多人花费大量的时间标注完成后,才能让机器去学习。 中美人工智能应用的不同发展路径 人工智能在不同国家的发展,与当地的产业发展特点相关,取决于技术与当地产业的结合。以金融业为例,中美有两个主要差异,第一,在技术应用方面,美国金融市场竞争比较激烈,很多银行早就习惯通过技术手段竞争。一个金融公司里10%的员工是IT和技术员工,在中国,这个比例大概是3%-4%。在美国,人工智能在金融方面的应用相对走的更往前,很多对冲基金是通过机器学习、数据挖掘,量化基金通过程序来管理基金。与美国比,中国处于相对早期。另一方面,两国在金融领域的监管法规有一定差异。在美国,没有太多监管限制通过开发程序管理基金,只要敢冒险,自负盈亏,相比之下中国则整体相对谨慎。 在其他应用领域,中美也呈现出各自的特点。对于中美两国,人口红利都在消失,但两国人工智能应用很有可能先在各自比较发达的产业中得到发展。在美国,服务业比较发达,目前人工智能的应用更多的是从服务业角度考虑机器人的应用。比如在医院、疗养院里照顾老人。在中国,制造业转型已经成为趋势,制造业工人的重复性工作对于年轻人不再有吸引力,在深圳,很多制造业企业招不满员工。不光是在中国,越南等一些发展中国家也会逐渐遇到类似的问题,在这种情况下,制造业将更多的依靠人工智能等技术手段,未来中国先把这些技术做成熟以后,也可能将技术应用到其他国家去。 如何判断人工智能领域的技术创新是否能落地? 如何判断目前正在进行的人工智能技术开发是否有落地的可能?比如,是否能够将语音识别技术应用在会议在线翻译的场景?张益肇称微软亚洲研究院在进行技术创新商业化的时候使用BTX(Business商业、Technology技术、Experience用户体验)的判断原则。第一步要判断技术是否成熟,这个场景是不是能够实现?开会的时候自动录音、自动转换成文字,要实现技术在真实场景中的应用会涉及到很多因素,有可能讲话内容中文夹杂英文,有可能发言人离麦克风比较远,声音听不清楚。所以要判断,技术本身是否成熟?如果要做成产品,技术本身能否达到?第二,如果技术达到了,用户体验怎么样?用户会不会用?如果产品本身的技术和用户体验都不是问题,要考虑有没有办法产生一定的收入,使产品维持下去并持续改进?比如会议实时翻译的例子,如果这种服务定价每小时3000美元,很难卖出去。但如果定价是每小时3美元,就很有可能。第一是技术;第二是场景中的体验,是否做出用户能用的东西;第三是可运营的商业模式,有没有可能在用户能接受的成本下启用这个服务。 过去一年多,关于人工智能的诸多报道导致公众的一些误解。人工智能在围棋界能够成为第一名是否意味着人工智能比任何人都聪明?很多人都能学会开车,但让电脑安全的开车要比赢一盘围棋困难得多。围棋是有限的变量,而开车涉及到更多的判断。如果路边有人对你招手,是因为有个警察还是因为发生了事故请你停下来?或者有人想搭便车?还是有人车坏了请你帮忙修?要了解这个场景,需要更多的变量,这个人穿制服吗?有车子抛锚吗?这些变量是千变万化的,电脑还不能理解这个人的表情是什么样的,表情有什么含义?人类所谓的“常识”对电脑来说是非常难的事情。 传统行业尤其是企业的最高领导需要对人工智能有更客观的认识,尽可能去接触和理解人工智能能做什么,哪些还不能做,不应有过高的期待。毕竟有些技术还没到成熟的阶段。目前有很多人工智能在线课程和书,也有很多免费的网上平台鼓励大家去尝试,这个门槛正越来越低。传统企业的转型,第一要了解技术,第二要了解自己的行业,思考通过人工智能解决什么问题对自己的企业最有价值。单纯为了吸引眼球的项目,不如做关键的、能对企业产生效用的项目,转型的成功性就会大很多。 这一波人工智能浪潮类似互联网初期,无论企业规模大小,任何时候拥抱AI都不嫌早。企业最终将由于人工智能的应用而大幅提升生产效率。大型企业内部本身有IT部门,资源也多一些,有条件(人力和相关资源)去研究AI,可以选择是自己做还是去寻求外部帮助,小企业则可能需要找人做。大小企业的思考模式和基本逻辑相同,只是具体的操作方式不同。 关于传统企业是否需要自己的技术团队,应该结合企业的自身情况,目前想做的项目难度有多大,是否需要专家的帮助。张益肇博士见过不少传统企业高管,他们普遍对人工智能很感兴趣,但是对人工智能的理解还有很多需要加强的地方。企业转型AI就好像人的健康问题。每个人都应该对自己的健康有基本常识,看难度判断是自己就能解决还是找专家。企业具备了这个前提,理解了自己的问题,理解了技术如何去应用,进一步分析判断事情的难度和风险有多大。比如,现在有很多关于聊天机器人的探讨,微软有小冰这样的聊天机器人,所以不少企业兴趣很高,也希望用聊天机器人来增强与客户的互动,那需要考虑聊天的内容是什么,如果出错的话成本是什么?如果是医院需要用来和病人互动,并且指导病人如何吃药,这样错误成本太高,就不建议通过内部团队开发。 处于人工智能技术应用起飞的前夜,这样探讨的价值在于,传统企业无论规模大小,都需要思考如何避免成为下一个Blockbuster或者Borders,并且是不是能够抓住技术浪潮提供的机遇,实现业务模式转型。毕竟等到人工智能技术带来的用户达到一定浓度、新业务规模起飞时,再进行这样的投入已然是来不及了。 .