登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《Nature Biomedical Engineering | 利用生成式人工智能和医生的专业知识审核医学影像分类器的推理过程》

  • 来源专题：战略生物资源
  • 编译者： 李康音
  • 发布时间：2024-01-02

  • 2023年12月28日，美国华盛顿大学和美国斯坦福大学医学院的研究人员在Nature Biomedical Engineering杂志发表了一篇题为Auditing the inference processes of medical-image classifiers by leveraging generative AI and the expertise of physicians的论文。

    大多数用于医学人工智能的机器学习模型的推论很难解释。本文报告了一个用于模型审核的通用框架，它将医学专家的见解与可解释人工智能的高度表达形式相结合。具体来说，利用皮肤科医生在临床任务中的专业知识，即根据皮肤镜和临床皮肤图像区分黑色素瘤和黑色素瘤 "相似物"，并利用生成模型渲染 "反事实 "图像的能力，来理解五个医学图像分类器的 "推理 "过程。

    通过改变图像属性，生成能引起分类器不同预测的类似图像，并要求医生识别图像中具有医学意义的特征，反事实图像揭示了分类器既依赖于人类皮肤科医生使用的特征（如病变色素沉着模式），也依赖于不受欢迎的特征（如背景皮肤纹理和色彩平衡）。该框架可应用于任何专业医学领域，使机器学习模型的强大推理过程在医学上易于理解。

  • 原文来源：https://www.nature.com/articles/s41551-023-01160-9
423浏览量
原文链接
相关报告

  • 《Nature | 医学人工智能的未来》
    • 来源专题：战略生物资源
    • 编译者：李康音
    • 发布时间：2023-10-29
    • 本文内容转载自“ChemBioAI”微信公众号。原文链接: https://mp.weixin.qq.com/s/hlwb9sc0rugxZ_ThiOy7gQ 2023年10月24日，《自然》新闻（Nature News）在线发表了一篇题为An AI revolution is brewing in medicine. What will it look like?的特别报道。 Jordan Perchik于2018年开始在亚拉巴马大学伯明翰分校进行放射科住院医生培训，那时正值他所谓的放射科学领域的“AI恐慌”高峰期。在计算机科学家Geoffrey Hinton宣称人们应停止培训成为放射科医生的仅仅两年后，这一时期开始。Hinton被称为人工智能之父，他预测这些系统很快将能够比人类更好地阅读和解释医学扫描图像和X光片。此后，放射科医学项目的申请数量大幅下降。 基于人工智能的工具越来越多地成为医疗保健的一部分，美国食品和药品监督管理局（FDA）已经授权使用超过500种这类工具。其中大多数与医学影像有关，用于改进图像质量、测量异常或标记检测结果以供后续跟踪。 调查显示，虽然许多医生知道临床AI工具的存在，但实际上只有很小一部分 (大约在10%到30%之间) 使用过它们，他们的态度从谨慎乐观到彻底不信任不等。荷兰乌得勒支大学医疗中心的医学创新实施专家Charisma Hehakaya说：“一些放射科医生对AI应用的质量和安全性存在疑虑。”即使AI工具能够完成它们的目标任务，仍不清楚这是否会转化为患者更好的医疗护理。但有一种被称为综合医学AI的方法似乎正在兴起。这些模型受到庞大数据集的训练，就像驱动ChatGPT和其他AI聊天机器人的模型一样。在吸收大量医学图像和文本数据后，这些模型可以适用于许多任务。尽管目前获得批准的工具执行特定功能，比如在计算机断层扫描（CT）中检测肺结节，但这些综合模型将更像医生，评估扫描中的每一种异常情况，并将其整合为一种诊断。 尽管现在的AI爱好者趋向避免大胆宣称机器将取代医生，但许多人认为，这些模型可以克服目前医学AI的某些限制，有朝一日可能在某些情况下超越医生。然而，这些新工具能够在实际临床护理中使用之前，还有漫长的道路需要走。 目前存在的限制 医学领域的人工智能工具充当从业者的辅助角色，例如通过快速浏览扫描图像并标记医生可能立即查看的潜在问题，这些工具有时表现很出色。Jordan Perchik记得有一次，在他值夜班的时候，一种AI分诊工具在凌晨3点为一名出现呼吸急促症状的患者标记了一张胸部CT扫描。他将这张扫描图像提上优先级，并同意AI的评估结果，该结果显示患者存在肺栓塞，这是一种可能致命且需要立即治疗的情况。如果没有被标记出来，这张扫描图像可能要等到当天晚些时候才会被评估。 但如果AI犯了错误，它也会产生相反的效果。Jordan Perchik说，最近他发现了一例AI没有标记出来的肺栓塞病例，他决定采取额外的审查步骤，最终证实了他的评估，但这减缓了他的工作进度。如果他决定相信AI并继续前进，那么这种情况可能会被漏诊。”许多已获批准的设备并不一定符合医生的需求，早期的AI医学工具是根据影像数据的可用性来开发的，因此一些应用程序是为常见且容易识别的疾病而建立的。 另一个问题是，这些AI工具倾向专注于特定任务，而不是全面解释医学检查——观察图像中可能相关的一切，考虑以前的结果和患者的临床病史。尽管专注于检测一些疾病具有一定价值，但它并不反映放射科医生真正的认知工作。 解决方案通常是增加更多基于AI的工具，但这也对医疗护理构成挑战，伦敦Google Health的临床研究科学家Alan Karthikesalingam表示。假如一个人接受常规乳腺X光检查，技术员可能会采用一种用于乳腺癌筛查的AI工具的辅助。如果发现异常，同一患者可能需要进行磁共振成像（MRI）扫描以确认诊断，而这可能需要另一个AI设备。如果诊断结果得到确认，那么病变将会通过手术移除，可能需要另一种AI系统来协助进行病理学分析。 许多医院并不了解监测AI性能和安全性所涉及的挑战，英国伯明翰大学研究医疗AI负责创新的临床研究员Xiaoxuan Liu表示。她和她的同事们确定了数千份医学成像研究，比较了深度学习模型的诊断性能与医疗保健专业人员的性能。对于该团队评估的69项诊断准确性研究，一个主要发现是，大多数模型未经真正独立于用于训练模型的信息的数据集进行测试。这意味着这些研究可能高估了模型的性能。 坚实的基础 为了解决医学领域AI工具的一些限制，研究人员一直在探索具备更广泛能力的医学人工智能。他们受到了像ChatGPT这样的革命性大型语言模型的启发。这个术语是由斯坦福大学的科学家们在2021年创造的，它描述了在广泛的数据集上进行训练的模型，这些数据集可以包括图像、文本和其他数据，使用一种称为自监督学习的方法。这些基础模型，也被称为基本模型或预训练模型，构成了后续可以适应执行不同任务的基础。 目前大多数医学AI设备是通过监督学习方法开发的。例如，使用这种方法训练一个模型来识别肺炎，需要专家分析大量的胸部X光片并将它们标记为“肺炎”或“非肺炎”，以教导系统识别与该疾病相关的模式。在基础模型中不需要大量图像的注释。例如，对于ChatGPT，使用大量文本进行训练，以训练一个通过预测句子中的下一个单词来学习的语言模型。同样，伦敦摩尔菲尔德眼科医院的眼科医生Pearse Keane及其同事开发的医学基础模型使用了160万张视网膜照片和扫描图像，以学习如何预测这些图像缺失部分应该是什么样子。在进行了这一预训练后，研究人员引入了几百张标记图像，使其能够学习特定的与视觉相关的疾病，如糖尿病性视网膜病变和青光眼。该系统在检测这些眼部疾病以及通过眼底血管微小变化检测出的心脏病和帕金森病等系统性疾病方面优于以前的模型，但该模型尚未在临床环境中进行测试。 Keane表示，基础模型对眼科学领域特别合适，因为几乎可以对眼部的每个部位进行高分辨率成像。而且有大量的这些图像数据可用于训练这种模型。人工智能将彻底改变医疗保健，而眼科学可以成为其他医学专业的示范。大型科技公司已经在投资使用多种图像类型的医学成像基础模型，包括皮肤照片、视网膜扫描、X光片和病理学切片，并整合电子健康记录和基因组数据。 今年6月，Google Research科学家们发表了一篇论文，介绍了他们称之为REMEDIS（具有自监督的强大和高效医学成像）的方法，与使用监督学习训练的AI工具相比，该方法能够将诊断准确性提高高达11.5%。研究发现，在对未标记图像的大型数据集进行预训练后，只需要少量标记图像就能达到这些结果。这项研究的共同作者之一，Karthikesalingam说：“我们的主要发现是，REMEDIS能够以非常高效的方式，只需很少的示例，学会如何在许多不同的医学图像中对许多不同的事物进行分类，包括胸部X光片、数字病理学扫描和乳腺X光检查。”次月，Google的研究人员在一篇预印本中描述了他们如何将这一方法与该公司的医学大型语言模型Med-PaLM相结合，该模型几乎可以像医生一样回答一些开放性的医学问题。结果表明，Med-PaLM Multimodal不仅可以解释胸部X光图像，还可以以自然语言起草医疗报告。 微软也在努力将语言和视觉整合到一个单一的医学AI工具中。今年6月，公司的科学家们推出了LLaVA-Med（生物医学大型语言和视觉助手），该模型在与从PubMed Central（一个公开可访问的生物医学文章数据库）提取的文本配对的图像上进行训练。微软Health Futures的生物医学AI研究负责人Hoifung Poon表示：“一旦你这样做，你就可以开始与图像进行对话，就像你在与ChatGPT交谈一样。” 这种方法的一个挑战是它需要大量的文本-图像对。 随着这些模型在越来越多的数据上进行训练，一些科学家乐观地认为它们可能能够识别人类无法识别的模式。AI工具可能在某些领域超越人类能力，比如使用数字病理学来预测免疫疗法对肿瘤的反应。 Karthikesalingam还指出，即使Google的医学成像AI取得了最佳结果，它仍然无法与人类相媲美。人类放射科医生的X光报告仍然被认为明显优于最先进的多模式综合医学系统。尽管基础模型似乎特别适合扩大医学AI工具的应用，但要展示它们可以安全用于临床护理还有很长的路要走。 毫无疑问，AI在放射科领域的作用将继续增长，与其说取代放射科医生，不如培训他们如何使用AI。
    470浏览量
    原文链接

  • 《ChatGPT/生成式人工智能重塑教育的底层逻辑和可能路径 张治》
    • 来源专题：数智化图书情报
    • 编译者：闫亚飞
    • 发布时间：2023-09-25
    • 一、引言 ChatGPT的横空问世冲击了人类的思维方式，冲击了人类的生活方式，也将深刻重塑许多行业。ChatGPT 被视作人工智能发展史上迄今为止最为先进的自然语言处理工具，较之于早期的聊天机器人，它能够更自然、更准确、更连贯地执行对话任务（Claybourn, 2023）。特别是最近推出的最新版本GPT-4，比ChatGPT更为智能，和它对话几乎就像和一个人对话。ChatGPT是通用大模型，也被称为基础模型、大模型（Sevilla，Heim，Ho, et al., 2022），在自然语言处理任务中成型，已扩展至图像、语音等多种模态，未来将出现统一处理各种模态的通用大模型（Tamkin，Brundage，Clark，et al., 2021）。ChatGPT建立于多次迭代升级的生成式预训练语言模型，拥有1750亿个模型参数，接受了 570GB的文本训练，同时使用有监督和无监督的人工智能学习技术（OpenAI，2022）。作为一款生成式人工智能软件，它能够处理图像和文本输入并产生文本输出，具有广泛应用的潜力，如自然语言对话、文本摘要、机器翻译、图像生成等，可以根据议题完成包括回答问题、写作业、撰写论文、写演讲稿、写作诗歌在内的多种工作。ChatGPT的确在各种专业和学术基准上具有可与人类媲美的表现，为了测试它的智慧能力，人们在最初为人类设计的各种考试中对其进行了评估。开发者让ChatGPT-4参加律师考试，它的分数可以超越90%的律师同行，它在美国SAT、GRE测试中均比普通人有更好的成绩。ChatGPT甚至通过了92.5%的心智理论测试任务，达到了9岁儿童的心智能力（Kosinski，2023）。开发这种模型的主要目标之一是提高它们理解和生成自然语言文本的能力，特别是在更复杂和微妙的场景中。 现在，几乎没有人怀疑ChatGPT这类大语言模型构建的通用人工智能将改变世界了。而对教育界的改变，有可能是AI对人类社会未来最为根本的改变之一。ChatGPT究竟会对教育产生什么影响？笔者尝试让ChatGPT自己回答，并让不同的朋友问ChatGPT同样的问题，结果发现答案并不相同，不同的用户会得到不同的文字呈现，但观点较为接近。“如何看待ChatGPT对教育的影响？”ChatGPT的回答是：“作为一个大型语言模型，ChatGPT可以对教育产生积极影响。提供在线学习资源：ChatGPT可以提供在线学习资源，并与学生进行对话。这种交互方式可以帮助学生在学习过程中获得更好的支持和指导。支持学生自主学习：ChatGPT可以根据学生的兴趣和需求，提供学习材料和建议，帮助学生更好地自主学习。这可以提高学生的学习动力和学习效果。改善教学方式：ChatGPT可以为教师提供工具和资源，帮助他们改善教学方式。例如，ChatGPT可以提供自动评分、语音识别等功能，帮助教师更好地评估学生的学习成果和口语表达能力。”但是，它也暴露出一些问题，比如可能会给抄袭、作弊提供便利。ChatGPT能够以一篇文章作为模版进行再创造，生成与原稿截然不同的文章。这让我们充分相信，生成式语言模型ChatGPT能对语言进行创造性表达，而不仅仅是搜索。目前，很多人在讨论ChatGPT对教育的影响，有的比较悲观，有的比较乐观。有研究提出ChatGPT可能生成有害指令，并提出由于ChatGPT的快速迭代，这些错误可能会被放大（Williamson，Macgilchrist & Potter，2023）。在教育领域，有研究者总结了ChatGPT可能带来的四个主要挑战：一是作弊和抄袭（Cheating and plagiarism）；二是学生对其过度依赖，会错失具有挑战性的、要求高参与度的学习机会（Missed learning opportunities）；三是可能会向学生传递有偏见的或有害的信息（Bias and toxic content）（训练 ChatGPT 的网络数据的开放性与个性化可能会带来偏见和刻板印象）；四是可能传递不精确甚至错误的信息，比如所提供的信息可能包括虚假的数据、事实与引用等（Wan，2023）。全国政协委员、上海科技馆馆长倪闽景曾说过，“ChatGPT把教育逼到了墙角！”对于目前ChatGPT带来的副作用，倪闽景表示：“教育会有一段时间的不适应，比如学生会用这个找答案，甚至直接用这个写论文。我们教育有一些惯性，新的东西出来会比较手忙脚乱，甚至有些学校会屏蔽，这都可以理解，但我认为新的技术出来以后，需要的是更高层次的学习内容和新的思维能力的构建。”（新民晚报, 2023） 也有一些很乐观的观点，认为ChatGPT将极大赋能教育。美国可汗学院声称，已经和Open AI合作，推出基于GPT-4的Khanmigo，这是一个人工智能辅助学习的工具。按照可汗学院的设想，Khanmigo会成为人工智能助教，帮助老师制定课程计划、批改作业，并且通过对话的方式为孩子提供一对一的辅导。这个项目最终会覆盖全美500个学区，为他们的客户提供更加智慧、更低成本的高效教育服务。美国奥数队总教练罗博深认为：“AI的思维已经能做到很多人类不能做的事，这对学习和教育都是很大的挑战，刷题式学习将成为历史，今后，思维上的创新能力将成为关键。”（知识分子, 2023）笔者认为，ChatGPT问世后必然会带来变化，教育人不能抱着鸵鸟心态，装作什么都没有发生或是禁止它，而是需要改变规则，建立一个比较健康的架构。这样的AI会对教育产生怎样的影响？ChatGPT是一个工具，当每个人都拥有ChatGPT时，教育会变得更好还是更糟，每个人的人生会有何不同？笔者认为，ChatGPT的出现对教育而言是机遇和挑战并存，推动传统教育加速向智能化转变。 二、ChatGPT对教育的冲击 ChatGPT对教育的革命性改变将在以下场景中体现。 （一）传统的教育工具箱将不再好用 人工智能 （AI） 已经彻底改变了我们生活的许多方面，教育也不例外。基于ChatGPT在编写与调试代码、改善课堂评估、辅助教学设计和调节互动交流等方面的潜在优势，教育人对其充满期待（Euchner，2023）。AI对教育的重塑必然会发生，在ChatGPT之前，已经有很多AI产品在教育中发挥作用。比如，帮助学生进行论文润色的Grammarly，可提供语法纠错或表达优化等；上海市宝山区基于生物知识图谱构建的自适应学习系统，可促进学生学科知识掌握效率和能力提升、预判学生学业成就等；还有支撑学生大规模开展研究性学习的智能系统moors。但这些产品从没有像ChatGPT那样引起教育工作者的恐慌。ChatGPT等人工智能语言模型的开发开辟了新的学习机会，并有可能革命性重塑人们接受教育的方式。目前，有的教师担心学生用它作弊，逃避本该深度思考的作业、失去能力训练的机会、引起学生价值观偏差等，这可以从一个方面映射传统教育工具箱的单调。如果我们对教育的测量工具进行反思，会发现这些工具在人工智能面前变得漏洞百出，可以通过AI迅速瓦解。我们所使用的教育工具正在慢慢失效或者不再好用，包括写论文、做习题等评价和训练工具。当传统教育工具箱不再好用时，便需要发展新的工具，形成新的教育教学模式，探索新的评价和激励学生学习的方法，这将促进教育的结构性重塑。传统的教育工具主要是不断评测学习者知识的建构和能力的提升，通过讲授、讨论、阅读、实验等方式让学习者掌握知识，通过布置作业、写论文、考试等工具测评。现在这些测评手段受到挑战，我们要提供更有效的训练系统、养成系统和测评系统工具。例如，突出创新能力的作业，体现实践智慧和动手能力的考察，创设场景体现复杂问题解决的过程，面对面的演讲和讨论，需要人的体力、智力、意志品质参与其中且通过人机协同才能完成的项目研究等。这些都是ChatGPT所不擅长的，这样的教学工具、管理工具需要被加快开发和创造出来。 （二）重新思考教什么才是最重要的 ChatGPT的出现使得学生学习和教师教学更加个性化、灵活化，它在为广大师生带来便利的同时也催生出新的教育教学形态（吴砥，李环，尉小荣，2022）。人们可能不再崇拜知识，觉得它太容易得到，解决方案也不难找，于是怀疑知识还是不是力量。当知识或解决方案唾手可得时，为什么还要花费时间去记忆呢？ChatGPT的便捷性可能会使人们轻视知识。对于这个问题，不同学者的观点有时截然不同。有的学者认为应该大幅度减少知识的获取，特别是通过记忆获取知识；有的学者则认为大脑对知识的获取是发展更高级智慧的基础，是促进神经元之间突触广泛连接的过程，只有足够多的突触才能催生更强大的人脑智慧。知识的记忆虽然艰苦而枯燥，但是一旦形成，可以大幅度提升大脑反应的速度，而不是什么都依赖检索临时建构，从而提升脑的智慧；同时，智慧本身就是建立在广泛的知识基础上。这就像王阳明所讨论的到底是“钱”重要，还是串钱的“绳子”更重要的问题。如果把具体的知识比作一个个钱币，把方法论等程序性知识或者解决问题的智慧比作串钱的绳子，没有钱币作为基础，要串钱的绳子又有何用？ （三）教育的资源形态将重新组织 教育的资源通常以教科书上的文字呈现，这是人类文明的结晶，是智慧代际传递的载体。这些冰冷而美丽的文字、图片、艺术作品，如何才能激发学生火热的思考，从而促进智慧生长，通常需要教师作为媒介。ChatGPT的出现，让我们看到未来基于知识图谱的资源形态的重要价值。它将根据学习者的起点、认知、际遇等的不同，使知识呈现更加个体化，从而让一个人能够在最近发展区得到教育智能服务。教学资源的数字化改造经过多次技术迭代，从早期的纸媒转数字化，到在数字化教材基础上挂载各种教学资源，逐渐走向富媒体化和平台化；下一代的教材数字化将朝着开放化、个性化、社群化和智能化的方向演进，需要在遵循教材权威性相关法律文件的基础上，融入学习者画像、教学策略模型和知识图谱等底层技术，逐渐承担针对不同学科领域和针对不同学生的自适应学习智能服务角色，从而将教材的解读弱中介化。未来智能型数字教材的架构如图1所示。 知识图谱是对教学资源智能化改造的基础，随着大量的知识工程设施建设，自适应学习将覆盖所有的知识领域，让每个人的书都是个性化的呈现，从而极大提升教学效率。这种知识呈现会与AI相得益彰，最终加快教育智能化改造，提升教育效率，促进个性化学习，让大规模的因材施教成为可能。 （四）教育评价会遇到巨大挑战 受制于评价技术，传统的评价往往是能评什么就评什么，而不是需要评什么就评什么。我们的教育反对八股化的训练体系，却又不自觉发展新的八股化思维，而ChatGPT让我们理解，凡是有规律可循的，不管是体力劳动还是脑力劳动，都可以被AI替代，那我们该如何应对这样的工具？需要经过多年训练才能具备的论文写作、摘要提炼、文章逻辑、语法拼写等能力，突然因为ChatGPT而快速拥有时，我们又该发展什么样的能力？思维方式的多元性将决定人类智慧的多样性，我们要培养和创造更多样的思维，而不是试图让学生掌握更多的知识。当知识能被便捷调取并能基于知识形成解决方案时，必须发展新的评价工具、评价方式，也必须发展新的评价理论和哲学。评价是什么？评价能帮助教育做什么？教育该评价什么？那些通过ChatGPT可以轻松找到完美答案的考试将逐渐被人们抛弃。价值观、思维方式、同理心、创造力、合作精神，包含这些的评价才能引导教育走出当下教育的“马粪效应”。“马粪效应”就是现在教育面临的困扰，包括ChatGPT对于教育的挑战，当一个新的智慧产生时，当一个新的工具平台产生的时候，或许就可以帮助教育人走出“马粪效应”。未来尤其需要发展新的评价技术，评测学生的创造力、批判性思维、团队合作、复杂问题解决能力、价值观等，这些人类智慧既以知识为载体，又超越知识和简单的八股化的能力结构。当普通的逻辑推理、分析、综合能力突然因为ChatGPT而能够被人们快速拥有的时候，教育评价的改变是我们必须要思考的。 （五）学习者模型将和教学策略模型协同进化 ChatGPT将会帮我们重组知识，答案空间具有了创造智慧。人是如何学习的，认知的智慧将如何发展，知识将如何形成，观念如何建构，我们需要重新认识学习者模型，并发展新的教学策略模型。什么样的资源形态和学习过程容易帮助学生建构概念？什么样的训练系统能帮助学生巩固知识？在知识建构的过程中如何促进思维能力的发育？什么样的载体更有利于智慧提升？哪些活动可以提升创造力？这些教学策略既有传统教育智慧的积淀，又有大规模机器学习可能寻找到的新经验。未来的教学智慧将是专家系统和机器学习的结合，ChatGPT将加速学习的进化，催生新的学习方式和教学服务。基于知识图谱、学习者画像和教学策略模型而开发的智慧型教学系统将成为教学新利器，基于人工智能的智慧型教学系统的工作原理如图2所示。 （六）促进智慧代际协同和群智发展，推进教育大脑的构建 尽管有表观遗传学研究认为上一代的记忆会通过DNA记下来传给后人（艾培炎，2020），但绝大多数个体智慧都是后天学习的，个体的大脑都是后天独立进化的，也就是说，记忆、知识、技能、智慧都不能在代际直接继承。我们能不能通过大脑的进化把知识和智慧在下一代复制出来？现在看来，这是做不到的。教育就是当代人花费大量的精力培养下一代人的智慧，如果这个过程消失，文明就会断档。ChatGPT是人类通用智慧的表达，它通过大量的数据训练，汇集全人类的智慧，在代际传承和进化，会逐渐接近甚至超越绝大多数普通人的智慧水平。这种智慧的代际接力传承是教育所不能的。如果像使用其他各种学习或生活工具一样对ChatGPT直接来用，那个体智慧的扩增效率将极大地提升。教育的智慧也是如此，如果我们把孔子的教育智慧不间断地进化到现在，他的教龄将有几千年，那将是何等的水平。ChatGPT正在引起教育信仰危机。在传统情境下，人们对于教育一直有一种非常神圣的信仰。教育是人类区别于其他一切生物的根本标志。但是，如果ChatGPT能够促进人的智慧的代际传递，那么人们对于教育将不再崇拜，下一代人不需要经过枯燥的训练和艰苦的学习就能够得到知识和能力。当下一代人能够便捷地得到能力、方法、智慧的时候，自然就会产生恐慌。ChatGPT将在教育领域形成接续进化的可能，从而催生教育大脑的进化。 三、ChatGPT重塑教育的底层逻辑 ChatGPT重塑教育的底层逻辑包括三个方面。 （一）底层逻辑一：脑科学的逻辑 我们现在所讨论的一切问题都基于人脑，如果没有人脑作为基础，我们所讨论的智慧教育都是空谈。人脑是智慧的物质和生理基础，神经细胞的关联即突触是智慧形成的生理基础，其数量也代表了智慧的层次。目前成年人类的大脑有200亿个神经细胞，这意味着它可以产生非常庞大的突触数量。不过，大脑的很多部分还没有得到充分开发，即使像爱因斯坦这样的天才也是如此。这是因为大脑有一种能效模式，即只会对重要的做出反应，不重要的就不会去做，这是一种节能模式，也就是说大脑会自动判断知识的重要性。瑞典首席心理健康专家Anders Hansen在新书《手机大脑》里介绍：研究者让一组实验对象拍下美术馆的展品照片，另一组实验对象用眼睛看；第二天，研究者向两组人展示展品照片，让他们找出昨天在美术馆看过的作品。结果显示，没有拍照、用眼睛看的实验对象对展示照片印象更深、记得更牢。这个实验说明：如果大脑认为“反正手机都有照片”“反正网上都查得到资料”“反正老师会把PPT发到云端”……大脑就会开始节能，不那么专注于记忆、学习。这被称为“Google效应”（图4）：既然Google上都找得到，那还有必要去记住吗？答案当然是否定的。就像以前没有智能手机，我们会记住很多电话号码，现在可以通过手机通讯录便捷查找联系人，有机器来帮我们记住无数个电话号码，大脑自然就不再去记忆号码。走捷径的大脑贪恋多巴胺，ChatGPT将会强化Google效应，如图4所示。多巴胺效应是指脑内化学物质多巴胺的作用使人们感觉到愉悦、奖励或满足的状态。当人们做出某个行为后，大脑会释放多巴胺，提高人们对该行为的满足感，使之倾向于重复这个行为。多巴胺会刺激人们的大脑，偷懒可以释放很多的多巴胺，所以大脑的生理本质意味着人们对ChatGPT是没有抵抗力的。 领域知识是智慧的知识基础，撇开知识谈智慧是空谈，知识是一定被需要的。另外，思维方式是智慧的算法基础。如果把大脑的神经细胞连接和推理看成是计算机的一种算法，就既要有算力、算法，又要有基础数据，所以思维方式也是不可或缺的。ChatGPT将知识从表征、编码推进到计算、创生时代。人脑是一个高度“节能”的器官，当一个新工具可以让大脑偷懒时，大脑一定会设法走捷径，与知识记忆和简单逻辑推理关联的突触连接将大量减少，最终会导致人脑的选择性退化。ChatGPT使人们认为知识不再重要，思维也可以替代，传统教育工具将会失效，能力模型开始迷茫，甚至会使人类对教育的信仰产生危机，这将会使教育和人类面临巨大危机。 换言之，知识建构的过程会生成大量的突触连接，而随手可得的答案将迎合大脑走捷径的特征。大脑在进化的过程中为了减少热量消耗，以最高效率处理问题，会本能地思考怎么“节能”。这些走捷径的刺激产生的多巴胺将最终影响大脑的发育，导致知识空转。因此，我们要避免Google效应。 ChatGPT的智能是通过类脑神经网络和大量的语料训练催生其智慧，由足够大的数据训练导致的智慧“涌现”。就好比我们人类给猩猩讲“香蕉”“苹果”“枣子”等，然后让它认识香蕉树、苹果树等，从认识单词到这些单词和其他感觉的关联，需要从记忆到品尝的连接，从知识关联到概念建构，到联想应用。经过一段时间的学习，问猩猩想要什么。它说我想要一片果园，那里水果丰富，环境优美，没人打扰。这就可以理解为智慧的“涌现”。数据、语料大规模训练后，出现智慧层级的跃迁，这就是智慧的本质，也是ChatGPT带给人类的最大惊喜。这些对智慧本身和智慧生长方式的理解，让我们重新认识智慧。人脑的智慧同样离不开知识和语料，但是大量的以传递知识为核心的教育确实应该转变了。知识的量的扩张似乎不再重要，人脑建构类似猩猩的关于果园的联想智慧和系统观念需要的语料更少，而神经元连接的核心节点更为重要，但是促进神经元连接的元认知又在哪里？最重要的基础知识、基本技能需要我们重新认知，最重要的思维方式也需要我们去反思。AI也让教育长期发展所形成的能力模型迷茫，就促进智慧提升而言，“跑跳投爬”重要、“听说读写”重要还是“吹拉弹唱”重要？布鲁姆的能力结构模型会不会发生结构改变？我们不知道未来需要培养怎样的人才，以及需要具备哪些核心能力，也不知道他们将如何面对不可预知的未来。我们过去认为的听、说、读、写、推理、运算、想象等能力是否还将有用？这些能力的重要性会不会不如之前？以上问题都在推动我们逐渐从有目标的教育结果转向有意义的学习过程，从而推动教育哲学的转变。这是教育范式重构、流程再造的逻辑起点之一。 （二）底层逻辑二：知识观的演变逻辑 知识观的演变需要从知识的记录、传播、表达、创新等视角分析。 第一，知识的记录。什么是知识？知识是客观现实在人类头脑中的映射，这种映射通过语言、文字、图像等大脑的加工，形成知识或概念体系。人类将对于自然界的认知记录下来，如甲骨文、青铜器、造纸术及印刷术等，这些解决了知识的记录问题。知识的记录实质上是将人类火热的思考和伟大的创造变成凝固的美丽。 第二，知识的传播。知识的传播是教育的发端，从远古的口口相传，到最初的原始的学校，再到农耕时代以孔子为代表的第一代学校，然后是工业革命时代以夸美纽斯的班级授课制为代表的第二代学校，现在是信息时代基于互联网和人工智能的第三代学校，学校的样态不断迭代进化，学校进化的本质是生产力发展对教育的新需要。从知识观的角度来看，所有人类的教育社会活动就是促进知识的传播和个体层次的智慧提升。 第三，知识的表达。技术促进知识的表达，文字、图片、视频等不是知识本身，而是知识的表达，算法、ChatGPT、元宇宙等也是知识的表达。当知识表达的逻辑发生改变的时候，我们对于知识的观念就会扭转，ChatGPT让我们知道知识在计算机内部是可以被计算并生成表达的，知识可以通过AI不断大规模生产出来，并通过各种技术得以表达。从知识的数字化到知识的计算化，从检索时代到转化器时代，ChatGPT将这个过程变成了现实，ChatGPT体现了硅基生命和硅基智慧的诞生。当知识可以被计算，我们的知识观也发生了改变。这个计算不是通过人脑来计算，而是通过计算机来计算。因此，我们需要重新思考教什么才是最重要的。 第四，知识的教育和创新。随着ChatGPT的出现，知识或解决方案将变得唾手可得，人们可能会轻视知识。有人认为我们应该大幅度减少知识的获取，特别是通过记忆获取知识；也有人认为大脑对知识的获取是发展更高级智慧的基础，是促进神经元之间突触广泛连接的过程，只有足够多的突触才能催生更强大的智慧。知识的记忆虽然艰苦而枯燥，但是一旦形成，可以大幅度提升大脑机械反应的速度，而不是什么都依赖检索临时建构，从而提升脑的智慧。所以，基本知识、基本技能需要我们重新认知，最重要的思维方式也需要我们去反思，包括逻辑、推理、想象。可能未来想象会比推理更重要，因为推理可以由机器完成。 从这个视角来看，大量以传递知识为核心的教育确实应该转变。过去我们之所以认为基础教育是枯燥的，是因为把训练当成了目标，而不是把提升肌肉的力量、提升思维的品质、提升我们的智慧作为目标，所以孩子们才会讨厌学习。知识量的扩张不再重要，但是促进神经元连接的元认知、根知识又在哪里？ 我们从知识计算走向了计算教育学。传统教育是训练系统，同时也是一个观念建构过程，知识获取过程就像锻炼肌肉的沙袋，就像观念建构的支架，沙袋和支架都不是目的，但沙袋和支架都必不可少。智慧不会凭空生成，也不会脱离领域知识而存在，脱离领域知识谈空泛的智慧没有意义。捶多少沙袋最合适，什么样的支架最合适，不同的人所需要的沙袋训练或支架结构是否不同，是计算教育学模型所关涉的问题。我们过去把沙袋或支架当成教育的目的，把操练当成教育的全部，这样的教育必须转变。计算的背后是教育学的学习策略模型和教学策略模型，再加上知识图谱，最终构成了下一代智慧教育的内核，也就是现在被广泛提到的教育智能体。教育智能体意味着人类社会需要精准的计算，同时还需要个性的计算。所以，尽管ChatGPT现在是通用人工智能，但随着教育领域大模型的研究，特别是基于专家系统技术和大数据训练形成的AI能力，一定会在某个时代发展出ChatGPT in Education，这样的时代将会到来。 从实验教育学发展到融合教育学，再到计算教育学，整个过程历时100年。而脑科学和计算教育学的结合才是最有想象力的，要加快教育大脑的构建。目前的ChatGPT是通用智能，而我们对于教育的价值追寻与通用智能是不一致的。比如，我们希望把知识当成训练学生思维方式的工具，而ChatGPT更多的是一种知识表达，所提供的是答案空间。在这种情况下，基于ChatGPT来构建教育大脑将会非常迫切，未来专门领域的人工智能会有一个非常广阔的发展空间。 （三）底层逻辑三：对教育的元认知 关于教育的元认知，不同的学者从不同的角度进行过阐述，各有侧重。至今，我们仍然能在很多场合听到有关教育要回归初心的呼吁。概括来说，教育的本质可以从三个视角进行归纳。一是对受教育者个人而言，教育是人生存和发展的基础。一方面，个体通过教育提高生存能力，从而能够生活得有尊严和幸福；另一方面，个体通过教育提高思想品德和才能，从而能够为社会、为他人作出有价值的贡献。二是对一个国家而言，教育的本质是提高国民素质，为国家建设提供人力资源保障，增强国家竞争力。党的十八大把立德树人作为教育的根本任务，就是对教育本质的新认识。三是对人类而言，教育是传承人类文明的重要载体，承担着传递与发展人类文化和价值观念的重要职能。因此，教育的本质是培养人，已经成为基本共识。 长期以来，教育被认为是科技改变的最后一个行业。而作为有史以来用户增长最快的互联网服务ChatGPT，再次颠覆了人类对AI的认知，教师、学生不再是新技术的旁观者，而是热议者甚至是应用者。ChatGPT对人类社会的改变，让教育不得不反思现在做什么才能更好地为培养人做好“有远见”的铺垫。 一要反思学什么。学生通过十几年求学才能掌握的知识和技能，ChatGPT已经具备了，那么这些知识和技能还需要学吗？如果不学这些，要学什么才能把一个受教育者培养成能够适应智能时代的未来人？ 二要反思怎么学。ChatGPT无疑是打破知识垄断的利器，不仅能够帮助人类处理工作，还可以为人类答疑解惑。如果随着ChatGPT的不断进化，它能扮演虚拟教师角色，不仅可以提供一对一教学服务，而且不知疲倦、不受时空限制，能够真正实现时时能学、随处可学，那么当今广泛存在的知识讲授型教学还有延续的必要吗？ 三要反思怎么评。评价是教育发展的指挥棒，是撬动教育教学变革的支点。ChatGPT会取代一些工作岗位，比如低级别的程序员、通用文稿写手、通用文案策划等，人工智能与人类将重新分工。如果教育评价不变，继续引导学生“刷题”，那么教育培养出来的人能否具备未来的生存能力？又能否在未来的生活中获得尊严和幸福？ 从这个意义上来说，教育又回到了初心、原点，需要重新思考培养什么样的人以及怎样培养人。教育不仅要传授知识，而且要培养具备创造力、自学能力、想象力、坚毅品质等素养的人，以适应未来社会。ChatGPT仅仅是智能技术颠覆人类社会的冰山一角，随着智能技术不断加速发展，教育必然被重塑。ChatGPT引发的思想和哲学冲击，不仅仅是教育转型的方法选择、技术路径和应用场景，更重要的是对智慧工具、知识观和教育价值论等底层逻辑的动摇。它动摇了文艺复兴以来形成的通过教育促进智慧觉醒的兴趣和信念，也更新了教育的目的、对象和方式，既赋予了教育结构性重塑的机遇和方向，也为未来教育新图景提供了无限的想象力。我们可以从人脑的生理基础上找到教育和学习的物质基础和生理基础，也可以从知识观上洞悉未来的学习样态和路径选择，还可以从元认知上理解教育的真谛和变革的逻辑。这一切都是ChatGPT带给我们的思考起点。它让人真切意识到人类在逻辑推理、信息处理和智能行为领域的主导地位可能已不复存在，并将人类置于前所未有的智慧起点之上。人类在智慧层次上的不足被弥补、优势被强化、起点被拔高，开启了人机协同的良性循环，借助硅基智慧突破人类的智慧天花板，实现智慧的迭代进化。这些都是教育才具备的神圣使命，我们在这些转变到来之时无所适从。 四、ChatGPT重塑教育的可能路径 人工智能对人类社会的颠覆，“大水已经没过了膝盖”（如图5所示）。麦肯锡全球研究院（McKinsey Global Institute）曾预测，随着科技的进步，到2030年，保守估计全球15％的人（约4亿人）会因人工智能工作发生变动。既然如此，我们与其抗争，不如顺应。但在科学研究、艺术创作、人工智能设计等高创造性领域，高阶智能更有创造力，更有想象力，具有很大的空间，大有可为。教育作为一个独特的领域，ChatGPT对它的重塑将有如下可能路径。 （一）要重新认识人机协同智商，在新平台重塑教育坐标系 人类不断创造工具，并利用新工具提升人类的能力，这是人类文明进化的本质。对工具的创造和利用会提升人的智慧。教育的本质是发展人，发展人的核心就是要在新的工具平台建构新智商。新智慧观认为，ChatGPT会垫高人类群体的智慧台阶。本来我们处于一楼，突然之间不用爬楼就能到达二楼，在这种情况下，智商的台阶被垫高了，从而加快了人脑和人工智能的智商合成。就像战士会穿上外骨骼，赋能自然人的体能。人工智能本身不能替代人或打败人，但是善于与人工智能合作的人将打败自然人。如果教育的目的是提高人类的智商，而人机协同的智商可以大大超越纯生物人的智商，那么我们会选择哪一个？我相信绝大部分的教育人都会选择后者。所以，未来对教育制度、工具、平台、资源、评价的设计都会基于ChatGPT等技术，在新的技术平台上重塑教育的坐标系。 在新的教育坐标系里，我们需要思考什么知识最重要，还需要思考谁的知识最重要，进而考虑教什么、怎么教、怎么评、怎么管等问题。在新的时代，人如果想要和机器竞争，保住自己的工作，就必须提高人特有的思维能力、想出新办法的能力。要善于利用AI工具，提升人类的智慧，而不是一味地让AI变得更强，要想办法大幅度提高人的智力、创造力和想象力。我们需要考虑人与人工智能的分工问题，哪些事情可以交给ChatGPT去做，哪些需要人来做，要培养ChatGPT所不擅长的，特别是人类独有的思维方式，培养人的思维能力、解决问题的综合能力。即使人工智能再如何发展，思维能力强的人还是不会被替代。现在的学生比以往任何时候的学生都更需要学会如何在人工智能日益全方位融入日常生活的世界中生存，更需要利用 ChatGPT 这样简单实用的人工智能工具助力自身的终身学习与成长（Lipman & Distler, 2023）。 （二）要增加实践性课程，强调人在人工智能闭环中（person in loop）的学习活动 这要求教育的设计者将人和人工智能进行恰当组合，既要使人在AI的持续进化中发挥训练和标注的功能，又要通过AI不断提升人本身的工作能力和智慧。也就是说，让更多的人卷入人工智能之中。如果我们将来发展的更多教育策略或者手段，都是人可以跟人工智能并行的，那么人就失去了价值。因此，只有人处于闭环之中，这样的技术、这样的课程才是有价值的。比如教育工作，以目前人工智能的水平，再过10年，它能够做更多事情。可能几年之后，ChatGPT就会进化成全息影像的形态，替代现有的教师。以前ChatGPT很难实现与人对话，它只能给人问题的答案，但现在GPT-4不仅可以提供答案，还能矫正人解决问题的思路，可以针对每个孩子学习中的问题给出相应的答案或提供合适的教育策略，给所有的孩子都提供一对一的教学服务。如果你追问，它还会解释解题思路。这与教师的作用已经很接近了，学生在学习的时候，也是这样和教师互动的。有人预测，教师是最不容易被人工智能替代的职业，但主要是指从事情感的陪伴与激励、创新的引导、智慧的启迪等工作的“人类灵魂的工程师”暂时不会被替代。教师可在ChatGPT的辅助下另辟蹊径，帮助学生了解所学知识的价值，尝试用它增添教学的趣味性，并考虑如何投入更多情感于人文交流中（Topsakal & Topsakal，2023）。若教师还停留在讲题型、讲套路的水平，则很容易被替代。作为做教育人，我们应该开始考虑用什么方法来改变现在的教育了。教育应将学生培养成人而非机器，拯救学生的灵魂而非堆积知识和认识（冯永刚，陈颖，2021）。 同样，若我们的教学停留在知识掌握和一般推理型的作业上，也难以激发学生的创造力。因此，要善于设计实践型的教育教学活动，通过动手创造、问题解决、工程设计、艺术创新等活动，提升学生的创造力、善用工具的意识和能力。这样的活动会是未来最需要的。 （三）要更多设计脚手架而不是沙袋，提高个性化和效率 传统教育更多是训练系统，同时也是一个观念建构过程，尤其是基础教育。体育课上，我们可以通过击打沙袋提升肌肉力量，但击打沙袋本身不是教育的目的。知识获取的过程就像锻炼肌肉的沙袋，就像观念建构的支架，沙袋和支架都不是目的，但都必不可少。我们过去把沙袋或支架当成教育的目的，把操练当成教育的全部，这样的教育必须转变。通过操练来记忆知识，通过操练来提升某种能力，通过熟练度来获得考试的好成绩，这种训练系统当然是必要的，但也往往是枯燥的，让学生讨厌的。对于观念的构建和知识的建构，更要善于搭设脚手架，引导学生逐渐建构。在计算教育学时代，我们需要精准地研究沙袋的击打量与肌肉发育之间的关系，针对不同的人设计不同的训练量；更需要创造适切的脚手架，帮助学生更高效地建构知识和观念。 （四）要回应谁的知识更重要的问题 教育哲学史上有两个著名的命题：一是什么知识最重要，二是谁的知识更重要。“谁的知识更重要”这一命题才是我们未来更需要去思考的。面对以ChatGPT为代表的技术时代，数字鸿沟很快就会被填平，每个人都可能平等地拥有AI的使用机会和能力，但是人不会因此变得千人一面。谁的知识更重要，引导我们关注个体间的差异，认知差异、需求差异等会使知识对不同的个体产生巨大的区别。激发每个人的潜力，服务每个人的成长，满足每个人的需要，针对每个人的特征，让不同的学习者在最擅长、最需要的领域得到个性化的服务，是未来教育者必须重视的。 （五）要创造更多样的学习方式，而不是学得更多 ChatGPT改变的是教育还是学习？这种改变会让教育变得更好么？学习本身是人脑认识世界和改造世界的基本能力，经过亿万年的进化，不会那么轻易改变，但是教育方式的改变却是必要而紧迫的。在改变教育的时代，要让学生的学习方式保持多样化，而不是学习的内容更多，因为只有学习方式的多样化才能催生思维方式的多样化、思维品质的多元性，才能够让人的智商、智慧呈现多样化，多样化才能够使得群智合作成为可能，多样的智慧是人类群体智慧进化的基础，全社会智慧水平将因多样性而更高。 五、结语 ChatGPT引发的教育重塑已经开始，有关的教育变革会逐渐展开，教育哲学将因此得到重生。每一个时代都有其工具和文明，人类就是通过使用不断进化的工具才能不断进化。即使ChatGPT把传统教育“逼入墙角”，我们也不要过于悲观，而是要创造新的教育，推进人类文明不断进步。ChatGPT驱动教育的革命性重塑，教什么、怎么教、怎么评、怎么管等都将发生深刻改变，但愿这场改变能加速人类文明向着求真、向善、唯美、创新的方向前进。因此，我们对于ChatGPT是一种拥抱的态度，是一种欢迎的态度，更是一种积极进取的态度。未来简史的作者尤瓦尔·诺亚·赫拉利曾说，未来的人类将在人与动物的分化后形成神人与智人的分化，绝大多数人将成为无用的智人，少数人掌握算法，控制着这个世界，多数人可能就是“赛博朋克”。对此，这个时代也许无法避免。顺势“躺平摆烂”，还是积极适应，拥抱技术，将最终决定人的分层分化。教育就是要激发每个人基因底层的动机，促进进取、创造、自信、善良的基因表达，用树叶摇动树叶，用灵魂唤醒灵魂，用实践推动实践，用真情换回真情，这个使命必然催生教育的革命性重塑。
    567浏览量
    原文链接