登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《ChatGPT 生成虚假数据集以支持科学假设》

  • 来源专题：数智化图书情报
  • 编译者： 程冰
  • 发布时间：2023-11-30

  • 2023年11月22日，nature新闻发表Miryam Naddaf的报道，ChatGPT背后的模型伪造了一个令人信服的虚假数据库，但法医检查表明，它并不符合真实性.


    研究人员利用人工智能(AI)聊天机器人 ChatGPT 背后的技术，创建了一个假的临床试验数据集，以支持一个未经证实的科学说法。

    为 ChatGPT 提供动力的人工智能模型可以创建表面上看似合理的科学数据集，作者将这些结果描述为“看似真实的数据库”。但是当专家检查时，这些数据没有通过真实性检查，并且包含了捏造的迹象。

    在11月9日发表在《美国医学会杂志 · 眼科学》(JAMA Ophthalmology)上的一篇论文中，作者使用了ChatGPT4 与高级数据分析(Advanced Data Analysis，ADA)相结合，ADA 模型结合了编程语言 Python，可以执行统计分析并创建数据可视化。Ai 生成的数据比较了两种外科手术的结果，错误地指出一种治疗方法优于另一种。


    EMBO Reports 的主编 Bernd Pulverer 也认为这是一个值得关注的问题。他表示: “同行评议在现实中往往不会进行全面的数据再分析，也不太可能发现利用人工智能精心设计的诚信缺失。”他补充称，期刊将需要更新质量检查，以识别人工智能生成的合成数据。


    以上来自图情门户项目组编译报道，如需转载请注明出处。


  • 原文来源：https://www.nature.com/articles/d41586-023-03635-w
321浏览量
原文链接
相关报告

  • 《从 ChatGPT 看生成式 AI 对情报学研究与实践的影响》
    • 来源专题：数智化图书情报
    • 编译者：闫亚飞
    • 发布时间：2023-07-11
    • 一般地，情报学理论范式指导情报实践工作。有研究将情报学理论范式分为 4 种，并阐释了每种范式下的情报工作重点和发展趋向，分别是:泛信息论范式下的知识管理与综合性知识服务;学术信息服务范式下的信息检索与服务;决策情报服务范式下的战略情报支持;社会信息服务范式下的企业 竞争情报、社会情报、舆情传播等。鉴于这4种范式较为全面地覆盖了情报实践工作的内容，因此本文将以此为视角，分析生成式AI将对情报实践产生的影响。 1.  拓宽知识资源建设渠道，打造知识服务新生态 知识服务是各类情报机构的一项重要职能，而智慧型知识服务是人工智能时代的产物。生成式AI又将推进智慧型知识服务向高级阶段的进化。从知识生产层面，传统的知识资源多出自出版社、数据库商以及情报机构的自建数据库和知识库。生成式AI的出现将拓宽情报机构知识资源建设的渠 道，AI辅助用户内容创作、AI自动生成内容成为 新的知识生产模式。一方面，每个用户可参与到知 识生产过程中，通过AI辅助获取知识创作的灵感、素材，由AI生成文本、图像、代码、3D模型等多模态知识，实现内容续写、跨模态内容生成( 文字 合成图片或视频等)，可极大提升用户体验;另一 面，生成式AI能够通过学习数据的底层模式再自动生成新内容。但就目前最先进的生成式AI技术ChatGPT而言，一大特点就是无法保证生成内容的准确性，这与知识的属性相斥。近期发表在Nature上的文章《ChatGPT:五大优先研究问题》中，研究者指出，ChatGPT 被用于科学界，必须要 坚持人类审查的原则。这无疑对情报机构提出 了新的挑战，即缺少前端的专家审核，情报机构需要承担对AI生成知识内容的人工审核与质量把控 的任务。从知识服务层面，随着元宇宙概念的提 出，情报服务机构致力于构建结合 AＲ、VＲ、人工智能等技术的超现实空间与现实空间融合的虚实共生的知识服务场景，而生成式 AI 技术也将为此贡献巨大力量，比如利用AIGC生成虚拟人或数字人，利用“ChatGPT+虚拟人”技术打造人机交互新入口，为用户提供沉浸式、立体化知识体验，有助于拓宽情报机构知识服务的范畴，构建知识服务新生态。 2.  塑造学术信息检索新范式，优化学术信息服务模式 ChatGPT的出现对搜索引擎业务构成了较大威胁，但百度指出生成式AI并不能替代搜索引擎，两者是一种互补的关系，并提出了融合两者功能的“生成式搜索”概念，这对情报领域的学术信息搜索发出了信号。一方面，针对以 Web of Science、中国知网、情报机构自建知识库等为代表的学术信息搜索平台，如果借鉴ChatGPT与WebGPT的联动效应，将生成式AI整合至学术搜索平台中，使其实时根据数据库内容更新，生成的内容参考了某篇学术论文则注明其来源。用户关于某一研究主题 得到的检索结果将不仅是文献列表，也能呈现由生成式AI筛选、整合、总结生成的文献综述，又或是根据读者描述的研究思路，基于对海量文献中图表、图像数据的学习，生成技术路线图以供参考，甚至是针对某领域的研究成果，利用生成式AI抽取细粒度知识，自动生成学术知识图谱，把复杂的关 联研究直观地呈现给读者，以交互式问答方式回答读者的问题，并通过连续对话提升读者体验;另一方面，对于学术科研互动社区，生成式AI在学习了 科研用户海量的问答数据之后，可针对用户搜索或提问生成答案。由此可以预测，生成式 AI 将会重塑 学术信息检索新范式，有助于优化信息服务模式， 但其能力边界与训练时被投喂的数据数量、质量、丰富度有很大关系，这将是情报实践工作中着重考 虑的问题。此外，最重要的是，基于 AI 的学术信息 服务需在明确的使用规范前提下开展，避免被错误和虚假信息误导而产生学术不端等后果，这一问题 正是当前学术圈讨论的热点。 3.  挑战决策情报服务体系，驱动情报效能提升 决策支持服务是情报工作的一项重要内容，主要面向国家科技战略、产业发展与产业结构政策、学科发展等战略决策型关键问题，通过文本挖掘、科学计量等方法深度剖析科技发展态势、学科演化、政策布局，形成战略咨询报告。ChatGPT 发布 以后，被尝试用于生成行业分析报告、市场调研报 告等。其使用了来自人类反馈的强化学习方案，具备良好的思维链能力，能够针对特定问题自主生成解决方案。虽然从目前来看，生成的报告内容仍然 不够专业可信，并不能直接用于指导决策，但随着不断地反馈学习以及模型算法的优化，性能会极大地提升。这对面向决策支持的情报服务产生了较大的冲击和挑战，然而并不会完全取代情报人员的工作，而是作为辅助工具加速推进决策支持服务的智能化，驱动情报效能的提升。因为，即便是在Zero－shot设置下执行下游任务，也需要向AI输入提示。换言之，在决策支持服务中，最基本也是最重 要的环节是情报分析对象、方向、预期的情报产物 形式与内容(比如战略报告的框架)的确定，生成 式AI仅作为辅助情报分析与内容生成的工具，前提是情报人员向其输入合适的问题，这意味着情报人员需要对用户需求有深刻的理解并承担情报产品 的设计工作。从另一方面来看，生成式AI有助于将情报人员从琐碎的分析、撰写任务中解放出来，更多地投入创新性研究工作中。比如，在利用科学计量学分析方法辅助制定科技发展战略规划时，AI可以依据已有的理论和方法，针对特定问题基于数据挖掘生成分析报告，但探索计量学新理论、新律，具体到更加科学有效的新的指标体系构建等创造性工作中，仍然需要专业人员的深入研究和持续创新。 4.  增加社会信息服务压力，凸显情报价值引领 在社会信息服务范式下，情报工作在企业竞争情报服务、安全情报服务、舆情风险预警与治理、数据治理等领域发挥着重要作用。生成式AI在赋能情报收集、处理与分析的同时，也会带来一系列负面影响，增加情报服务的压力。比如，在社会安全和舆情治理方面，ChatGPT可能会成为谣言制造者或舆论引导者的辅助工具，在一些误导性、充斥阴谋论的提问下大量改编信息，引导社会舆论向片 面、极端的方向发展。这在一定程度上会加大风险的情报感知与情报预警的难度。在数据治理方面，近年来关于科研大数据治理、企业大数据治理、政府大数据治理等问题愈发重要，治理的维度涉及数据安全、数据标准、数据质量等。伴随着 ChatGPT等生成式AI的快速发展，海量AI生成数据涌向经济、科研、政务等各个领域，由此带来的数据治理 压力是巨大的。从生成式AI模型的工作原理来看，生成数据的质量取决于训练时被投喂的数据质量和输入提示的有效性。因此，数据治理不仅涉及到AI创造的内容，同样涉及训练数据和提示数据。可以预见，情报学在数据治理领域将面临较大挑战，具体包括AI生成数据的质量管理、标准化、数据归类、数据产权归属等各类问题。然而，从另一个角度来看，生成式AI在增加社会情报服务压力的同时，也更加凸显情报的价值和社会效用，如 何充分发挥情报在综合研判、监测预警、信息汇聚 与治理等方面的作用，更好地服务社会发展，是情报工作在AI冲击下保持优势地位的关键。
    504浏览量
    原文链接

  • 《ChatGPT/生成式人工智能重塑教育的底层逻辑和可能路径 张治》
    • 来源专题：数智化图书情报
    • 编译者：闫亚飞
    • 发布时间：2023-09-25
    • 一、引言 ChatGPT的横空问世冲击了人类的思维方式，冲击了人类的生活方式，也将深刻重塑许多行业。ChatGPT 被视作人工智能发展史上迄今为止最为先进的自然语言处理工具，较之于早期的聊天机器人，它能够更自然、更准确、更连贯地执行对话任务（Claybourn, 2023）。特别是最近推出的最新版本GPT-4，比ChatGPT更为智能，和它对话几乎就像和一个人对话。ChatGPT是通用大模型，也被称为基础模型、大模型（Sevilla，Heim，Ho, et al., 2022），在自然语言处理任务中成型，已扩展至图像、语音等多种模态，未来将出现统一处理各种模态的通用大模型（Tamkin，Brundage，Clark，et al., 2021）。ChatGPT建立于多次迭代升级的生成式预训练语言模型，拥有1750亿个模型参数，接受了 570GB的文本训练，同时使用有监督和无监督的人工智能学习技术（OpenAI，2022）。作为一款生成式人工智能软件，它能够处理图像和文本输入并产生文本输出，具有广泛应用的潜力，如自然语言对话、文本摘要、机器翻译、图像生成等，可以根据议题完成包括回答问题、写作业、撰写论文、写演讲稿、写作诗歌在内的多种工作。ChatGPT的确在各种专业和学术基准上具有可与人类媲美的表现，为了测试它的智慧能力，人们在最初为人类设计的各种考试中对其进行了评估。开发者让ChatGPT-4参加律师考试，它的分数可以超越90%的律师同行，它在美国SAT、GRE测试中均比普通人有更好的成绩。ChatGPT甚至通过了92.5%的心智理论测试任务，达到了9岁儿童的心智能力（Kosinski，2023）。开发这种模型的主要目标之一是提高它们理解和生成自然语言文本的能力，特别是在更复杂和微妙的场景中。 现在，几乎没有人怀疑ChatGPT这类大语言模型构建的通用人工智能将改变世界了。而对教育界的改变，有可能是AI对人类社会未来最为根本的改变之一。ChatGPT究竟会对教育产生什么影响？笔者尝试让ChatGPT自己回答，并让不同的朋友问ChatGPT同样的问题，结果发现答案并不相同，不同的用户会得到不同的文字呈现，但观点较为接近。“如何看待ChatGPT对教育的影响？”ChatGPT的回答是：“作为一个大型语言模型，ChatGPT可以对教育产生积极影响。提供在线学习资源：ChatGPT可以提供在线学习资源，并与学生进行对话。这种交互方式可以帮助学生在学习过程中获得更好的支持和指导。支持学生自主学习：ChatGPT可以根据学生的兴趣和需求，提供学习材料和建议，帮助学生更好地自主学习。这可以提高学生的学习动力和学习效果。改善教学方式：ChatGPT可以为教师提供工具和资源，帮助他们改善教学方式。例如，ChatGPT可以提供自动评分、语音识别等功能，帮助教师更好地评估学生的学习成果和口语表达能力。”但是，它也暴露出一些问题，比如可能会给抄袭、作弊提供便利。ChatGPT能够以一篇文章作为模版进行再创造，生成与原稿截然不同的文章。这让我们充分相信，生成式语言模型ChatGPT能对语言进行创造性表达，而不仅仅是搜索。目前，很多人在讨论ChatGPT对教育的影响，有的比较悲观，有的比较乐观。有研究提出ChatGPT可能生成有害指令，并提出由于ChatGPT的快速迭代，这些错误可能会被放大（Williamson，Macgilchrist & Potter，2023）。在教育领域，有研究者总结了ChatGPT可能带来的四个主要挑战：一是作弊和抄袭（Cheating and plagiarism）；二是学生对其过度依赖，会错失具有挑战性的、要求高参与度的学习机会（Missed learning opportunities）；三是可能会向学生传递有偏见的或有害的信息（Bias and toxic content）（训练 ChatGPT 的网络数据的开放性与个性化可能会带来偏见和刻板印象）；四是可能传递不精确甚至错误的信息，比如所提供的信息可能包括虚假的数据、事实与引用等（Wan，2023）。全国政协委员、上海科技馆馆长倪闽景曾说过，“ChatGPT把教育逼到了墙角！”对于目前ChatGPT带来的副作用，倪闽景表示：“教育会有一段时间的不适应，比如学生会用这个找答案，甚至直接用这个写论文。我们教育有一些惯性，新的东西出来会比较手忙脚乱，甚至有些学校会屏蔽，这都可以理解，但我认为新的技术出来以后，需要的是更高层次的学习内容和新的思维能力的构建。”（新民晚报, 2023） 也有一些很乐观的观点，认为ChatGPT将极大赋能教育。美国可汗学院声称，已经和Open AI合作，推出基于GPT-4的Khanmigo，这是一个人工智能辅助学习的工具。按照可汗学院的设想，Khanmigo会成为人工智能助教，帮助老师制定课程计划、批改作业，并且通过对话的方式为孩子提供一对一的辅导。这个项目最终会覆盖全美500个学区，为他们的客户提供更加智慧、更低成本的高效教育服务。美国奥数队总教练罗博深认为：“AI的思维已经能做到很多人类不能做的事，这对学习和教育都是很大的挑战，刷题式学习将成为历史，今后，思维上的创新能力将成为关键。”（知识分子, 2023）笔者认为，ChatGPT问世后必然会带来变化，教育人不能抱着鸵鸟心态，装作什么都没有发生或是禁止它，而是需要改变规则，建立一个比较健康的架构。这样的AI会对教育产生怎样的影响？ChatGPT是一个工具，当每个人都拥有ChatGPT时，教育会变得更好还是更糟，每个人的人生会有何不同？笔者认为，ChatGPT的出现对教育而言是机遇和挑战并存，推动传统教育加速向智能化转变。 二、ChatGPT对教育的冲击 ChatGPT对教育的革命性改变将在以下场景中体现。 （一）传统的教育工具箱将不再好用 人工智能 （AI） 已经彻底改变了我们生活的许多方面，教育也不例外。基于ChatGPT在编写与调试代码、改善课堂评估、辅助教学设计和调节互动交流等方面的潜在优势，教育人对其充满期待（Euchner，2023）。AI对教育的重塑必然会发生，在ChatGPT之前，已经有很多AI产品在教育中发挥作用。比如，帮助学生进行论文润色的Grammarly，可提供语法纠错或表达优化等；上海市宝山区基于生物知识图谱构建的自适应学习系统，可促进学生学科知识掌握效率和能力提升、预判学生学业成就等；还有支撑学生大规模开展研究性学习的智能系统moors。但这些产品从没有像ChatGPT那样引起教育工作者的恐慌。ChatGPT等人工智能语言模型的开发开辟了新的学习机会，并有可能革命性重塑人们接受教育的方式。目前，有的教师担心学生用它作弊，逃避本该深度思考的作业、失去能力训练的机会、引起学生价值观偏差等，这可以从一个方面映射传统教育工具箱的单调。如果我们对教育的测量工具进行反思，会发现这些工具在人工智能面前变得漏洞百出，可以通过AI迅速瓦解。我们所使用的教育工具正在慢慢失效或者不再好用，包括写论文、做习题等评价和训练工具。当传统教育工具箱不再好用时，便需要发展新的工具，形成新的教育教学模式，探索新的评价和激励学生学习的方法，这将促进教育的结构性重塑。传统的教育工具主要是不断评测学习者知识的建构和能力的提升，通过讲授、讨论、阅读、实验等方式让学习者掌握知识，通过布置作业、写论文、考试等工具测评。现在这些测评手段受到挑战，我们要提供更有效的训练系统、养成系统和测评系统工具。例如，突出创新能力的作业，体现实践智慧和动手能力的考察，创设场景体现复杂问题解决的过程，面对面的演讲和讨论，需要人的体力、智力、意志品质参与其中且通过人机协同才能完成的项目研究等。这些都是ChatGPT所不擅长的，这样的教学工具、管理工具需要被加快开发和创造出来。 （二）重新思考教什么才是最重要的 ChatGPT的出现使得学生学习和教师教学更加个性化、灵活化，它在为广大师生带来便利的同时也催生出新的教育教学形态（吴砥，李环，尉小荣，2022）。人们可能不再崇拜知识，觉得它太容易得到，解决方案也不难找，于是怀疑知识还是不是力量。当知识或解决方案唾手可得时，为什么还要花费时间去记忆呢？ChatGPT的便捷性可能会使人们轻视知识。对于这个问题，不同学者的观点有时截然不同。有的学者认为应该大幅度减少知识的获取，特别是通过记忆获取知识；有的学者则认为大脑对知识的获取是发展更高级智慧的基础，是促进神经元之间突触广泛连接的过程，只有足够多的突触才能催生更强大的人脑智慧。知识的记忆虽然艰苦而枯燥，但是一旦形成，可以大幅度提升大脑反应的速度，而不是什么都依赖检索临时建构，从而提升脑的智慧；同时，智慧本身就是建立在广泛的知识基础上。这就像王阳明所讨论的到底是“钱”重要，还是串钱的“绳子”更重要的问题。如果把具体的知识比作一个个钱币，把方法论等程序性知识或者解决问题的智慧比作串钱的绳子，没有钱币作为基础，要串钱的绳子又有何用？ （三）教育的资源形态将重新组织 教育的资源通常以教科书上的文字呈现，这是人类文明的结晶，是智慧代际传递的载体。这些冰冷而美丽的文字、图片、艺术作品，如何才能激发学生火热的思考，从而促进智慧生长，通常需要教师作为媒介。ChatGPT的出现，让我们看到未来基于知识图谱的资源形态的重要价值。它将根据学习者的起点、认知、际遇等的不同，使知识呈现更加个体化，从而让一个人能够在最近发展区得到教育智能服务。教学资源的数字化改造经过多次技术迭代，从早期的纸媒转数字化，到在数字化教材基础上挂载各种教学资源，逐渐走向富媒体化和平台化；下一代的教材数字化将朝着开放化、个性化、社群化和智能化的方向演进，需要在遵循教材权威性相关法律文件的基础上，融入学习者画像、教学策略模型和知识图谱等底层技术，逐渐承担针对不同学科领域和针对不同学生的自适应学习智能服务角色，从而将教材的解读弱中介化。未来智能型数字教材的架构如图1所示。 知识图谱是对教学资源智能化改造的基础，随着大量的知识工程设施建设，自适应学习将覆盖所有的知识领域，让每个人的书都是个性化的呈现，从而极大提升教学效率。这种知识呈现会与AI相得益彰，最终加快教育智能化改造，提升教育效率，促进个性化学习，让大规模的因材施教成为可能。 （四）教育评价会遇到巨大挑战 受制于评价技术，传统的评价往往是能评什么就评什么，而不是需要评什么就评什么。我们的教育反对八股化的训练体系，却又不自觉发展新的八股化思维，而ChatGPT让我们理解，凡是有规律可循的，不管是体力劳动还是脑力劳动，都可以被AI替代，那我们该如何应对这样的工具？需要经过多年训练才能具备的论文写作、摘要提炼、文章逻辑、语法拼写等能力，突然因为ChatGPT而快速拥有时，我们又该发展什么样的能力？思维方式的多元性将决定人类智慧的多样性，我们要培养和创造更多样的思维，而不是试图让学生掌握更多的知识。当知识能被便捷调取并能基于知识形成解决方案时，必须发展新的评价工具、评价方式，也必须发展新的评价理论和哲学。评价是什么？评价能帮助教育做什么？教育该评价什么？那些通过ChatGPT可以轻松找到完美答案的考试将逐渐被人们抛弃。价值观、思维方式、同理心、创造力、合作精神，包含这些的评价才能引导教育走出当下教育的“马粪效应”。“马粪效应”就是现在教育面临的困扰，包括ChatGPT对于教育的挑战，当一个新的智慧产生时，当一个新的工具平台产生的时候，或许就可以帮助教育人走出“马粪效应”。未来尤其需要发展新的评价技术，评测学生的创造力、批判性思维、团队合作、复杂问题解决能力、价值观等，这些人类智慧既以知识为载体，又超越知识和简单的八股化的能力结构。当普通的逻辑推理、分析、综合能力突然因为ChatGPT而能够被人们快速拥有的时候，教育评价的改变是我们必须要思考的。 （五）学习者模型将和教学策略模型协同进化 ChatGPT将会帮我们重组知识，答案空间具有了创造智慧。人是如何学习的，认知的智慧将如何发展，知识将如何形成，观念如何建构，我们需要重新认识学习者模型，并发展新的教学策略模型。什么样的资源形态和学习过程容易帮助学生建构概念？什么样的训练系统能帮助学生巩固知识？在知识建构的过程中如何促进思维能力的发育？什么样的载体更有利于智慧提升？哪些活动可以提升创造力？这些教学策略既有传统教育智慧的积淀，又有大规模机器学习可能寻找到的新经验。未来的教学智慧将是专家系统和机器学习的结合，ChatGPT将加速学习的进化，催生新的学习方式和教学服务。基于知识图谱、学习者画像和教学策略模型而开发的智慧型教学系统将成为教学新利器，基于人工智能的智慧型教学系统的工作原理如图2所示。 （六）促进智慧代际协同和群智发展，推进教育大脑的构建 尽管有表观遗传学研究认为上一代的记忆会通过DNA记下来传给后人（艾培炎，2020），但绝大多数个体智慧都是后天学习的，个体的大脑都是后天独立进化的，也就是说，记忆、知识、技能、智慧都不能在代际直接继承。我们能不能通过大脑的进化把知识和智慧在下一代复制出来？现在看来，这是做不到的。教育就是当代人花费大量的精力培养下一代人的智慧，如果这个过程消失，文明就会断档。ChatGPT是人类通用智慧的表达，它通过大量的数据训练，汇集全人类的智慧，在代际传承和进化，会逐渐接近甚至超越绝大多数普通人的智慧水平。这种智慧的代际接力传承是教育所不能的。如果像使用其他各种学习或生活工具一样对ChatGPT直接来用，那个体智慧的扩增效率将极大地提升。教育的智慧也是如此，如果我们把孔子的教育智慧不间断地进化到现在，他的教龄将有几千年，那将是何等的水平。ChatGPT正在引起教育信仰危机。在传统情境下，人们对于教育一直有一种非常神圣的信仰。教育是人类区别于其他一切生物的根本标志。但是，如果ChatGPT能够促进人的智慧的代际传递，那么人们对于教育将不再崇拜，下一代人不需要经过枯燥的训练和艰苦的学习就能够得到知识和能力。当下一代人能够便捷地得到能力、方法、智慧的时候，自然就会产生恐慌。ChatGPT将在教育领域形成接续进化的可能，从而催生教育大脑的进化。 三、ChatGPT重塑教育的底层逻辑 ChatGPT重塑教育的底层逻辑包括三个方面。 （一）底层逻辑一：脑科学的逻辑 我们现在所讨论的一切问题都基于人脑，如果没有人脑作为基础，我们所讨论的智慧教育都是空谈。人脑是智慧的物质和生理基础，神经细胞的关联即突触是智慧形成的生理基础，其数量也代表了智慧的层次。目前成年人类的大脑有200亿个神经细胞，这意味着它可以产生非常庞大的突触数量。不过，大脑的很多部分还没有得到充分开发，即使像爱因斯坦这样的天才也是如此。这是因为大脑有一种能效模式，即只会对重要的做出反应，不重要的就不会去做，这是一种节能模式，也就是说大脑会自动判断知识的重要性。瑞典首席心理健康专家Anders Hansen在新书《手机大脑》里介绍：研究者让一组实验对象拍下美术馆的展品照片，另一组实验对象用眼睛看；第二天，研究者向两组人展示展品照片，让他们找出昨天在美术馆看过的作品。结果显示，没有拍照、用眼睛看的实验对象对展示照片印象更深、记得更牢。这个实验说明：如果大脑认为“反正手机都有照片”“反正网上都查得到资料”“反正老师会把PPT发到云端”……大脑就会开始节能，不那么专注于记忆、学习。这被称为“Google效应”（图4）：既然Google上都找得到，那还有必要去记住吗？答案当然是否定的。就像以前没有智能手机，我们会记住很多电话号码，现在可以通过手机通讯录便捷查找联系人，有机器来帮我们记住无数个电话号码，大脑自然就不再去记忆号码。走捷径的大脑贪恋多巴胺，ChatGPT将会强化Google效应，如图4所示。多巴胺效应是指脑内化学物质多巴胺的作用使人们感觉到愉悦、奖励或满足的状态。当人们做出某个行为后，大脑会释放多巴胺，提高人们对该行为的满足感，使之倾向于重复这个行为。多巴胺会刺激人们的大脑，偷懒可以释放很多的多巴胺，所以大脑的生理本质意味着人们对ChatGPT是没有抵抗力的。 领域知识是智慧的知识基础，撇开知识谈智慧是空谈，知识是一定被需要的。另外，思维方式是智慧的算法基础。如果把大脑的神经细胞连接和推理看成是计算机的一种算法，就既要有算力、算法，又要有基础数据，所以思维方式也是不可或缺的。ChatGPT将知识从表征、编码推进到计算、创生时代。人脑是一个高度“节能”的器官，当一个新工具可以让大脑偷懒时，大脑一定会设法走捷径，与知识记忆和简单逻辑推理关联的突触连接将大量减少，最终会导致人脑的选择性退化。ChatGPT使人们认为知识不再重要，思维也可以替代，传统教育工具将会失效，能力模型开始迷茫，甚至会使人类对教育的信仰产生危机，这将会使教育和人类面临巨大危机。 换言之，知识建构的过程会生成大量的突触连接，而随手可得的答案将迎合大脑走捷径的特征。大脑在进化的过程中为了减少热量消耗，以最高效率处理问题，会本能地思考怎么“节能”。这些走捷径的刺激产生的多巴胺将最终影响大脑的发育，导致知识空转。因此，我们要避免Google效应。 ChatGPT的智能是通过类脑神经网络和大量的语料训练催生其智慧，由足够大的数据训练导致的智慧“涌现”。就好比我们人类给猩猩讲“香蕉”“苹果”“枣子”等，然后让它认识香蕉树、苹果树等，从认识单词到这些单词和其他感觉的关联，需要从记忆到品尝的连接，从知识关联到概念建构，到联想应用。经过一段时间的学习，问猩猩想要什么。它说我想要一片果园，那里水果丰富，环境优美，没人打扰。这就可以理解为智慧的“涌现”。数据、语料大规模训练后，出现智慧层级的跃迁，这就是智慧的本质，也是ChatGPT带给人类的最大惊喜。这些对智慧本身和智慧生长方式的理解，让我们重新认识智慧。人脑的智慧同样离不开知识和语料，但是大量的以传递知识为核心的教育确实应该转变了。知识的量的扩张似乎不再重要，人脑建构类似猩猩的关于果园的联想智慧和系统观念需要的语料更少，而神经元连接的核心节点更为重要，但是促进神经元连接的元认知又在哪里？最重要的基础知识、基本技能需要我们重新认知，最重要的思维方式也需要我们去反思。AI也让教育长期发展所形成的能力模型迷茫，就促进智慧提升而言，“跑跳投爬”重要、“听说读写”重要还是“吹拉弹唱”重要？布鲁姆的能力结构模型会不会发生结构改变？我们不知道未来需要培养怎样的人才，以及需要具备哪些核心能力，也不知道他们将如何面对不可预知的未来。我们过去认为的听、说、读、写、推理、运算、想象等能力是否还将有用？这些能力的重要性会不会不如之前？以上问题都在推动我们逐渐从有目标的教育结果转向有意义的学习过程，从而推动教育哲学的转变。这是教育范式重构、流程再造的逻辑起点之一。 （二）底层逻辑二：知识观的演变逻辑 知识观的演变需要从知识的记录、传播、表达、创新等视角分析。 第一，知识的记录。什么是知识？知识是客观现实在人类头脑中的映射，这种映射通过语言、文字、图像等大脑的加工，形成知识或概念体系。人类将对于自然界的认知记录下来，如甲骨文、青铜器、造纸术及印刷术等，这些解决了知识的记录问题。知识的记录实质上是将人类火热的思考和伟大的创造变成凝固的美丽。 第二，知识的传播。知识的传播是教育的发端，从远古的口口相传，到最初的原始的学校，再到农耕时代以孔子为代表的第一代学校，然后是工业革命时代以夸美纽斯的班级授课制为代表的第二代学校，现在是信息时代基于互联网和人工智能的第三代学校，学校的样态不断迭代进化，学校进化的本质是生产力发展对教育的新需要。从知识观的角度来看，所有人类的教育社会活动就是促进知识的传播和个体层次的智慧提升。 第三，知识的表达。技术促进知识的表达，文字、图片、视频等不是知识本身，而是知识的表达，算法、ChatGPT、元宇宙等也是知识的表达。当知识表达的逻辑发生改变的时候，我们对于知识的观念就会扭转，ChatGPT让我们知道知识在计算机内部是可以被计算并生成表达的，知识可以通过AI不断大规模生产出来，并通过各种技术得以表达。从知识的数字化到知识的计算化，从检索时代到转化器时代，ChatGPT将这个过程变成了现实，ChatGPT体现了硅基生命和硅基智慧的诞生。当知识可以被计算，我们的知识观也发生了改变。这个计算不是通过人脑来计算，而是通过计算机来计算。因此，我们需要重新思考教什么才是最重要的。 第四，知识的教育和创新。随着ChatGPT的出现，知识或解决方案将变得唾手可得，人们可能会轻视知识。有人认为我们应该大幅度减少知识的获取，特别是通过记忆获取知识；也有人认为大脑对知识的获取是发展更高级智慧的基础，是促进神经元之间突触广泛连接的过程，只有足够多的突触才能催生更强大的智慧。知识的记忆虽然艰苦而枯燥，但是一旦形成，可以大幅度提升大脑机械反应的速度，而不是什么都依赖检索临时建构，从而提升脑的智慧。所以，基本知识、基本技能需要我们重新认知，最重要的思维方式也需要我们去反思，包括逻辑、推理、想象。可能未来想象会比推理更重要，因为推理可以由机器完成。 从这个视角来看，大量以传递知识为核心的教育确实应该转变。过去我们之所以认为基础教育是枯燥的，是因为把训练当成了目标，而不是把提升肌肉的力量、提升思维的品质、提升我们的智慧作为目标，所以孩子们才会讨厌学习。知识量的扩张不再重要，但是促进神经元连接的元认知、根知识又在哪里？ 我们从知识计算走向了计算教育学。传统教育是训练系统，同时也是一个观念建构过程，知识获取过程就像锻炼肌肉的沙袋，就像观念建构的支架，沙袋和支架都不是目的，但沙袋和支架都必不可少。智慧不会凭空生成，也不会脱离领域知识而存在，脱离领域知识谈空泛的智慧没有意义。捶多少沙袋最合适，什么样的支架最合适，不同的人所需要的沙袋训练或支架结构是否不同，是计算教育学模型所关涉的问题。我们过去把沙袋或支架当成教育的目的，把操练当成教育的全部，这样的教育必须转变。计算的背后是教育学的学习策略模型和教学策略模型，再加上知识图谱，最终构成了下一代智慧教育的内核，也就是现在被广泛提到的教育智能体。教育智能体意味着人类社会需要精准的计算，同时还需要个性的计算。所以，尽管ChatGPT现在是通用人工智能，但随着教育领域大模型的研究，特别是基于专家系统技术和大数据训练形成的AI能力，一定会在某个时代发展出ChatGPT in Education，这样的时代将会到来。 从实验教育学发展到融合教育学，再到计算教育学，整个过程历时100年。而脑科学和计算教育学的结合才是最有想象力的，要加快教育大脑的构建。目前的ChatGPT是通用智能，而我们对于教育的价值追寻与通用智能是不一致的。比如，我们希望把知识当成训练学生思维方式的工具，而ChatGPT更多的是一种知识表达，所提供的是答案空间。在这种情况下，基于ChatGPT来构建教育大脑将会非常迫切，未来专门领域的人工智能会有一个非常广阔的发展空间。 （三）底层逻辑三：对教育的元认知 关于教育的元认知，不同的学者从不同的角度进行过阐述，各有侧重。至今，我们仍然能在很多场合听到有关教育要回归初心的呼吁。概括来说，教育的本质可以从三个视角进行归纳。一是对受教育者个人而言，教育是人生存和发展的基础。一方面，个体通过教育提高生存能力，从而能够生活得有尊严和幸福；另一方面，个体通过教育提高思想品德和才能，从而能够为社会、为他人作出有价值的贡献。二是对一个国家而言，教育的本质是提高国民素质，为国家建设提供人力资源保障，增强国家竞争力。党的十八大把立德树人作为教育的根本任务，就是对教育本质的新认识。三是对人类而言，教育是传承人类文明的重要载体，承担着传递与发展人类文化和价值观念的重要职能。因此，教育的本质是培养人，已经成为基本共识。 长期以来，教育被认为是科技改变的最后一个行业。而作为有史以来用户增长最快的互联网服务ChatGPT，再次颠覆了人类对AI的认知，教师、学生不再是新技术的旁观者，而是热议者甚至是应用者。ChatGPT对人类社会的改变，让教育不得不反思现在做什么才能更好地为培养人做好“有远见”的铺垫。 一要反思学什么。学生通过十几年求学才能掌握的知识和技能，ChatGPT已经具备了，那么这些知识和技能还需要学吗？如果不学这些，要学什么才能把一个受教育者培养成能够适应智能时代的未来人？ 二要反思怎么学。ChatGPT无疑是打破知识垄断的利器，不仅能够帮助人类处理工作，还可以为人类答疑解惑。如果随着ChatGPT的不断进化，它能扮演虚拟教师角色，不仅可以提供一对一教学服务，而且不知疲倦、不受时空限制，能够真正实现时时能学、随处可学，那么当今广泛存在的知识讲授型教学还有延续的必要吗？ 三要反思怎么评。评价是教育发展的指挥棒，是撬动教育教学变革的支点。ChatGPT会取代一些工作岗位，比如低级别的程序员、通用文稿写手、通用文案策划等，人工智能与人类将重新分工。如果教育评价不变，继续引导学生“刷题”，那么教育培养出来的人能否具备未来的生存能力？又能否在未来的生活中获得尊严和幸福？ 从这个意义上来说，教育又回到了初心、原点，需要重新思考培养什么样的人以及怎样培养人。教育不仅要传授知识，而且要培养具备创造力、自学能力、想象力、坚毅品质等素养的人，以适应未来社会。ChatGPT仅仅是智能技术颠覆人类社会的冰山一角，随着智能技术不断加速发展，教育必然被重塑。ChatGPT引发的思想和哲学冲击，不仅仅是教育转型的方法选择、技术路径和应用场景，更重要的是对智慧工具、知识观和教育价值论等底层逻辑的动摇。它动摇了文艺复兴以来形成的通过教育促进智慧觉醒的兴趣和信念，也更新了教育的目的、对象和方式，既赋予了教育结构性重塑的机遇和方向，也为未来教育新图景提供了无限的想象力。我们可以从人脑的生理基础上找到教育和学习的物质基础和生理基础，也可以从知识观上洞悉未来的学习样态和路径选择，还可以从元认知上理解教育的真谛和变革的逻辑。这一切都是ChatGPT带给我们的思考起点。它让人真切意识到人类在逻辑推理、信息处理和智能行为领域的主导地位可能已不复存在，并将人类置于前所未有的智慧起点之上。人类在智慧层次上的不足被弥补、优势被强化、起点被拔高，开启了人机协同的良性循环，借助硅基智慧突破人类的智慧天花板，实现智慧的迭代进化。这些都是教育才具备的神圣使命，我们在这些转变到来之时无所适从。 四、ChatGPT重塑教育的可能路径 人工智能对人类社会的颠覆，“大水已经没过了膝盖”（如图5所示）。麦肯锡全球研究院（McKinsey Global Institute）曾预测，随着科技的进步，到2030年，保守估计全球15％的人（约4亿人）会因人工智能工作发生变动。既然如此，我们与其抗争，不如顺应。但在科学研究、艺术创作、人工智能设计等高创造性领域，高阶智能更有创造力，更有想象力，具有很大的空间，大有可为。教育作为一个独特的领域，ChatGPT对它的重塑将有如下可能路径。 （一）要重新认识人机协同智商，在新平台重塑教育坐标系 人类不断创造工具，并利用新工具提升人类的能力，这是人类文明进化的本质。对工具的创造和利用会提升人的智慧。教育的本质是发展人，发展人的核心就是要在新的工具平台建构新智商。新智慧观认为，ChatGPT会垫高人类群体的智慧台阶。本来我们处于一楼，突然之间不用爬楼就能到达二楼，在这种情况下，智商的台阶被垫高了，从而加快了人脑和人工智能的智商合成。就像战士会穿上外骨骼，赋能自然人的体能。人工智能本身不能替代人或打败人，但是善于与人工智能合作的人将打败自然人。如果教育的目的是提高人类的智商，而人机协同的智商可以大大超越纯生物人的智商，那么我们会选择哪一个？我相信绝大部分的教育人都会选择后者。所以，未来对教育制度、工具、平台、资源、评价的设计都会基于ChatGPT等技术，在新的技术平台上重塑教育的坐标系。 在新的教育坐标系里，我们需要思考什么知识最重要，还需要思考谁的知识最重要，进而考虑教什么、怎么教、怎么评、怎么管等问题。在新的时代，人如果想要和机器竞争，保住自己的工作，就必须提高人特有的思维能力、想出新办法的能力。要善于利用AI工具，提升人类的智慧，而不是一味地让AI变得更强，要想办法大幅度提高人的智力、创造力和想象力。我们需要考虑人与人工智能的分工问题，哪些事情可以交给ChatGPT去做，哪些需要人来做，要培养ChatGPT所不擅长的，特别是人类独有的思维方式，培养人的思维能力、解决问题的综合能力。即使人工智能再如何发展，思维能力强的人还是不会被替代。现在的学生比以往任何时候的学生都更需要学会如何在人工智能日益全方位融入日常生活的世界中生存，更需要利用 ChatGPT 这样简单实用的人工智能工具助力自身的终身学习与成长（Lipman & Distler, 2023）。 （二）要增加实践性课程，强调人在人工智能闭环中（person in loop）的学习活动 这要求教育的设计者将人和人工智能进行恰当组合，既要使人在AI的持续进化中发挥训练和标注的功能，又要通过AI不断提升人本身的工作能力和智慧。也就是说，让更多的人卷入人工智能之中。如果我们将来发展的更多教育策略或者手段，都是人可以跟人工智能并行的，那么人就失去了价值。因此，只有人处于闭环之中，这样的技术、这样的课程才是有价值的。比如教育工作，以目前人工智能的水平，再过10年，它能够做更多事情。可能几年之后，ChatGPT就会进化成全息影像的形态，替代现有的教师。以前ChatGPT很难实现与人对话，它只能给人问题的答案，但现在GPT-4不仅可以提供答案，还能矫正人解决问题的思路，可以针对每个孩子学习中的问题给出相应的答案或提供合适的教育策略，给所有的孩子都提供一对一的教学服务。如果你追问，它还会解释解题思路。这与教师的作用已经很接近了，学生在学习的时候，也是这样和教师互动的。有人预测，教师是最不容易被人工智能替代的职业，但主要是指从事情感的陪伴与激励、创新的引导、智慧的启迪等工作的“人类灵魂的工程师”暂时不会被替代。教师可在ChatGPT的辅助下另辟蹊径，帮助学生了解所学知识的价值，尝试用它增添教学的趣味性，并考虑如何投入更多情感于人文交流中（Topsakal & Topsakal，2023）。若教师还停留在讲题型、讲套路的水平，则很容易被替代。作为做教育人，我们应该开始考虑用什么方法来改变现在的教育了。教育应将学生培养成人而非机器，拯救学生的灵魂而非堆积知识和认识（冯永刚，陈颖，2021）。 同样，若我们的教学停留在知识掌握和一般推理型的作业上，也难以激发学生的创造力。因此，要善于设计实践型的教育教学活动，通过动手创造、问题解决、工程设计、艺术创新等活动，提升学生的创造力、善用工具的意识和能力。这样的活动会是未来最需要的。 （三）要更多设计脚手架而不是沙袋，提高个性化和效率 传统教育更多是训练系统，同时也是一个观念建构过程，尤其是基础教育。体育课上，我们可以通过击打沙袋提升肌肉力量，但击打沙袋本身不是教育的目的。知识获取的过程就像锻炼肌肉的沙袋，就像观念建构的支架，沙袋和支架都不是目的，但都必不可少。我们过去把沙袋或支架当成教育的目的，把操练当成教育的全部，这样的教育必须转变。通过操练来记忆知识，通过操练来提升某种能力，通过熟练度来获得考试的好成绩，这种训练系统当然是必要的，但也往往是枯燥的，让学生讨厌的。对于观念的构建和知识的建构，更要善于搭设脚手架，引导学生逐渐建构。在计算教育学时代，我们需要精准地研究沙袋的击打量与肌肉发育之间的关系，针对不同的人设计不同的训练量；更需要创造适切的脚手架，帮助学生更高效地建构知识和观念。 （四）要回应谁的知识更重要的问题 教育哲学史上有两个著名的命题：一是什么知识最重要，二是谁的知识更重要。“谁的知识更重要”这一命题才是我们未来更需要去思考的。面对以ChatGPT为代表的技术时代，数字鸿沟很快就会被填平，每个人都可能平等地拥有AI的使用机会和能力，但是人不会因此变得千人一面。谁的知识更重要，引导我们关注个体间的差异，认知差异、需求差异等会使知识对不同的个体产生巨大的区别。激发每个人的潜力，服务每个人的成长，满足每个人的需要，针对每个人的特征，让不同的学习者在最擅长、最需要的领域得到个性化的服务，是未来教育者必须重视的。 （五）要创造更多样的学习方式，而不是学得更多 ChatGPT改变的是教育还是学习？这种改变会让教育变得更好么？学习本身是人脑认识世界和改造世界的基本能力，经过亿万年的进化，不会那么轻易改变，但是教育方式的改变却是必要而紧迫的。在改变教育的时代，要让学生的学习方式保持多样化，而不是学习的内容更多，因为只有学习方式的多样化才能催生思维方式的多样化、思维品质的多元性，才能够让人的智商、智慧呈现多样化，多样化才能够使得群智合作成为可能，多样的智慧是人类群体智慧进化的基础，全社会智慧水平将因多样性而更高。 五、结语 ChatGPT引发的教育重塑已经开始，有关的教育变革会逐渐展开，教育哲学将因此得到重生。每一个时代都有其工具和文明，人类就是通过使用不断进化的工具才能不断进化。即使ChatGPT把传统教育“逼入墙角”，我们也不要过于悲观，而是要创造新的教育，推进人类文明不断进步。ChatGPT驱动教育的革命性重塑，教什么、怎么教、怎么评、怎么管等都将发生深刻改变，但愿这场改变能加速人类文明向着求真、向善、唯美、创新的方向前进。因此，我们对于ChatGPT是一种拥抱的态度，是一种欢迎的态度，更是一种积极进取的态度。未来简史的作者尤瓦尔·诺亚·赫拉利曾说，未来的人类将在人与动物的分化后形成神人与智人的分化，绝大多数人将成为无用的智人，少数人掌握算法，控制着这个世界，多数人可能就是“赛博朋克”。对此，这个时代也许无法避免。顺势“躺平摆烂”，还是积极适应，拥抱技术，将最终决定人的分层分化。教育就是要激发每个人基因底层的动机，促进进取、创造、自信、善良的基因表达，用树叶摇动树叶，用灵魂唤醒灵魂，用实践推动实践，用真情换回真情，这个使命必然催生教育的革命性重塑。
    522浏览量
    原文链接