《人工智能在同行评议中应用的前景与风险》

  • 来源专题:科技出版市场动态监测
  • 编译者: 崔颖
  • 发布时间:2025-10-29
  • 人工智能(Artificial Intelligence,AI)正对包括学术出版在内的多个行业产生巨大影响。今年同行评议周的主题聚焦于“如何在AI时代重新思考同行评议”。PLOS出版商正在仔细考虑,如何在不损害研究诚信的前提下利用AI优化同行评审。

    当前学术出版界的通用标准是作者可在稿件准备阶段使用生成式人工智能,但需遵守若干限制条件。然而,同行评议环节对AI的使用却有着严格限制。许多期刊的政策明确规定,编辑与评审人不得将稿件内容上传至生成式人工智能工具;部分期刊,如Science,完全禁止在同行评议中使用生成式人工智能,另有一些期刊,如PLOS、Wiley,则允许特定AI使用场景,例如用AI翻译或编辑自身的评审意见。

    为何标准存在差异?限制或禁止在同行评议中使用AI的政策,旨在减轻编辑或审稿人使用生成式人工智能可能带来的风险,如:降低未发表内容和敏感数据的机密性、评估过程缺乏严谨性和针对性、对生成式人工智能输出内容及同行评议贡献者进行欺诈性虚假陈述;助长并加速同行评议操纵行为。

    尽管如此,期刊与出版商仍在探索内部AI工具在同行评议中的应用。“内部使用(期刊工作人员使用)”与“外部使用(学术编辑与评审人使用)”的一个关键区别在于,期刊可以在受控的技术环境中部署内部工具以保护数据安全,从而确保机密内容不会被吸收进训练集,进而影响其他用户的输出。

    当数据安全措施到位后,AI有助于提高期刊执行其标准和政策的一致性。例如,AI能检测并生成评审报告,对诸如不完整、不可验证或已撤稿的参考文献、有问题的统计分析以及未遵守数据可用性和预注册要求等问题提出质疑。人类审稿人在处理这类直接影响研究诚信和可重复性的问题时,其关注程度往往不一致。

    尽管AI在支持同行评议方面有不错的应用场景,但人类在提供严谨的内容评估方面仍然不可或缺。生成式AI检测并汇总已有的内容,而人类则进行创新和评估。我们引入新的思想和视角,带来创造力、好奇心和智慧,并能够基于跨越多个领域的知识进行综合、情境化、解释和批判。简而言之,机器还远未能复制人类的认知,因此人类能够以机器无法做到的方式参与同行评议和科学讨论。实际上,这意味着人类能够识别出机器阅读或算法无法发现的、但对科学有效性和诚信至关重要的问题。

    迈向“人机结合”的同行评议模式,仍有望缓解同行评议中已知的痛点,如学术人员承担的繁重评审负担,以及评审周期过长的问题。若AI负责评审中的技术层面工作,或许我们就能减少评审人员数量,让剩余评审人员专注于人类独特执行功能的环节。作为此模式的概念验证,在2025年同行评议大会上的一场演讲讨论了一项由《NEJM AI》提供的“快速通道”同行评议服务,该服务仅基于编辑对稿件的评估和两份AI生成的审稿报告,在投稿后一周内做出决定。

    尽管一周内出结果的效率颇具吸引力,但同行评议中至少应纳入2名专家(无论是作为编辑还是评审人),理由如下:作者和文章受益于反映不同视角的评估;通常需要多个人来覆盖进行严格评估所需的主题内容和方法学专业知识;让两个或更多人参与同行评议也能增加识别出任何重大科学和诚信问题的可能性,并能从整体上提升出版物和期刊的可信度;为作者、期刊及更广泛的社群提供了一定程度的保护,使其免受可能损害同行评议的问题影响,例如个人偏见、利益冲突、低质量的评估,以及为个人利益不道德地(滥)用同行评议。

    AI时代已然来临,出版商与研究人员将继续探索其应用场景,但在同行评议的每一个环节,都必须保持谨慎并审慎考量。归根结底,AI永远无法取代人类的专业知识与判断。

  • 原文来源:https://theplosblog.plos.org/2025/09/the-promise-and-perils-of-ai-use-in-peer-review/
相关报告
  • 《人工智能在预测性维护中的作用与应用》

    • 来源专题:人工智能
    • 编译者:高楠
    • 发布时间:2024-07-18
    • 在当今快速发展的工业领域,设备性能取决于效率和可靠性。由人工智能驱动的预测性维护是一种渐进式转变,能够提供对机器状况和性能的无与伦比的洞察力和视角。这种技术不仅有助于减少设备停机时间和相关维护成本,还能提高整体运营效率。 什么是预测性维护?       预测性维护采用数据驱动技术来预测设备故障,以便在发生故障之前及时进行有意义的维护。与被动维护不同,预测性维护是对设备故障做出响应,或定期安排预防性维护,与设备状况无关。在这种维护下,仅在需要时进行维护。该方法依赖于对植入机器的传感器数据的持续监控和分析。 人工智能在预测性维护中的作用       人工智能(本质上是机器学习)一直是预测性维护的核心,它通过分析大数据分析出模式并预测可能的故障。以下是人工智能增强预测性维护的方式: 1、数据收集和分析。人工智能系统从安装在设备上的各种传感器收集信息。这些传感器捕获与温度、振动、压力等相关的数据。所有这些信息都通过机器学习算法传递,这些算法可以识别异常,并预测未来的故障。通过对设备的持续监控,可以获取有关其实时状态的信息。 2、模式识别。在识别数据中存在的大模式时,机器学习算法正在发挥作用。因此,人工智能能够追踪历史数据中的趋势和周期性,这些趋势和周期性可能在故障发生之前就预示着故障的发生。因此,这种能力使维护团队能够在问题升级之前解决问题,从而降低意外停机的风险。 3、预测模型。人工智能驱动的预测性维护模型将使用历史和实时数据,来预测设备“何时”最有可能发生故障。此类模型将非常精确和可靠,因为它们将针对各种机械的故障模式进行训练。预测模型可以在最佳时机安排维护活动,从而优化维护计划并降低成本。 4、异常检测。人工智能算法可以发现人类操作员可能未注意到的设备行为异常。这种方式可以连续绘制设备性能图表,因此可以记录与正常操作条件的微小偏差,从而提前发出问题预警。因此,及早发现这些异常,可以在小问题升级为大问题之前将其拦截。 人工智能驱动的预测性维护的好处       将人工智能与预测性维护相结合可以带来以下几个相关的关键好处: 1、减少停机时间。预测性维护最显著的优势之一可能是减少计划外停机时间。由于它可以在故障发生之前预测到故障,因此可以在非高峰时段或计划停机期间安排维护,以确保一切顺利运行,并将中断次数降至最低。 2、节省成本。它有助于优化维护计划,并减少过多的维护工作。因此,它确保在劳动力、零件和生产损失方面节省总体成本。此外,企业可以避免导致昂贵的紧急维修或更换的灾难性故障。 3、延长设备使用寿命。预测性见解可以为定期维护提供机会,包括延长设备的使用寿命。它应通过尽早解决问题和在最佳条件下运行机器来确保减少磨损,从而延长使用寿命并提高回报率。 4、提高安全性。预测性维护可避免意外的设备故障,从而改善工作条件,避免发生事故或危险情况。此外,当设备处于良好状态时,它会降低发生事故并导致受伤的可能性;因此,这可以确保员工在更安全的工作环境中工作。 5、提高效率。人工智能驱动的预测性维护可优化资源利用率,并提高总体运营效率。随着停机时间的减少,维护活动的规划和开发也在提高生产力。此外,人工智能可能有助于识别设备性能中的低效之处,从而通过改进这些流程来帮助节省能源。 人工智能在预测性维护中的应用       多个行业将利用人工智能驱动的预测性维护的适用性,并带来不同的好处: 1、制造。在制造业中,预测性维护使生产线能够不间断地运行。人工智能传感器分析来自机器(电机、泵、传送带)的数据,以预测设备故障并规划维护,从而减少停机时间,并提高生产力。 2、交通运输。航空、铁路和航运等运输行业的预测性维护可以使车辆和设备保持最佳状态。人工智能控制发动机、刹车和其他主要部件的状况,确保旅途安全有效。 3、能源。能源行业中的更多用例——预测性维护应用程序可监控涡轮机、发电机和其他关键基础设施,以获得大多数预防性补救措施。人工智能驱动的洞察力将能够帮助避免故障、优化维护计划并确保稳定的能源供应。 4、医疗保健。人工智能正在进入医疗设备维护领域,包括MRI机器、呼吸机和诊断设备。人工智能可确保关键设备无故障运行,最大限度地减少停机时间,并确保更好地照顾患者。
  • 《Lumana如何重新定义人工智能在视频监控中的角色》

    • 来源专题:人工智能
    • 编译者:高楠
    • 发布时间:2025-11-03
    • 尽管人工智能取得了进步,但大多数视频安全系统仍无法识别真实世界条件下的背景。大多数相机可以捕捉实时画面,但很难解读。这是一个让智能城市设计师、制造商和学校越来越担忧的问题,他们都可能依赖人工智能来保护人员和财产安全。 Lumana一家人工智能视频监控公司认为,这些系统的错误在于它们的建造基础。“传统的视频平台是几十年前创建的,用来记录镜头,而不是解释它,”Lumana的营销副总裁Jordan Shou说。“在过时的基础设施上添加人工智能就像在旋转式电话中放入智能芯片。它可能会起作用,但它永远不会真正智能或可靠到足以理解正在捕获的内容或帮助团队做出更智能的实时决策。” 重大后果 当传统的视频安全系统在较旧的基础设施上部署人工智能时,会出现错误警报和性能问题。警报和漏检不仅仅是技术上的小故障,也是可能带来灾难性后果的风险。Shou指出了最近的一个案例,一个使用人工智能插件进行枪支检测的学校监控系统,错误地将一个无害的物体识别为武器,引发了不必要的警察反应。 “每一个错误,无论是错过的事件还是错误的警报,都会导致不当的反应,侵蚀信任,”他说。"它浪费时间和金钱,并且会给没有做错事的人带来创伤." 错误也可能代价高昂。每一次假警报都迫使团队暂停真正的工作并进行调查,这一过程每年会耗费数百万公共安全和运营预算。 构建更智能的基础 Lumana没有在旧的视频安全框架上分层人工智能,而是用一个结合了现代视频安全硬件、软件和专有人工智能的一体化平台来重建基础设施。该公司的混合云设计将任何安全摄像头连接到GPU驱动的处理器和在边缘运行的自适应人工智能模型,这意味着它们尽可能靠近拍摄镜头的地方。 Shou说,其结果是更快的性能和更准确的分析。每台相机都成为一个不断学习的设备,随着时间的推移不断改进,了解其环境特有的运动、行为和模式。 “问题是,今天的大多数视频监控系统使用静态、现成的人工智能模型,这些模型仅设计用于特定环境。人工智能不需要一个完美的实验室环境来工作,”Shou解释说。“它应该可以在真实世界条件下工作,并根据输入的视频数据进行调整。这就是为什么,当客户将Lumana与他们现有的或其他人工智能系统进行比较时,差异和性能差距立即显而易见。” 该公司的设计也优先考虑隐私。所有数据都经过加密,受访问控制管理,并符合SOC 2、HIPAA和NDAA标准。客户可以选择禁用面部或生物特征跟踪。“我们关注的是行动,而不是身份,”Shou说。 真实世界的用例 Lumana的系统已经在多个行业部署。其最引人注目的项目之一是与JKK包,24小时包装制造商,使用安全摄像机来监控其设施的安全和运营效率。 在Lumana部署之前,摄像机只记录事件供以后查看,这导致了事件的遗漏和被动事件响应。升级后,相同的硬件可以实时检测不安全的动作、设备故障或制造瓶颈。该公司报告称,在不到一秒钟的时间内,调查和警报速度提高了90%,大大提高了对安全事故的响应速度,而无需更换一台摄像机。 在另一个部署中,一家杂货零售商将Lumana的人工智能集成到其现有的摄像头网络中,以标记不寻常的销售点活动,如重复的空白,并将这些事件与视觉证据相关联。该系统通过提供违反政策的真实示例,减少了缩减并提高了员工的责任感。 除了制造业,Lumana的系统还被用于大型公共活动、餐馆和市政运营。在城市,它有助于识别非法倾倒和火灾;在快速服务链中,它监控厨房安全和食物处理。 更广泛地推动可靠的人工智能视频安全 Lumana的工作正值准确性和问责制取代速度成为企业人工智能的首要任务之际。F5最近的一项研究发现,只有2%的公司认为自己完全准备好扩展人工智能,治理和数据安全被认为是主要挑战。 这种谨慎反映在市场上,分析师警告说人工智能承担更多的决策,系统必须保持“可审计、透明、无偏见” Lumana的架构响应了问责的号召,将性能和控制与数据治理和网络安全融合在一个易于部署的解决方案中,增强了现有的安全摄像头基础设施,帮助组织从人工智能视频中提取即时价值。 机器视觉的下一步 Shou说,Lumana的下一个发展阶段旨在从探测和理解转向预测。 “人工智能视频的下一次进化将是关于推理的,”他说。“实时掌握环境,从收集的视频数据中提供可操作和有影响力的见解的能力,将改变我们对安全、运营和意识的看法。” 对于Lumana来说,目标不仅仅是教AI如何看得更好,而是帮助它理解它正在看到的东西,并让那些依赖视频数据的人做出更智能、更快的决定。