《美国出版业的人工智能 (AI)——统计数据与事实》

  • 来源专题:科技期刊发展智库
  • 编译者: 张恬
  • 发布时间:2024-02-22
  •   人工智能虽早已应用于出版业,但ChatGPT的发布标志着一个新时代的到来,引发了全球范围内的炒作、恐慌以及关于人工智能如何/为何能在各行各业得到应用的焦灼问题。2021 年底进行的一项调查显示,出版商预计 2022 年将在新闻编辑室的一些任务中使用人工智能。2022年年底,ChatGPT 推出,并在全球积累了数百万用户。ChatGPT 的月活跃用户数量预计将激增,该服务对学生、职场人士、记者和图书作者都非常有用。然而,这并不是说生成式人工智能工具没有受到质疑。那么,业界及其受众是怎么看的呢?

      出版业对人工智能的主要担忧

      出版商对在新闻中使用人工智能的主要担忧是信息的不准确性和内容的质量,抄袭也是一个令人担忧的问题。事实上,在新闻日益集中的情况下,消费者有可能遇到错误和虚假信息、有偏见的内容和深度伪造的内容,记者面临着提供准确、可信和可靠信息的压力。一项调查显示,对于人工智能撰写的新闻对新闻行业的影响,美国成年人的态度大多是负面的,与政治派别无关。鉴于党派身份往往会严重影响人们对新闻媒体客观性的看法,所有选民都对人工智能新闻抱有同样的看法,这多少有些出人意料,也表明人们普遍缺乏准备。

      在图书行业,情况也很紧张。人工智能书籍的爆炸式增长引起了作者们的恐慌,并呼吁加强监管和提高透明度。在那些书籍被用来训练人工智能的作者中,报酬也是一个争议点。美国公众同样担心人工智能写书对图书行业的影响,约有40%的成年人认为其结果会是负面的。

      新技术一般都会引起褒贬不一的评价,当然,就人工智能在新闻领域的应用而言,对新闻媒体信任度的下降可能是消费者担忧的原因之一。与此同时,世界各地的新闻编辑室已经开始投资并使用人工智能开展工作。

      新闻编辑室使用人工智能:现状

      根据一项全球研究,超过 30% 的新闻编辑室高管认为,在他们的新闻编辑室中,有 5% -15% 的记者至少每周使用一次 ChatGPT。同一份报告还显示,出版商认为人工智能生成工具在新闻编辑室中大有可为,50% 以上的出版商已经将人工智能生成工具用于文本创作,30% 以上的出版商将其用于内容创作、主题构思和翻译。近 40% 的出版商打算利用 GenAI 工具发挥辅助作用并提高质量,只有 4% 的出版商表示不会将人工智能用于这些任务。

      随着出版商尝试新的方法来精简员工工作流程、提高效率、加快或简化日常任务,人工智能在新闻领域的应用将不断增加。在图书领域,人工智能不太可能很快取代人类作者。不过,对于创作者来说,透明度将是帮助消费者区分哪些是人工智能所写、哪些不是人工智能所写的关键所在,因为抗拒人工智能的虔诚读者和热衷于尝试此类出版物的读者很可能会分为两个阵营。总而言之,人工智能原生创作者和使用人工智能提升产品的传统媒体在这个新时代必须牢记:获得并保持消费者的信任对于推动媒体参与度非常重要。

相关报告
  • 《ChatGPT对新闻出版业的影响》

    • 来源专题:科技期刊发展智库
    • 编译者:转载
    • 发布时间:2023-11-21
    • 中国新闻出版传媒集团主办的《高低音会客厅》于近日特邀学界和业界的专家学者,共同探讨ChatGPT对新闻出版业的影响与改变。总结三位专家对ChatGPT对新闻出版业的影响和改变的看法如下: 天津大学新媒体与传播学院院长陆小华 通过把ChatGPT与聊天机器人、搜索引擎作比较,总结了ChatGPT的特点,阐述了ChatGPT的特征及定位,并且对于ChatGPT无法向用户提问这一现象,提出了自己的看法;最后,陆院长对于ChatGPT是否能取代某些传统职业这一问题表述了自己的看法: (1)ChatGPT的特征:与以往的聊天机器人相比,ChatGPT最大的特征和优势是有智能生成内容的能力;与搜索引擎相比,ChatGPT是依据问题得出的回答,并且具有联系上下文的能力。 (2)ChatGPT的定位:应把它看作是一种具有很大潜力、变革力、推动力的智能内容生成产品、智能内容生成技术群。 (3)关于“ChatGPT无法向人类提问”现象的看法: 提出问题是人类智能的体现。机器与人类相比,不具备情感和理性思考的能力。是否可以提出恰当的问题,可以作为衡量人工智能发展水平的标准。 ChatGPT的训练方式之一是利用人类所提的问题进行训练,这使得它比过去的互联网应用更聪明。随着智能内容生成产品参数量增大,这种基于人类反馈进行强化学习的训练方法也会优化。 以后,智能“处理”一定会走向智能“理解”,相关领域的工作者的研究重心会从算法、数据、模型优化转向研究如何让智能内容具有人类提问的智慧。 (4)ChatGPT对于新闻出版行业及工作者的影响: ①对于工作者的影响: ChatGPT不能取代编辑、记者,但可以作为提升工作效率的工具。 原因:编辑、记者具有的使命感、价值观、感情、同理心、想象力、探寻真相的能力都是智能内容生成技术永远不能取代的。后者的本质是基于现有算法对已有知识的再现,不具备上述能力以及想象力和预测未来的能力。 ②对于新闻出版领域的影响: 智能内容生成科技和产品给新闻出版领域带来的最大挑战是内容生产方式出现革命性变化,媒体机构的组织架构、发展战略、竞争策略等都会相应发生变化。 中国新闻出版研究院原副院长张立 ChatGPT因其数据量和运算速度超越文案型工作者,所以对后者有影响,但是在职责和使命层面无法取代后者。因此,新闻出版行业从业者应积极应对ChatGPT的出现,回归新闻的本质属性,让新闻更好地落地。 中国科学院自动化研究所人工智能伦理与治理中心主任曾毅教授 首先阐明对ChatGPT的理解,然后阐述了ChatGPT对新闻出版行业的影响并提出应对方法。最后,曾毅教授对于ChatGPT无法向用户提问这一现象,提出了自己的看法。 (1)对ChatGPT的理解:ChatGPT是一个比较成功的具有自动生成技术的语言工程,人工智能在先进技术集成方面以及结合大规模数据和用户反馈等方面一个成功的应用案例。但是,ChatGPT并不属于人工智能科学方面的进展,和人类的智能本质无关。 (2)ChatGPT对新闻出版行业的影响及应对方法: 影响:人工智能不具备新闻工作者的理解能力,无法将正确的价值观、真相带给社会。基于AI的ChatGPT同样只具备数据处理能力,不具备理解力。 如果要让ChatGPT代替记者,有一个需要逾越的点:新闻工作者做的人工标注。目前,ChatGPT的优秀表现是依赖背后大量人工标注数据的辅助。如果没有新闻工作者提供新的新闻报道作为训练集,ChatGPT就无法进行更新优化。 应对方法:可以将数据收集的工作交给机器做,让新闻工作者聚焦其他工作,将自身价值最大化发挥。 (3)关于“ChatGPT无法向人类提问”现象的看法: 目前,AI不具备理解力,从而没有提问的动机,是一个现象级产品。未来,AI会产生理解能力,完成从处理到理解的跨越,实现这一跨越也是研究人员努力的目标。ChatGPT对于产业是有益的,打开了应用空间的可能性。 文题目:中国新闻出版广电报公众号:ChatGPT来了,专家认为对新闻出版业将带来这些影响 原文链接:https://mp.weixin.qq.com/s/qGNsqvEQORFzhV4-oSGSTg
  • 《美国新闻学会首席出版官谈科学出版业不断变化的格局及其对同行评议的影响》

    • 来源专题:科技期刊发展智库
    • 编译者:孟美任
    • 发布时间:2023-11-27
    •   2023年9月25-29日,美国物理学会和众多机构及研究人员参加了同行评议周活动,这是一项全球性活动,旨在庆祝同行评议对科学事业的价值,并讨论同行评议的未来。APS News 采访了美国新闻学会首席出版官Rachel Burley,探讨了科学出版业不断变化的格局及其对同行评议的影响。   学术出版业正在以惊人的速度发生变化,人工智能等新兴技术正在颠覆学术界和产业界,科学家们正在撰写比以往更多的论文。但从本质上讲,学术同行评议——研究人员向其他专家征求建议并获得对其论文的反馈——已经存在多年,其目的以及初衷并没有改变。同行评议一直都是为了确保研究文章在发表前的质量、有效性和可靠性。   (1)如今,科学家面临着“要么发表,要么毁灭”的强大压力,而在过去几十年中,发表的研究成果数量也大幅增长,这是为什么呢?这些变化对同行评议专家有何影响?   同行评议危机在某些学科比较严重,但您所描述的研究成果如雨后春笋般增长是其背后的原因。在我看来,这始于21世纪初巨型期刊的出现。这些刊物摒弃了选择性和新颖性。他们并不一定要求审稿人寻找新颖和与众不同的东西,他们只是强调:如果技术上合理,我们就发表。   我认为这并不一定是坏事,但产生了一系列以前未发表的新研究。而且,由于在开放获取模式下,每发表一篇论文都有可能带来收入,因此新的出版商进入了这一领域。因此,出版压力和送审论文数量的增加(期刊数量增加,选择性降低),使整个生态系统给同行评议专家带来了更大的压力,他们需要审阅更多的稿件,却没有更多的时间。   (2)出版商如何解决这个问题?   出版商最初的工作重点是简化流程,想方设法缩短同行评议的时间。例如,首先为论文找到合适的审稿人。他们还试图通过自动化或接管同行评议专家无法合理完成的部分工作(如投稿检查)来提高效率,以确保稿件对评审专家来说处于最佳状态,因此他们只需关注科学性。   许多出版商还对审稿人培训进行了投资。一般来说,没有正规的审稿人培训,也许能够很幸运能找到人指导你完成整个流程,但很多审稿专家并不知道他们需要什么样的反馈。   但由于研究数量如此之大,即使所有这些努力加在一起,也不一定能解决问题。   (3)很多人认为,多元化的同行评议专家队伍可以提高研究水平,减少偏见,包括影响论文发表的偏见。期刊出版商如何提高同行评议人员的多样性?   越来越多的人认识到,出版商在这方面可以发挥重要作用。一些出版商正在创建审稿人数据库,不仅收集研究人员的专业知识和背景,还收集人口统计信息,以提高包容性,他们正在与资源匮乏群体组织合作。   出版商也在尝试双盲同行评议,据说这样可以消除一些偏见,或者完全公开透明的同行评议,即评审人评审意见与论文一起发表。其理由是,如果一切都公开记录在案,就很难产生偏见。但这两种方法都没有被证明是完美的。在物理学领域,这尤其困难,因为我们有 arXiv。如果人们真的想知道谁写了一篇论文,他们几乎肯定能找到。   (4)在你看来,公开同行评议的局限是什么?   如果你要为你所在领域比你资深的知名专家评审一篇论文,那么你几乎肯定不想以负面的方式批评这篇论文,因为这会损害你的职业发展。至少,有些人会这么认为。   还有时间投入。很多人觉得时间投入是一个很大的限制,所以他们宁愿不做公开评审。   (5)同行评议面临的另一个挑战是跨学科研究的兴起。期刊如何确保跨越传统学科界限的研究得到严格评估?   首先,期刊可以努力组建多学科审稿专家团队。并非每个人都具备所有学科领域的专业知识,但作为一个团队,他们更有可能覆盖多学科研究。其次,透明度也会有所帮助。如果能将跨学科研究的评审方式透明化,那么就能提高评审过程的可信度。这可能意味着,作为出版商或期刊,需要提供信息,说明所使用的审稿专家的专业知识,以及如何采纳他们的反馈意见的。最后,期刊编辑也可以发挥一定作用,他们可以指导同行评议过程,确保跨学科研究得到正确的反馈。编辑还可以帮助作者更清晰地解释论文中涉及的概念(领域术语),或帮助审稿人理解论文中的概念。同行评议在跨学科研究中尤为重要,因为读者并不是什么都懂。   (6)由于预印本(arXiv.org)的上传速度很快,同行评议在物理学界可能显得尤为缓慢。出版商是如何考虑同行评议效率的?   在物理学领域,在发表和投稿前或过程中时,将原稿发布到arXiv上征求反馈意见是司空见惯的事。对出版速度的关注让出版商开始发挥创意——创建自动化系统、外包稿件评审的某些环节、监控并缩短每个阶段的周转时间。   但是,快速同行评议和出版的弊端在于:一些不该发表的东西被发表了,而且科研造假的风险也在增加,可能会出现漏网之鱼。   (7)您认为出版会太快吗?   速度与严谨之间需要平衡。如何让出版速度更快,同时确保可以信任它,并确保同行评议的严谨性?这也正是期刊的职责,专家团队为值得信赖的期刊工作。这样的方案并不完美,但是并没有找到可替代的方案。   (8)白宫去年宣布,联邦政府资助的研究成果必须在2025年底前向公众开放,这在一定程度上推动了开放获取的发展。这些转变对同行评议有何影响?   大多数出版商都在向开放获取过渡,包括美国物理学会。我们在《物理评论》期刊中提供开放获取和混合选项,并参与粒子物理学开放获取出版赞助联盟。   虽然开放获取提高了文章的可获得性,但也需要合适的资助模式。在美国,白宫和相关机构并没有倡导任何一种商业模式。但很明显,开放获取的“绿色通道”(在出版后立即缴存稿件,而没有12个月的封闭期)依赖于订阅模式。随着越来越多的内容开放,这种模式将难以持续。   这让学术出版商陷入了目前行业所处的困境,我们正在努力寻找一种可持续的资助模式,以确保我们能在开放获取的世界里继续进行严格的同行评议。   (9)人工智能如何影响同行评议?它有哪些好处和风险?   在谨慎操作的前提下,人工智能也有其益处,比如实现自动化流程——匹配合适的审稿人、识别潜在的伦理问题、评估语言质量和写作。目前,所有这些事情都可以通过人工智能可靠地完成,并提高效率,分担编辑和审稿专家的工作,让他们能够专注于科学研究。   还有一种可能是,人工智能变得如此优秀,以至于它真的可以进行同行评议。当然,现在没人相信这一点,但我们也曾不相信开放式人工智能会发展到今天这个阶段。ChatGPT已经通过了大学考试。但挑战在于,人工智能算法可能会从它们所训练的数据中继承偏见。这可能会导致更多的偏见,比如有偏见的审稿人推荐。我们必须努力确保消除这种情况,减少意外偏见。   此外,我们还需要考虑隐私、数据安全和透明度等方面的道德问题。作者和审稿专家需要了解他们的数据是如何被使用的,以及谁可以访问这些数据。   有些方面人工智能工具还无法做到,需要人工判断。人工智能算法还不能确定什么是新颖的或突破性的。它们是在现有研究基础上训练出来的,而我们要找的是新发现。 原文标题:Scholarly Peer Review is an Age-Old Practice, But Publishing is Changing 原文链接:https://www.aps.org/publications/apsnews/202310/peer-review.cfm