《类ChatGPT人工智能技术嵌入智慧图书馆:应用价值、潜在风险及防控策略》

  • 来源专题:数智化图书情报
  • 编译者: 于彰淇
  • 发布时间:2023-12-22
  • 摘要:ChatGPT是人工智能领域的颠覆性成果,引起了社会各界的高度重视。将类ChatGPT人工智能技术嵌入智慧图书馆,对于智慧图书馆的创新与发展具有重要意义。文章采用历史研究法、文献调查法以及理论分析法,在梳理ChatGPT的发展历程及其主要技术特征的基础上,深入分析了类ChatGPT人工智能技术嵌入智慧图书馆的应用价值、潜在风险以及风险防控策略。研究显示,类ChatGPT嵌入智慧图书馆具有提高资源建设质量、优化用户服务体验、实现人员数智赋能、促进管理决策转型等应用价值,同时也存在知识产权保护难度上升、人机互动产生误导冲突、信息安全保护遭受冲击、管理决策过渡依赖技术、复合型馆员有严重缺口等潜在风险。对此,智慧图书馆应制定以下风险防控策略:构建版权协同保护体系、全面构建技术治理机制、完善数据安全保障体系、创新组织领导管理机制以及推动技术人力资源建设。
  • 原文来源:https://mp.weixin.qq.com/s/mN0g7E10tt7AkT6OgGyp9g
相关报告
  • 《IFLA:人工智能对图书馆的影响及图书馆应对策略》

    • 来源专题:数智化图书情报
    • 编译者:杨小芳
    • 发布时间:2024-09-15
    • 人工智能对图书馆的影响 人工智能可能对图书馆工作产生“广泛而深刻”的影响。 从下表1中我们可以看到,人工智能对图书馆诸多服务产生影响,有些带来根本性的改变,有些只带来微小的变化。预计图书馆将以符合现有角色、与用户需求紧密相关或需要最少资源的方式来应用人工智能。 表 1 人工智能对图书馆运营的影响 我们已经强调了描述性人工智能与提高图书馆馆藏可访问性之间的紧密联系。人工智能技术被应用于生成初始元数据,此技术有望在搜索引擎中发挥作用,并助力综述的某些环节(如结果筛选)。 随着越来越多的学者在研究中使用人工智能技术,对数据科学家社区的支持需求也将增长。图书馆可以在数据发现、版权问题、数据管理和数据保存方面提供支持。 人工智能可能会改变日常的知识工作,例如自动翻译、摘要和文本生成。大量人工智能工具和应用程序可以应用于图书馆专业工作。例如ResearchRabbit、Scite、elicit和openread等工具有助于文献综述。生成式人工智能在图书馆宣传中得到了应用,因为其具备根据特定受众需求调整文本的能力。 因为人工智能能够准确执行复杂的常规性任务,故而具备了在图书馆后端系统中应用的可能。例如,采用机器人流程自动化(RPA)技术处理书目数据,便是一个典型的应用场景。 鉴于图书馆接受的咨询量大,图书馆已倡导采用聊天机器人多年。聊天机器人因为其技术障碍降低而变得可行。聊天机器人可承担如下职责: 回应常规问题 收集用户信息  遵循标准流程提供用户支持 成为新用户的伙伴 人工智能技术将被应用于打造更智能的图书馆空间。一些图书馆已研发了实体机器人用于读者咨询,机器人还被用于执行上架和盘点等任务。此外,已有图书馆采用自动存储与检索系统(ASRS),可以根据需求检索馆藏。通常,此类应用需开展大规模的重建工程。 对于学校图书馆而言,其他人工智能在教育领域的应用,如自适应学习内容创建或聊天机器人等,皆与其相关。(Jisc,2023b)。 因用户的广泛使用,生成式人工智能成为了讨论的焦点,这使得教职员工和学生需要具备一定的人工智能素养(包括数据和算法素养)。图书馆有责任推广信息素养和数字技能。人工智能素养涵盖对人工智能各种表现形式的理解,涉及“批判性评估人工智能技术;与人工智能进行有效沟通与协作;以及在网络、家庭和工作场合运用人工智能作为工具”(Long and Magerko,2020)。 人工智能素养在未来职场中显得至关重要;运用人工智能或与其协同工作的技能案例不断涌现;而其具体实施方式可能因不同学科领域而有所差异。 人工智能也可以应用于预测用户行为模式,从而辅助决策制定。 下表调查结果显示了在撰写本文时的AI发展水平。人工智能素养已迅速成为关注的焦点。(*编者注:此为根据111份样本调查数据的结果;受访者包括?等教育和继续教育图书馆员,主要来自英国。) 表 2 图书馆计划中、试点和成熟应用的人工智能服务 如何更新资料以跟上人工智能不断变化的特性? 哪些应用需求资源最少且最符合用户需求和现有图书馆角色? 哪些发展对重塑图书馆角色最为关键? 哪些最有可能发生,在多长时间内发生? 人工智能技术如何提升图书馆服务?人工智能能帮助解决哪些挑战?潜在的风险和伦理考虑是什么,如何减轻这些风险? 如何持续关注并及时了解新兴的人工智能的趋势和进展? 图书馆如何有效地培养用户人工智能素养? 需要哪些关键的学习成果,在各个学科中的差异性如何? 随着人工智能发生变化,教材应如何更新? 三个重要策略 鉴于人工智能影响的广泛性,图书馆可以采取多种策略以应对。 以下列举三项重要策略建议。 策略一:利用图书馆的AI能力,构建负责任且可解释的描述性AI应用 在拥有大量需要改进资源描述的特色馆藏的情况下,图书馆可以应用描述性AI来创建符合伦理、负责任和可解释的AI的范例,以对抗大科技公司的产品((Lee, 2023; Padilla et al., 2023)。这可以通过遵循良好治理原则来实现,比如: 揭示馆藏的来源,以便使用者全面了解信息来源的性质; 确保应用人工智能的馆藏选择是适当的,考虑到技术和版权问题,同时尊重包容性、土著权利和非殖民化问题;尊重那些在收藏中被代表的人以及所有其他利益相关者的权利;适当奖励/认可志愿者和众包工作者;尊重知识产权问题,例如藏品中的版权/内容许可; 使服务对目标用户易于使用、可访问且可解释; 充分记录项目以确保可解释性; 尽可能公开地共享代码、训练数据、工具包等; 从可持续性角度评估项目,包括环境影响的角度 实现这一目标仍然存在许多挑战,例如如何: 考虑优先应用人工智能的馆藏 评估经济可承受的现成工具是否适用于图书馆馆藏历史数据 解决概念性挑战,例如如何对图像进行分类 将概念验证项目转化为可持续服务 策略二:利用图书馆员的数据能力增强组织的AI能力 并非所有图书馆都拥有需要使用人工智能的馆藏,但图书馆员在的数据相关领域的专长对于机构应用人工智能具有较高价值,因为当今的人工智能是数据驱动的。 这种专业知识可以支持图书馆所在的更广泛组织内的数据科学家,如学术环境中的多学科社区数据科学家,或在卫生服务或政府机构分析数据的分析师。相关行为包括: 在复杂的信息环境中寻找数据源 推广数据共享、开放性和互操作性的价值 解释数据来源、有效性和质量的重要性,以了解如何适当使用该数据 根据版权、知识产权等解释哪些数据可以使用,哪些不可以 使用标准描述数据及其价值 存储、保存(或销毁)数据 所有这些做法都符合信息治理和管理的专业知识,但需要将这些知识转化到数据领域。 策略三:推广人工智能素养以提升组织和社会的AI能力 在推广人工智能素养方面发挥领导作用,是最符合现有图书馆实践和图书馆员身份的策略,特别是在大学、学校和公共图书馆中。人们普遍认识到,公众作为公民和从业者需要了解新技术。各个专业的学生都需要这样的知识来提高就业能力。 图书馆员已经开发了信息素养项目,人工智能某些方面素养可以纳入其中。他们已经发展了所需的教学知识和技能。 人工智能素养可能包括识别人工智能何时被使用的能力;理解狭义人工智能和通用人工智能之间的差异;了解人工智能擅长解决哪些类型的问题;了解机器学习模型如何训练。另外还包括对诸如偏见、隐私、可解释性和社会影响等伦理问题的认识。 由于人工智能基于数据,因此数据素养被认为是人工智能素养的组成部分。算法素养是一个已经发展起来的概念,用于描述搜索和推荐等服务如何越来越多地由算法塑造,以使内容个性化,但也可能限制信息的可见性并产生信息茧房效应。更正式地说,它被定义为“了解在线应用、平台和服务中算法的使用,了解算法的工作原理,能够批判性地评估算法决策,以及拥有应对甚至影响算法操作的技能”(Dogruel et al, 2022: p.4)。将算法素养扩展到搜索范畴之外与人工智能素养相关。 人工智能很复杂且难以解释。它有多种应用和形态。它基于难以理解的计算思想和统计数据。通常即使是人工智能的设计者也难以理解人工智能作出的决策结果,因为机器从数据中学习模式。虽然一些人工智能的形象让我们期望去使用一个明确的AI服务(如ChatGPT),但实际上它通常嵌入在基础设施中,不容易识别或抵制。的确,可以公平地说,大型科技公司不一定希望人工智能的工作方式为人所知,因为这是商业机密。
  • 《防范人工智能风险要有安全阀》

    • 来源专题:人工智能
    • 编译者:高楠
    • 发布时间:2024-08-19
    • 党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》强调,建立人工智能安全监管制度。作为一种战略性新兴技术,人工智能已深度融入人们的生产生活,对于工作效率的提升大有裨益,还不断催生出新产业、新业态、新商业模式,持续为经济社会发展注入新动能。作为人工智能的一个重要组成部分,生成式人工智能技术的飞速发展,涵盖虚拟现实、医疗保健、创意产业等多个领域,为各行各业带来更多创新与价值。不过,当前也要密切注意生成式人工智能可能引发的数据安全、信息误导等风险挑战,坚持发展与安全并重。          所谓生成式人工智能技术(AIGC),是指基于算法、模型、规则等,生成文本、声音、图片、视频等内容的新一代人工智能技术。算力、算法、数据是这种技术发展的三大核心要素,这几个要素的综合作用,使得其具备自生成模式,能实现闭环式学习体系的构建,通过利用海量数据信息,自主学习要素,进而生成原创性的专业知识内容或产品并可以不断更新,进行自我升级迭代。基于这些特点,越来越多的行业正将其作为提高生产力水平的新要素,创造出指数级的价值,并催生了大量的产业应用,教育、娱乐、商业等领域均有所及。2022年末,美国OpenAI公司推出的ChatGPT标志着这一技术在文本生成领域取得显著进展。世界知识产权组织(WIPO)不久前发布的《生成式人工智能专利态势报告》显示,2014年到2023年,中国生成式人工智能专利申请量超3.8万件,居世界第一位,是第二名美国的6倍。   生成式人工智能是把双刃剑,在加强技术研发和创新的同时,需努力提高其安全性和可控性,有效识别潜在风险和漏洞并形成应对策略。2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》指出,有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。因此,未来要进一步推动生成式人工智能的发展,应从网络安全、数据安全、个人信息保护等层面入手,采取包容审慎的态度,从技术、伦理、法律等多方面设置“安全阀门”,防范生成式人工智能风险。   一方面,完善相关法律法规的有效界定,合理有效监管。加快立法进程,针对数据、内容安全、知识产权等生成式人工智能发展的关键问题,进行分类管理、分类立法,通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。明确监管底线,制定相应技术使用规则和行业规范,强化对生成式人工智能企业、平台和使用该技术高校各主体等失范行为的监管,及时发现处理违规行为。将“传统事后监管模式”转为“事前预防评估模式”和“事中控制模式”,制定事前评估、风险预警和事中控制规范,有效减少安全事件的发生、降低安全事件对企业、高校等造成的负面影响。加快制定相应的技术使用规则和应急处理措施,强化对应用生成式人工智能的企业、平台的监管和约束。   另一方面,持续增强数据安全。建立数据全生命周期监督管理,包括数据采集输入阶段的虚假、错误信息入库管控,数据处理加工阶段的数据标注管控监督,数据输出阶段(二次采集输入阶段)的数据真实性检测验真等。针对医疗、金融、电商、高校等重点领域,通过技术手段保障数据安全。及时发现和处理数据方面的违规行为,保障数据及隐私安全,防止滥用数据造成的损失,确保其符合法律法规和社会公德。