《人工智能时代的社会秩序》

  • 编译者: 程冰
  • 发布时间:2025-07-23
  • 人工智能对人类带来的挑战之一是其“去智化”功能正在产生“人工智残”现象,即由于滥用人工智能相关工具,导致人类自我智力伤害,从而对社会秩序产生深刻影响。“人工智残”现象的产生源于人工智能的2种结构性因素——技术结构特性和治理结构特征。技术结构特性表现为技术能力高度集中、管控高度集权、商用者高度垄断、使用者高度分散。治理结构特征则表现为高度等级化,形成一种“牧民社会”的治理结构,即人工智能自身快速发展,加速人类自我愚昧的进程,摧毁现行人类生活体制,从而逐渐扮演“牧羊犬”的角色。为改变这种趋势,政府应发挥核心作用,通过确立和强化政府的责任、网络平台责任、加强网络监测与情报收集、重塑教育与人类理性等方式,塑造人工智能时代的社会秩序。
相关报告
  • 《人工智能素养概念的理解》

    • 编译者:程冰
    • 发布时间:2024-07-26
    • 人工智能素养是人工智能世界中每个人的必备能力,学者从不同角度丰富其含义。Burgsteiner等提出了人工智能素养的概念,指出人们需要具备理解人工智能基本知识和概念的能力。Long等将信息素养定义为一组能力,除了在道德上了解和使用人工智能之外,个人还需能够批判性地评估人工智能技术,与人工智能进行有效沟通和协作。Ng等对人工智能素养概念进行了补充,指出该素养应成为每个人的基本技能,并包含四个视角,即了解和理解、使用和应用、创造和评估及伦理问题。Cetindamar等关注与数字工作场所相关的人工智能素养,并确定了与技术、工作、人机和学习相关的能力。Kong等提供了一个可操作的定义,即理解人工智能概念、使用人工智能概念进行评估的能力,以及使用人工智能的概念理解现实世界。Ng等关注如何帮助用户建立概念理解,培养人工智能素养和赋能,将人工智能应用程序集成到自己的职业中来进行创新并作出贡献。Robinson提出人们需要学习如何明智地使用人工智能技术,具备理性的应用能力,学会区分道德和不道德行为。Steinbauer等提出人们需要具备应用人工智能技术在数字世界中生活、学习和工作的能力。Buder等指出在人工智能的世界中保持工作相关性并支持未来的职业转型需要个人具备高度发展的自我调节学习(SRL-self-regulated learning)技能,并在使用人工智能系统工作的同时保持决策的能力[12]。同时,日常生活和工作所需的知识和技能的相互关联性、复杂性和快速变化已将注意力从以技术为中心的技能转向更广泛的通用能力,如创造力、分析思维、主动自我驱动学习和全球公民意识。 我国对于人工智能相关能力的探讨主题更为广泛且内容更为具象。有研究提出,在人工智能背景下,算法素养是一种需要掌握的技术能力,需要培育人与算法共存的能力。肖恬提出,算法素养是人们面对算法分发信息时的选择、理解、质疑、评估以及思辨的反应能力。吴丹等提出,算法素养即具备感知、理解和使用算法的能力,能够正确使用以算法为驱动力的产品并具备对算法社会的适应能力。王罗娜等认为计算思维的概念认识视角大致可分为计算机科学视角、思维过程视角、问题解决视角三类。郑勤华等从智能知识、智能能力、智能思维、智能应用、智能态度五个维度阐述了智能素养的构成。 参考文献来源:刘邦奇,尹欢欢.人工智能赋能教师数字素养提升:策略、场景与评价反馈机制[J].现代教育技术,2024,34(07):23-31.
  • 《人工智能时代的算法素养——内涵剖析与能力》

    • 编译者:杨小芳
    • 发布时间:2024-10-31
    • 人工智能时代的到来强化了技术环境对社会发展的影响,算法的广泛应用塑造着新的社会结构与规则,也对人们的信息处理能力提出了更高的要求。算法素养作为人工智能时代重要的素质能力集合被提出。       在信息时代,信息成为世界运行所仰赖的血液、食物,信息素养则成为人类参与工作和日常生活的基本能力,也成为图书情报学科的重要研究话题。随着信息技术的不断发展,人类社会先后经历了信息时代、数字时代、大数据时代、人工智能时代。为应对技术环境变化,以信息及其载体、表现形式、服务形式为核心,出现了诸如“计算机素养”“数字素养”“数据素养”“AI素养”等概念。       综合已有文献对算法素养的定义,融合功能型定义与解释型定义两大方向,将算法素养定义为:“具备感知、理解和使用算法的能力,能够正确使用以算法为驱动力的产品并具备对算法社会的适应能力。”以此为基础,对算法素养的功能进行更详细的解释,即具备算法素养的人能够:①拥有使用算法及相关技术工具解决所遇问题的能力;②意识到并理解以算法为驱动力的社会及其运行规则;③能够对算法及其产生的正面、负面效应进行客观评价,具备算法风险意识。       算法素养是人工智能时代人类适应社会技术变化的体现。基于对相关概念溯源与算法素养定义的梳理,结合算法素养界定的核心思想,从个体与社会两个角度对算法素养内涵特点进行解读。       首先,算法素养反映的是社会技术环境对个体的能力素质要求,理解其内涵有两个关键点。①时代背景。算法素养的产生以人工智能技术发展为时代标志,是算法普遍应用与算法负面效应暴露等内外动因推动的结果。算法素养与计算机素养、数据素养等概念的核心区别在于时代的独特性。②素养本质。尽管算法素养是素养在人工智能时代的革新,但它与信息素养、数据素养等概念一脉相承,从本质上看仍属于人类素质能力范畴,对算法素养的研究也应以人为核心展开。       其次,算法素养是内化于个体的能力集合,涵盖意识、技能、知识等多个方面。从个体的角度理解算法素养有三个关键点。①面向问题解决。算法素养的核心价值是增强个体对技术环境的适应能力,适应技术环境则要求个体能够使用算法及关联技术工具解决具体问题。②感知并理解以算法为核心驱动力的社会。算法素养要求个体能够感知社会发展中的驱动力变更,并将个人作为这一变更的参与者,共同参与到算法决策和管理中。③辩证理解算法价值。算法素养需要个体全面理解算法应用的价值及其对社会经济、政治、文化的影响,包括积极影响和消极影响。      人工智能技术改变了社会驱动结构,也在一定程度上推动着社会价值和文化观念的转变,对身处社会环境中的“人”也提出了新的能力素质要求。20世纪70年代为应对计算机技术发展,学者们将目光聚焦于信息素养,围绕个人信息处理的意识、能力开展研究。而今以算法为支撑的人工智能时代也为素养研究带来了机遇与挑战。尽管算法素养仍是一个探索中的概念,但随着算法对社会发展的作用日益凸显,应当尽早关注其带来的技术鸿沟与社会风险,算法素养极有可能成为新的突破口。