《人工智能创作的艺术隐忧和伦理边界》

  • 来源专题:人工智能
  • 编译者: 高楠
  • 发布时间:2024-07-24
  • 近一段时间,本版发起的“人工智能网络文学创作”讨论持续引发关注,不少学者针对这一话题发来笔谈文章,阐述各自的观点和看法。本期选择刊发两篇文章,其中中南大学教授欧阳友权认为,无论人工智能进化到哪个阶段,都有无法避免的艺术局限,同时应为人工智能写作设置伦理边界,不能任由其发展为“反噬人类”的工具;青年学者马晓炎指出,人工智能写作的内容高度机械化、同质化,难以产生鲜活的现实关切,也无法在实际意义上促成一种具有真实情感、辩证思想、伦理意义的“新文学”的迭变。
          人工智能在文艺创作领域的应用,正让写诗、写小说、作曲、作画、视频制作等变得轻松而惬意。艺术创作门槛降低,并且不再是人类专有。这究竟会推动艺术的进步,还是会导致审美偏离轨道?以“技术魔方”生产的“艺术”还是那个能让我们“诗意栖居”的精神家园吗?其中的艺术伦理问题亟待我们思考与解答。
    • 人工智能让过去高不可攀的艺术创作变得简单轻松
          20世纪50年代诞生的人工智能并非为文学艺术而生。它被用于文艺创作,不过是“技术艺术化”的功能性呈现。从实际效果看,人工智能对文艺创作的影响无疑是巨大而深远的。如果说早些年出现的如“猎户星”“稻香老农作诗机”“微软小冰”“乐府”“九歌”等诗歌创作软件,除了让人感到新奇,尚不足以“抢”诗人的饭碗,那么,生成式人工智能(简称AIGC)进入艺术创作领域后情况大不一样,颇有“未来已来,艺术变天”之势。无论是文学写作,还是艺术生产,均表现出惊人的创作潜能和量产水平。
          AI小说、AI音乐、AI绘画、AI电影、AI短视频等新创作品迅速涌现,人工智能不仅让艺术话语权下沉到大众手中,还把复杂的创作过程简化为文字提示、机器生成,词生文、文生图、文生视频、“文+图”生成视频,只要给出需求信息,智能程序便会像“阿拉丁神灯”一样把人们想要的东西呈现于眉睫之前,这让昔日高度专业化的文艺创作变成人人皆可参与的轻松游戏。
          不久前,文生视频大模型创作的《雨后的东京街头》震惊世人;用AI音乐生成类工具创作音乐,让一个不懂音乐的人也能将菜谱配上旋律成为朗朗上口的歌曲,还有全部由人工智能完成的90分钟影片《终结者2:审判日》在洛杉矶首映,我国首部AI全流程微短剧《中国神话》在央视频上线,用于文学创作的“大模型长篇小说创作系统”也于今年3月开始在线测试,并且创作出百万字小说《天命使徒》......笔者身边有许多朋友都在尝试用人工智能创作诗歌、人物肖像、歌曲,或生成短视频产品。忽然拉低的创作门槛,让过去高不可攀的艺术创作变得简单轻松,作品也触手可及。
    • “情感虚置”和“意义缺席”将成为AI创作确证自身艺术性的巨大挑战
          人工智能创作神器布局的艺术风口正呼唤一个艺术新时代的到来,而当一种智能工具从“技术手段”发展到“创作伴侣”再升级为“艺术主人”时,我们一方面为新锐技术的创作潜能而欣喜,同时也需要对人工智能带来的艺术隐忧保持清醒的认知。
           譬如,AIGC作为艺术创作的“拟主体”摆脱不了“硅基生命”的先天短板:缺失意识和自我意识,没有艺术创作不可或缺的生命体验。前者使它无从获得对世界的知识性认知和理性的判断,没有目标追求的自觉性、能动性和道德自律感,无法以自主的价值立场去理解和吸纳人类积淀的历史经验,不能自主地在自身与社会、与他人、与特定语境中,形成主体与对象之间的审美关系,只能按算法概率、算力速度的训练模型连词成句、连句成段,或基于某种指令以比特像素实现图形(图像)信息的排列组合,却并不理解这些组合的意义是什么,以及为什么要提供这样的答案。
          “硅基生命”则让AI创作“本体失根”,拟主体没有源自生命体实践的喜怒哀乐、爱恨情仇,没有王夫之所说的“身之所历,目之所见”的“铁门限”,艺术创作不可或缺的历史镜像、时代精神、生活阅历均无从谈起。用于AI大模型的数据不过是“二手生活”而非“肉身经验”,其表达的“知情意”来自“他者投喂”而不是自己的“生命历险”,这就颠覆了文艺创作“躬身成文”“艺以明志”的创作原则,斩断了作品和艺术家之间有关社会的、历史的、生命的有机联系,势必会抽空艺术存在的意义。因而,没有生命体验,缺少肉身感知,是AI创作的致命缺陷,其所带来的“情感虚置”和“意义缺席”将成为AI创作确证自身艺术性的巨大挑战。
          基于上述两个原因,还将导致AI创作的另一个更重要的局限――缺少艺术原创力。生成式人工智能提供的答案是从已有 的语料资源中依据算法逻辑匹配而来,是“借”用前人的知识产权资源而巧置选择的结果。换句话说,它所得一切均非原创,既受限于“已有”,又缺失于“未知”。尽管在许多单项技能上人工智能比人“聪明”,但没有人的感情和自主意识的计算程序最终无法形成原创能力,它可以根据人的信息“投喂”和大数据预训练,完成从“1”到“99”的拓展,却难以实现从“0”到“1”的突破,这在艺术创作中表现得更为明显。
          譬如,仅靠技术智能,要产生AI莎士比亚、AI卡夫卡,不过是痴人说梦。艺术来自生活,AI艺术来自语料库;艺术家用灵魂创作,AI用程序表达;艺术的“根”源于人生与人性的生命体验,而AI创作则是冷冰冰的“无痛操作”。正因如此,如果没有历史先贤的引领,人工智能领悟不了屈原“香草美人”的象征,洞察不了《红楼梦》“好了歌”的寓意。如果用智能机器人代替阿姆斯特朗首次登上月球,它不会有任何发自内心的欣喜与自豪,从这个意义上说,这也正是“嫦娥的月亮比阿姆斯特朗的月亮更有魅力”的原因。
    • 人工智能要履行人类主体的艺术使命与伦理责任
           值得注意的是,人工智能创作的艺术隐忧是基于当下人工智能水平的功能评判,却不是对AI艺术创作的终极伦理推定。事实上,人工智能是有层级区隔的,不同层级的功能绩效会有很大不同。研究者一般把生成式人工智能从低到高划分为三个层级,即弱人工智能、强人工智能和超人工智能。
           其中,弱人工智能也叫“算法智能”,是指只能在特定领域按算法逻辑完成特定任务的程序智能,被称作“单项超人”。如AlphaGo在围棋领域打败世界顶级高手,智能导航可以在复杂空间精准定位,自动驾驶技术能实时探测环境信息并及时准确地提供最佳解决方案。强人工智能是一种“语言智能”,能根据用户的指令进行语音识别和语义理解,还能像人类一样进行思考、决策和学习,其智能水平能与人类齐平,故也称通用人工智能,或“类智人”。此时的AI已具备人的智慧和自我意识,不仅能够理解和分析复杂的问题,提出解决方案,还能遵循人类情感、伦理与道德观念不断优化和改进自身的性能。生成式人工智能便是弱人工智能向强人工智能过渡阶段的产物。
          超人工智能被称为“想象智能”,是指能够在所有领域远超人类的智能,其智能水平远超人类的思维能力。超人工智能因其占据高维而能消解人类存在的意义,因而具有极端的复杂性和潜在的危险性,其运行或将产生人类无法理解或难以控制的结果。AI艺术是由智能“拟主体”创作的,这个“拟主体”要不要履行人类主体的艺术使命与伦理责任呢?回答是肯定的。弱人工智能的创作是这样,到了强人工智能甚至超人工智能创作阶段同样应该如此。原因在于,弱人工智能用于“人―机”互动的辅助性创作,人的主导性如臂使指般操控智能程序,人的道德信仰与伦理规范、人的价值观认知与真善美判断,不仅决定大数据智能模型设计,也制约着“拟主体”创作的前置词提示。
          即使发展到强人工智能或超人工智能阶段,“拟主体”化身“艺术主人”,那时,AI艺术或将以完全不同的面貌示人,它是否一定会漠视或践踏人类赋予艺术的全部“逻各斯原点”呢?人类的理性及其艺术信仰的力量让我们有理由相信,未来开发的任何智能系统最终都是为人的意志和目的服务的,是人的智能的技术化延伸。如果某种“聪明的机器”升级为反噬人类的工具,那一定是人的问题,而不是机器的问题,人应该用理性律令开发技术“闸门”或制定法律规约来锚定这一技术的发展方向,让它为人类文明和社会进步服务,而不容许它剑走偏锋伤害人类自身。基于此,如果我们承认人工智能艺术是人的艺术创造力的技术性外化,那么就有理由为人工智能创作设置伦理边界,比如对真假、善恶、美丑的甄别,对悲悯、敬畏、同情等道德价值的认同,以及对崇高理想和诗意境界的追求等。
    (作者:欧阳友权,系中南大学网络文学研究院院长)
    (责编:杨曦、杨迪)
    关注公众号:人民网财经
    分享让更多人看到
  • 原文来源:http://finance.people.com.cn/n1/2024/0720/c1004-40281591.html
相关报告
  • 《Science | 生成式人工智能对艺术与科学的影响》

    • 来源专题:数智化图书情报
    • 编译者:黄雨馨
    • 发布时间:2023-06-17
    • 来自包括麻省理工学院在内的多个组织的 14 名研究人员在《Science》上发表了一篇评论文章,这有助于为更广泛地讨论生成式人工智能对创造性工作和社会的直接影响奠定基础。 论文链接:https://www.science.org/doi/10.1126/science.adh4451 一类新工具的功能,俗称生成人工智能 (AI),是一个备受争议的话题。迄今为止,一个突出的应用是为视觉艺术、概念艺术、音乐和文学以及视频和动画制作高质量的艺术媒体。例如,扩散模型可以合成高质量的图像,大型语言模型 (LLM) 可以在广泛的上下文中生成听起来合情合理、令人印象深刻的散文和诗歌。 这些工具的生成能力可能会从根本上改变创作者形成想法并将其投入生产的创作过程。随着创造力被重新构想,社会的许多部门架构也可能被重新构想。了解生成式人工智能的影响——并围绕它制定政策决策——需要对文化、经济学、法律、算法以及技术与创造力的相互作用进行新的跨学科科学研究。 生成式人工智能工具,乍一看,似乎完全自动化了艺术创作——这种印象反映了过去传统主义者认为新技术威胁「艺术本身」的例子。事实上,这些技术变革的时刻并不表示「艺术的终结」,而是产生了更为复杂的影响,重塑了创作者的角色和实践,并改变了当代媒体的美学。例如,一些 19 世纪的艺术家将摄影的出现视为对绘画的威胁。然而,摄影并没有取代绘画,而是最终将其从现实主义中解放出来,从而引发了印象派和现代艺术运动。相比之下,人像摄影确实在很大程度上取代了人像绘画。同样,音乐制作的数字化(例如数字采样和声音合成)被谴责为「音乐的终结」。相反,它改变了人们制作和聆听音乐的方式,并帮助催生了新的流派。与这些历史类比一样,生成式 AI 并不是艺术消亡的预兆,而是一种具有自己独特功能的新媒体。作为人类创作者使用的一套工具,生成式 AI 的定位是颠覆创意产业及其他领域的许多领域——在短期内威胁现有的工作和劳动模式,同时最终实现新的创意劳动模式并重新配置媒体生态系统。 然而,与过去的颠覆不同,生成式人工智能依赖于人类制作的训练数据。这些模型通过从现有艺术媒体中提取统计模式来「学习」生成艺术。这种对训练数据的依赖引发了新的问题——例如数据的来源、它如何影响输出以及如何确定作者身份。通过利用现有工作来自动化创作过程的各个方面,生成式 AI 挑战了作者身份、所有权、创意灵感、采样和混音的传统定义,从而使媒体制作的现有概念复杂化。因此,重要的是要考虑生成式人工智能对美学和文化的影响、所有权和信用的法律问题、创意作品的未来以及对当代媒体生态系统的影响。在这些主题中,有一些关键的研究问题可以为这项技术的政策和有益用途提供信息。 要正确研究这些主题,首先有必要了解用于描述 AI 的语言如何影响对技术的看法。「人工智能」这个词本身可能会误导性地暗示这些系统表现出类似人类的意图、代理甚至自我意识。基于自然语言的界面现在伴随着生成人工智能模型,包括使用「我」代词的聊天界面,这可能会给用户一种类人交互和代理的感觉。当这些系统造成损害时,这些看法可能会损害对创造者的信任,他们的劳动是系统输出的基础,并转移开发者和决策者的责任。未来的工作需要了解对生成过程的看法如何影响对输出和作者的态度。这可以促进系统的设计,公开生成过程并避免误导性的解释。 生成式 AI 的特定功能反过来会产生新的美学,可能对艺术和文化产生长期影响。随着这些工具变得越来越普遍,并且它们的使用变得司空见惯(就像一个世纪前的摄影一样),它们输出的美学将如何影响艺术输出仍然是一个悬而未决的问题。生成人工智能的低门槛可以通过扩大从事艺术实践的创作者群体来增加艺术产出的整体多样性。与此同时,训练数据中嵌入的审美和文化规范和偏见可能会被捕获、反映甚至放大——从而降低多样性。AI 生成的内容也可以为未来的模型提供支持,创造一个自我参照的审美飞轮,可以延续 AI 驱动的文化规范。未来的研究应该探索量化和增加输出多样性的方法,并研究生成式人工智能工具如何影响美学和审美多样性。 社交媒体平台的不透明、最大化参与度的推荐算法,可以通过产生「耸人听闻」内容与可共享内容的反馈循环,进一步强化审美规范。由于算法和内容创建者试图最大限度地提高参与度,这可能会进一步使内容同质化。然而,一些初步实验表明,在管理 AI 生成的内容时结合参与度指标在某些情况下可以使内容多样化。推荐算法会放大哪些风格,以及这种优先顺序如何影响内容创作者制作和分享的类型,这仍然是一个悬而未决的问题。未来的工作必须探索由生成模型、推荐算法和社交媒体平台之间的相互作用形成的复杂动态系统,以及它们对美学和概念多样性的影响。 生成式 AI 依赖训练数据来自动化创作的各个方面,这引发了关于作者身份的法律和伦理挑战,因此应该促使对这些系统的性质进行技术研究。版权法必须平衡创造者、生成人工智能工具的用户和整个社会的利益。如果不直接复制受保护的作品,法律可以将训练数据的使用视为非侵权;如果培训涉及基础数据的实质性转换,则合理使用;只有在创作者给予明确许可的情况下才允许;或受制于允许将数据用于培训的法定强制许可,前提是创作者得到补偿。许多版权法都依赖于司法解释,因此目前尚不清楚收集第三方数据进行培训或模仿艺术家的风格是否侵犯版权。 法律和技术问题交织在一起:模型是直接从训练数据中复制元素,还是产生全新的作品?即使模特不直接复制现有作品,也不清楚艺术家的个人风格是否应该受到保护以及如何受到保护。什么样的机制可以保护和补偿作品被用于培训的艺术家,甚至允许他们选择退出,同时仍然允许使用生成式 AI 模型做出新的文化贡献?要回答这些问题并确定版权法应如何处理训练数据,需要进行大量技术研究以开发和理解人工智能系统,进行社会科学研究以了解对相似性的看法,以及进行法律研究以将现有先例应用于新技术。 一个明显的法律问题涉及谁可以要求对模型输出拥有所有权。回答这个问题需要了解系统用户与其他利益相关者(例如系统开发人员和训练数据的创建者)的创造性贡献。AI 开发人员可以通过使用条款声明对输出的所有权。相比之下,如果系统的用户以有意义的创造性方式参与(例如,该过程不是完全自动化的,或者不模仿特定作品),那么他们可能被视为默认版权所有者。但是,用户的创造性影响力有多大才能让他们拥有所有权?这些问题涉及研究使用基于 AI 的工具的创作过程,如果用户获得更直接的控制,这些问题可能会变得更加复杂。 无论法律结果如何,生成式人工智能工具都可能改变创造性工作和就业。流行的经济理论 [即偏向技能的技术变革 (SBTC)] 假设认知和创造性工作者面临较少的自动化对劳动力的干扰,因为创造力不容易编码为具体规则(即波兰尼悖论)。然而,新工具引发了对作曲家、平面设计师和作家等创造性职业就业的担忧。这种冲突的产生是因为 SBTC 未能区分分析工作和创造性思维等认知活动。需要一个新的框架来描述创意过程的具体步骤,这些步骤中的哪些步骤可能会受到生成 AI 工具的影响,以及对工作场所要求和不同认知职业活动的影响。 尽管这些工具可能会威胁到一些职业,但它们可以提高其他人的生产力,并可能创造新的职业。例如,从历史上看,音乐自动化技术使更多的音乐家能够创作,即使收入出现偏差也是如此。生成式 AI 系统每分钟可以创建数百个输出,这可以通过快速构思来加速创意过程。然而,这种加速也可能通过消除与白板相关的原型制作的初始阶段来破坏创造力的各个方面。无论哪种情况,生产时间和成本都可能下降。反过来,对创造性工作的需求可能会增加。然而,创意产品的生产可能会变得更有效率,从而以更少的工人获得相同数量的产出。此外,许多使用传统工具(如插图或股票摄影)的雇佣工作可能会被取代。几个历史例子证明了这一点。最值得注意的是,工业革命使传统手工艺品(例如陶瓷、纺织品和炼钢)的大规模生产成为可能,而无需非手工业者的劳动;手工制品成为特产。同样,摄影取代了肖像画。音乐的数字化消除了学习物理操作乐器的限制,并使更多贡献者能够进行更复杂的安排。这些工具可能会改变谁可以作为艺术家工作,在这种情况下,即使平均工资下降,艺术家的就业率也可能会上升。 由于这些工具会影响创造性劳动,它们还会对更广泛的媒体生态系统带来潜在的下游危害。随着大规模制作媒体的成本和时间的减少,媒体生态系统可能会因合成媒体的创建而变得容易受到 AI 生成的错误信息的影响,尤其是为声明提供证明证据的媒体。这些生成逼真的合成媒体的新可能性,可能会通过所谓的「说谎者的红利」(虚假内容通过破坏对真相的信任而使说谎者受益)破坏对真实捕获媒体的信任,并且还会增加欺诈和非自愿性图像的威胁。这提出了重要的研究问题:平台干预(例如跟踪源出处和检测下游合成媒体)在治理和建立信任方面的作用是什么?合成媒体的激增如何影响对真实媒体(例如未经编辑的新闻照片)的信任?随着内容生产的增加,集体注意力可能会减少。AI 生成内容的激增反过来可能会阻碍社会在气候和民主等重要领域进行集体讨论和采取行动的能力。 每一种艺术媒介都反映和评论其时代的问题,围绕当代人工智能生成艺术的争论反映了围绕自动化、企业控制和注意力经济的当前问题。最终,我们通过艺术表达我们的人性,因此理解和塑造人工智能对创造性表达的影响是关于其对社会影响的更广泛问题的核心。对生成人工智能的新研究应该为政策和技术的有益用途提供信息,同时与关键的利益相关者,特别是艺术家和创造性劳动者本身进行接触,他们中的许多人积极参与解决社会变革先锋的难题。 相关报道:https://techxplore.com/news/2023-06-qa-art-humanity-ai.html
  • 《李彦宏委员:加快推动人工智能伦理研究》

    • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者:冯瑞华
    • 发布时间:2019-03-13
    • 李彦宏委员10日在全国政协十三届二次会议第三次全体会议上作大会发言时表示,人工智能伦理将是未来智能社会的发展基石,要抓住人工智能的战略发展机遇期,加快伦理研究和创新步伐,构筑我国人工智能发展的竞争优势,早日建成智能社会,用技术造福百姓。 李彦宏建议,由政府主管部门牵头,组织跨学科领域的行业专家、人工智能企业代表、行业用户和公众等相关方,开展人工智能伦理的研究和顶层设计,促进民生福祉改善,推进行业健康发展,掌握新一轮技术革命的主动权。 一是明确人工智能伦理原则。统筹各方力量,加强相关研究,以老百姓的美好生活为终极目标,兼顾行业创新发展,明确人工智能在安全、隐私、公平等方面的伦理原则,制定人工智能伦理的指导性文件,对涉及人工智能伦理的相关问题进行评估和指导。 二是强化领军企业担当,加快人工智能伦理原则落地。在信息推荐、自动驾驶、虚拟现实等热点领域,推进企业引领示范,在产品设计和业务运营中贯彻人工智能伦理原则,让人工智能提供的信息和服务帮助人们成长,获得更多发展机会。鼓励企业探索解决实践中产生的人工智能伦理新问题,共享行业经验,实现人工智能技术和伦理的协同发展,更好地服务于社会。 三是加强国际交流,引领行业发展,凝聚全球共识。要积极参与全球人工智能伦理原则的研究和制定,及早识别禁区,吸收和弘扬“以人为本”等中国优秀传统文化精髓,让技术创新更好地造福人类,为国际人工智能伦理研究贡献中国智慧。