登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《NIST研究人员提出人工智能伦理研究的历史先例》

  • 来源专题：计量基标准与精密测量
  • 编译者： 李晓萌
  • 发布时间：2024-04-18

  • 如果我们在有偏见的数据上训练人工智能系统，它们反过来会做出有偏见的判断，影响招聘决策、贷款申请和福利——仅举几个现实世界的影响。随着这项快速发展的技术可能会导致改变生活的后果，我们如何确保人类根据反映合理道德原则的数据训练人工智能系统？

    近日，美国国家标准与技术研究院（NIST）的一个多学科研究小组建议，已经有了一个可行的答案：我们应该应用科学家几十年来一直用来保护人类受试者研究的基本原则。这三个原则——概括为“尊重人、行善和正义”——是1979年《贝尔蒙报告》的核心思想，该报告影响了美国政府对人类研究的政策。

    该团队已在同行评审期刊IEEE的《Computer》期刊2月刊上发表了他们的研究成果。虽然这篇论文是作者自己的工作，不是NIST的官方指导，但它与NIST为支持值得信赖和负责任的人工智能的发展所做的更大努力相吻合。

114浏览量
原文链接
相关报告

  • 《人工智能在学术研究中的作用》
    • 来源专题：科技期刊发展智库
    • 编译者：董文杰
    • 发布时间：2023-09-07
    • 人工智能（AI）在学术研究领域的崛起近年来成为焦点，这种由机器学习和数据分析驱动的革命性技术正在深度改变各研究领域的格局。借助人工智能，研究人员得以处理大规模数据、抽取有价值的见解并将重复性任务自动化，进而有可能加速科学的探索步伐并提升研究成果的质量。 随着人工智能的不断进步，研究人员必须学会适应并利用这一工具，同时关注其潜在的局限性和伦理影响。通过在AI驱动的自动化和人类创新思维之间寻找平衡，研究人员可以开辟新的可能性，推动科学知识的发展，并为人工智能在学术研究领域的变革潜力作出贡献。 人工智能如何重塑学术领域？ 人工智能为学术领域带来了重大改变，从根本上改变了研究、知识生成和教育方式的提供。将人工智能技术整合进学术界可能会简化流程、提高研究效率并催生创新。人工智能对学术界的改变主要体现在数据分析。研究人员可以利用AI算法快速有效地分析海量数据，使他们能够发现传统方法难以捕捉的模式、关联性和趋势。 人工智能正在改变研究过程本身。它通过自动扫描并提取大量科学论文中的相关信息，帮助研究人员进行文献综述和知识合成。这不仅节省了时间，还有助于研究人员了解其所在领域的最新动态。 人工智能对学术界产生重大影响的另一个领域是教育。人工智能技术正在被用于开发智能教辅系统、自适应学习平台以及个性化教育体验。这些技术可以分析学生的学习模式，提供个性化的反馈、支持和资源。 此外，人工智能还有可能增强学术界人员的能力。它可以将重复性任务自动化，从而为研究人员释放出时间，使他们可以专注于更高层次的认知活动。这包括数据收集、分析、甚至论文撰写的自动化。通过简化这些流程，研究人员能够将更多精力用于批判性思考、提出假设和探索新的研究路径。 人工智能在学术研究中的应用 人工智能已在各学科的学术研究中得到广泛应用。以下是一些人工智能在学术研究中的应用实例： ●数据分析和模式识别： 人工智能算法可以分析大型数据集，并识别人类难以识别的模式、相关性和趋势。这在基因组学、气候科学和社会科学等领域尤其有用。 ●自然语言处理（NLP）： NLP技术使计算机能够理解和生成人类语言。研究人员利用NLP分析大量文本数据、提取信息、总结文档和检测情感。它应用于文学、语言学和社会科学等领域。 ●计算机视觉： 基于人工智能的计算机视觉系统可以处理和解释图像和视频等视觉数据。研究人员利用计算机视觉分析医疗图像、卫星图像和监控录像等。它可应用于生物学、天文学和环境科学等领域。 ●药物发现与开发：人工智能正被用于预测潜在药物化合物的特性及相互作用，以此加快药物发现过程。机器学习模型能够分析大量的化学和生物数据，确定潜在的药物目标并设计新的分子。 ●机器人和自动化：人工智能驱动的机器人和自动化系统正越来越多地用于学术研究，以执行实验室实验、数据收集和样本处理等任务。这些机器人可以全天候工作，减少人为错误，提高研究工作流程的效率。 ●推荐系统：人工智能算法可以根据用户的偏好和行为提供个性化推荐。在学术界，这些系统可根据研究人员的兴趣和以往工作推荐相关的研究论文、会议或合作项目。 ●模拟和建模：机器学习和神经网络等人工智能技术可用于创建复杂的模型和模拟。研究人员可以利用这些模型来研究和预测物理学、经济学和社会科学等领域的现象。 ●知识发现与整合：人工智能能够帮助研究人员从众多的研究论文、专利及其他学术资源中发现并整合信息。这有助于揭示研究空白、查找相关文献并产生新的见解。 人工智能驱动的学术研究面临的挑战和伦理问题 ●数据偏见和公平性：人工智能系统根据数据进行训练，如果训练数据存在偏见或反映了社会偏见，人工智能模型可能会延续这些偏见。研究人员需要仔细整理和预处理数据，以确保公平性并减少人工智能模型中的偏见。 ●隐私和数据保护：人工智能研究通常涉及处理大量数据，包括个人和敏感信息。研究人员必须确保数据收集、存储和分析遵守相关隐私法规，并获得参与者的知情同意。 ●透明性与可解释性：一些人工智能算法（例如深度学习模型）被视为"黑盒子"，其决策过程难以理解和解释。在学术研究中，需要努力提高其透明度，并找出一种方法来解释人工智能推理背后的原理。 ●可重复性和稳健性：研究者应通过提供清晰的人工智能模型、算法和数据集的文档以实现可复制性。关键在于确保人工智能模型的稳健性，使其能够在未接触过的数据中进行泛化，防止过度拟合或结果偏差。 ●知识产权和所有权：人工智能研究通常涉及到合作以及对现有的数据集和模型的使用。需要为知识产权、数据所有权以及研究者间的人工智能模型和代码共享制定明确的指导原则。 ●责任与义务：随着人工智能的日益自主化，问责和责任问题也随之而来。研究者必须考虑其人工智能系统的道德影响，并意识到其部署可能带来的潜在风险和后果。 ●社会影响和工作岗位转移：人工智能技术可能颠覆所有行业，并导致某些工作角色被自动化。研究者应关注其人工智能驱动的研究可能带来的社会影响，并努力确保公平的过渡，创造就业机会并最大程度地减少负面影响。 ●双重用途和滥用：为学术研究开发的人工智能技术既有积极的应用，也存在被滥用的风险。研究者应注意潜在的双重用途问题，并考虑其工作的道德影响，以防止滥用或无意的伤害。 人工智能在学术研究领域的潜力 ●跨学科合作：人工智能将不同学科的研究者联合起来，推动合作并实现突破性的发现。 ●数据驱动的发现：人工智能算法从大型数据集中提取有价值的见解，彻底改变了跨学科研究。 ●个性化和适应性学习：人工智能技术提供量身定制的教育体验，评估学生成绩并提供有针对性的反馈。 ●增强科学发现的能力：人工智能协助研究人员进行假设生成、实验设计和数据分析，加快研究进程。 ●道德考量和负责任的人工智能：研究者正在解决偏见、透明度、隐私和问责等问题，以确保人工智能的道德和负责任地使用。 ●人工智能自动化：人工智能简化了研究工作流程，实现了数据收集和分析等任务的自动化，提高了效率。 ●人工智能应对全球挑战：通过分析数据和优化资源配置，人工智能有助于解决气候变化、医疗保健和贫困问题。 ●增强创造力：人工智能是创造性的合作伙伴，它能够产生创意、综合信息，并在艺术和设计等领域推动创新。 ●增强同行评审和学术交流：人工智能实现了同行评审的自动化，协助语言翻译，并推荐相关研究论文。 ●研究民主化：人工智能平台在全球范围内提供计算能力、数据集和合作机会，使研究民主化。 用于学术研究的人工智能工具 ●Pictory：Pictory是一款人工智能驱动的视频生成器，可简化创建和编辑高质量视频的过程。 ●Jasper：Jasper是顶级的人工智能写作助手，以其卓越的功能和出色的质量在市场上树立了标准。 ●Murf：Murf是一款文本转语音生成器，被公认为市场上最受欢迎、最出色的人工智能语音生成器之一。 ●HitPaw照片增强器： 基于人工智能的提高图像质量和细节的工具。 ●ChatGPT：用于自然语言处理和生成类人文本回复的人工智能模型。 ●Lovo.ai：Lovo.ai作为一个屡获殊荣的语音生成器和文本到语音解决方案，赢得了赞誉。 ●Reply.io：Reply提供了一个全面的销售参与平台，能够以可扩展的方式创造新的机会，同时确保每次互动都具有个性化的触感。
    3083浏览量
    原文链接

  • 《生成式人工智能的技术局限和伦理风险》
    • 编译者：程冰
    • 发布时间：2024-10-31
    • 自ChatGPT面世以来，生成式人工智能成为人工智能领域发展的热点。生成式人工智能技术的基本形态，是采用海量数据来训练人工智能大模型，使其学会人类的语言文本和图像视频的统计模式后，能够在用户给出提示指令后，自动地生成所需的数字内容。生成式人工智能技术综合了60多年来人工智能的研究成果，特别是最近10年来深度学习的技术突破。首先，能够从海量的语料数据中学习人类知识，熟记文本、语音、图像、视频等内在规律与统计模式，自动生成用户所需的新文本、图片、声音和视频。最后，具备多模态数据的融合机制，动态融合文本、语音、图像、视频等数据，不仅能够生成更为丰富多样的数字内容，而且通过语音、手势、面部表情等的识别，支撑实现AI像人一样与人类交流互动。其次，实现了大模型的基于大量数据的训练学习通用特征与在特定任务上进行微调以优化性能的学习模式，并能够接受人类反馈进一步强化学习。 虽然这两三年来生成式人工智能展现出了前所未有的认知和多模态交互能力，但是其内在局限日益凸显，如何继续深入推进生成式人工智能技术发展，使之能够真正广泛落地应用，成为人们关注的焦点。首先，生成式人工智能所依赖的大模型在精准的认知理解和逻辑推理方面存在明显局限。其次，生成式人工智能面临着规模提升效益瓶颈。一方面，近5年来大模型的参数规模呈现指数级增强趋势，对智能算力的需求与日俱增；另一方面，高质量和高密度数据语料库也将成为制约模型规模继续扩大的因素。由此可见，如果生成式人工智能企图单纯以扩大模型规模来实现绝对通用的智能模型，无论是在技术上还是在经济成本上，都不是可持续的技术路线。 生成式人工智能的发展使得相关的伦理安全风险日益突出，大模型认知能力的涌现和内在缺陷给人工智能的社会治理带来了更多挑战。首先，基于大模型的生成式人工智能系统缺乏可靠的安全护栏，很容易因受到攻击而输出敏感信息或是价值观错误的内容。其次，生成式人工智能广泛应用带来的各类衍生风险层出不穷，最突出的是深度合成内容的治理问题。最后，生成式人工智能研发与应用的敏捷治理将走向系统化和法治化。
    258浏览量
    原文链接