近日，英国技术大臣Michelle Donelan宣布，英国政府开创性的人工智能安全研究所（AI Safety Institute）将于今年夏天在旧金山开设第一个海外办事处，以拓宽其国际视野。
此次扩张标志着英国迈出了关键一步，这将使英国能够利用湾区丰富的科技人才，与总部位于伦敦和旧金山的世界最大人工智能实验室合作，并巩固与美国的关系，为公众利益推进人工智能安全。
该办公室预计将于今年夏天开业，招聘由研究总监领导的第一批技术人员。
它将是该研究所伦敦总部的一个补充分支，该总部不断壮大，已经拥有一支由30多名技术人员组成的团队。伦敦办事处将继续扩大规模并获得必要的专业知识，以评估前沿人工智能系统的风险。
通过扩大在美国的立足点，该研究所将与美国建立密切合作，进一步推进该国在人工智能安全方面的战略伙伴关系和方法，同时共享研究并对人工智能模型进行联合评估，为全球人工智能安全政策提供信息。
科技国务秘书Michelle Donelan表示：
这一扩展代表了英国在人工智能领域的领导地位。这是英国从全球角度研究人工智能风险和潜力的关键时刻，加强了我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平了道路，因为我们将继续在人工智能安全方面引领世界。
自首相和我创立人工智能安全研究所以来，该研究所不断壮大，在短短一年多的时间里，我们在伦敦建立了世界领先的政府人工智能研究团队，吸引了来自英国及其他国家的顶尖人才。
向海外敞开大门，建立与美国的联盟，是我制定新的人工智能安全国际标准计划的核心，我们将在本周的首尔峰会上讨论这一计划。
英国人工智能安全研究所（UK AI Safety Institute）发布了五种公开的先进人工智能模型的最新安全测试结果：这是世界上第一个公布评估结果的政府支持的组织。
虽然这只是该研究所更广泛方法的一小部分，但研究结果表明，自11月的人工智能安全峰会以来，该研究所在建立最先进的安全测试能力方面取得了重大进展。
该研究所针对四个关键风险领域评估了人工智能模型，包括开发者实际安装的保障措施在实践中的有效性。作为研究结果的一部分，该研究所的测试发现：
一些模型完成了网络安全挑战，同时努力完成更高级的挑战。
几个模型展示了与博士水平相似的化学和生物学知识。
所有经过测试的模型仍然非常容易受到基本“越狱”的影响，有些模型即使没有专门的规避保障措施的尝试，也会产生有害的输出。
经过测试的模型无法在没有人监督的情况下完成更复杂、耗时的任务。
人工智能安全研究所主席Ian Hogarth表示：
这些测试的结果标志着我们首次能够与公众分享我们模型评估工作的一些细节。我们的评估将有助于对模型能力和现有保障措施缺乏稳健性的实证评估。
人工智能安全仍然是一个非常年轻和新兴的领域。这些结果仅代表AISI正在开发的评估方法的一小部分。我们的目标是通过发展最先进的评估，继续推动这一领域的前沿发展，重点关注国家安全相关风险。
人工智能安全仍然是英国的一个关键优先事项，因为它继续推动关于该技术安全发展的全球对话。
这一努力是由11月在布莱切利公园举行的人工智能安全峰会启动的，随着英国和大韩民国准备在本周共同主办人工智能首尔峰会，这一势头继续增长。
在全世界准备本周齐聚首尔之际，英国承诺与加拿大合作，包括通过各自的人工智能安全研究所，以推进其建立一个日益壮大的国家支持的组织网络的雄心，该网络专注于人工智能安全和治理。英国技术部长Michelle Donelan和加拿大科学与创新部长Fran?ois Philippe Champagne证实，这一伙伴关系将有助于加深两国之间的现有联系，并激励在系统安全研究方面的合作。
作为该协议的一部分，两国将致力于分享其专业知识，以支持现有的测试和评估工作。该伙伴关系还将使两国之间能够进行借调，并共同确定研究合作领域。
