英国首相Rishi Sunak揭开英国人工智能安全研究所的面纱

总理Rishi Sunak宣布英国AI安全研究所的成立,这是展示英国致力于负责任发展人工智能(AI)的重要一步。

一个开创性的人工智能安全机构

这个开创性的研究所将成为世界上第一个旨在解决与人工智能相关的各种风险的机构,从产生错误信息到人工智能可能构成生死存亡的威胁。Sunak的声明是在全球人工智能安全峰会之前宣布的,该峰会计划在历史悠久的布莱切利公园举行。

值得注意的是,英国政府已经以其前沿AI工作组的形式建立了安全研究所的原型,该工作组今年早些时候开始审查尖端AI模型的安全性。

政府的愿望是将该研究所发展成为人工智能安全方面的国际合作平台。此举符合全球共同努力应对人工智能风险和确保负责任使用人工智能技术的必要性。

Sunak宣布的一个值得注意的方面是,政府拒绝支持暂停先进的人工智能开发。当被问及支持暂停或禁止开发包括人工通用智能(AGI)在内的高能力人工智能系统时,Sunak表示,“我不认为这是可行的或可执行的。”

在美国方面,美国证券交易委员会主席加里·詹斯勒表达了浓厚的兴趣在利用人工智能的能力和适应现行证券法的必要性方面。

正在进行的人工智能发展辩论

围绕人工智能安全和发展的辩论最近达到了新的高度。今年3月,包括埃隆·马斯克在内的数千名知名科技界人士签署了一封公开信呼吁立即暂停创建“巨型”人工智能机构至少六个月。

英国政府在风险评估中强调的关键问题之一是,人工智能,特别是先进的人工智能系统,可能会构成事关生死存亡的威胁。这一点承认,在预测人工智能发展方面存在重大不确定性,高能力的人工智能系统如果没有对准或控制不当,可能确实会成为事关生死存亡的威胁。

政府风险文件中详细描述的其他威胁包括人工智能设计生物武器的潜力,产生高度定向的虚假信息,以及大规模扰乱就业市场。

FORM:cryptonews

联系邮箱:idea2003@foxmail.com

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注