里希·苏纳克透露英国将建立世界首个AI安全研究所
techmonitor
英国首相里希·苏纳克宣布，英国将建立世界首个AI安全研究所。该研究所的任务是评估新型人工智能模型，以识别这项技术所带来的机遇和风险。苏纳克认为，通过创建这个AI安全研究所，英国可以在人工智能领域引领相关讨论。（照片由英国首相府媒体办公室/Flickr提供）苏纳克在周四上午公布了研究所的计划，此前发表了两篇新的讨论文件，强调了下一代人工智能可能带来的危险。这两份文件是在下周即将举行的人工智能安全峰会之前发布的，苏纳克希望借此确立英国在国际人工智能安全讨论中的领导地位。文件深入探讨了所谓的前沿AI所蕴含的风险与机遇，并重点提到了对网络安全和劳动力市场构成的威胁。苏纳克宣布英国人工智能安全研究所在周四于伦敦发表的演讲中，苏纳克进一步阐述了英国在人工智能安全方面的立场。他表示，新设立的研究所将“仔细评估和测试新型人工智能，以便我们了解这些新模型的能力”。苏纳克表示，设立这一研究所是必要的，因为“目前唯一在测试人工智能安全性的是开发这些技术的组织”，他指的是OpenAI、谷歌DeepMind和Anthropic等AI实验室。苏纳克说，这些开发者“甚至不知道他们的模型能力如何，所以我们不应该让他们自己给自己打分。只有政府才能正确评估对国家安全构成的风险”。苏纳克解释说，研究所的工作成果将“向全世界公开”。他表示：“这是从道德和经济角度看，为全国各地的家庭和企业做正确的事情。”苏纳克在演讲中补充道：“英国人民应该安心，我们正在为AI开发世界上最高水平的保护措施。”《科技监测》已就研究所的计划联系了英国政府的科学、创新与技术部。但苏纳克重申，他的政府不打算在AI领域引入相关立法。他说：“我们相信创新，这是英国经济的标志，我们希望鼓励创新，而不是扼杀创新。如果我们连AI是什么都搞不清楚，又怎能立法呢？”这种方法使英国与欧盟相悖，欧盟已制定了一项全面的人工智能法案，也与其他国家存在分歧。来自我们的合作伙伴的内容雷诺兹餐饮通过升级ERP系统来推动创新，提升规模化能力泽兰迪亚利用AI优化精度、效率和定价金融服务公司如何准备应对欧盟的DORA监管苏纳克补充说，下周的安全峰会将是一个尝试就如何应对前沿AI达成共识的机会。他确认中国已受邀参加，并表示“要与全球所有AI强国就先进系统带来的风险展开对话”是重要的。查看所有通讯订阅我们的通讯数据、洞察和分析将会送达您手中由《科技监测》团队提供订阅此处前沿AI对网络安全和劳动力市场的风险政府发布的讨论文件详细列出了这些风险。在网络安全方面，文件指出，前沿AI可能会“增加攻击的规模和速度”，“可能导致能够自主在互联网上发动网络攻击的系统”。报告指出：“自主复制和自我改进的攻击生成行为尤其值得关注，一些研究已经开始探讨当前模型在这些行为上的表现。”报告还补充称，“前沿AI对网络攻击与防御之间总体平衡的影响尚不明确”，“因为这些工具在提升系统网络安全方面也有广泛的应用，防御方也在积极调动资源利用前沿AI进行防御。”此外，报告还警告称：“未来，我们可能会看到AI系统在每个步骤中都较少依赖人工监督，就能同时发动和防御网络攻击。”在劳动力市场方面，报告指出，“劳动力市场的混乱与岗位流失是AI迅速发展可能影响公民并降低社会福利的风险之一。”报告重点指出，IT工作者以及法律和金融服务行业的员工是最容易受到前沿AI威胁的职业，但它也指出，“前沿AI已经开始减少一些岗位的行政负担，并有潜力在教学和医疗等领域显著加快这一进程。”了解更多：苏纳克赞扬英国AI安全研究的质量
查看全文
作者最近更新
评论0条评论