英国政府公布人工智能安全峰会的重点议题
techmonitor
英国政府在11月首次举办人工智能安全峰会的愿景中，全球在监管和研究方面的合作处于核心地位。峰会已确定了五个重点，重点在于下一代基础人工智能模型的安全性和对齐性，如OpenAI的GPT-5或谷歌的Gemini。人工智能安全研究旨在确保人工智能的安全和可信使用，并确保其与人类价值观保持一致。（图片提供：Gorodenkoff/Shutterstock）首相里希·苏纳克（Rishi Sunak）今年早些时候宣布计划召开一次全球峰会，以应对人工智能所带来的风险。自那以来，官员们一直在努力协调学者、人工智能实验室、科技公司和其他政府机构，邀请他们参加11月的活动。峰会计划在计算机科学的摇篮——米尔顿凯恩斯附近的布莱切利公园举行。包括OpenAI、谷歌DeepMind和Anthropic在内的主要人工智能实验室预计将参加此次活动，而且此前已同意将未来的前沿人工智能模型用于安全研究。这些是下一代的大型语言模型、生成模型和基础模型，预计将明显优于目前的最佳模型。峰会将于11月1日和2日举行，科技国务大臣米歇尔·唐兰（Michelle Donelan）已启动了与公司和官员的谈判进程。唐兰上周还与各类民间组织代表举行了圆桌会议，试图缓解人们对峰会可能偏重并支持大科技公司的担忧。科学、创新和技术部（DSIT）正在组织此次峰会，并表示将聚焦于最强大人工智能系统所带来的或加剧的风险，包括尚未发布的系统。峰会上的代表还将讨论这些新模型最危险能力的后果及应对方法，包括可削弱安全性的信息获取能力。另一方面，峰会也将关注安全人工智能如何用于公共利益，并改善人们的生活。这包括医疗技术、交通安全性提升和工作效率的提高。政府希望通过峰会实现五个目标。英国人工智能安全峰会：核心目标包括形成对前沿人工智能所带来风险的共同认识，以及采取行动的必要性。另一个目标是推进国际间在前沿人工智能安全方面的合作，包括如何支持国家和国际框架的建立以实现合作。在国际合作之外，目标还包括制定组织必须采取的措施以提高前沿人工智能的安全性，以及人工智能安全研究的合作领域，其中部分工作已经展开。这将包括评估模型能力的方法，以及制定全球标准以支持治理和监管。来自我们的合作伙伴的内容人工智能将为食品和饮料行业带来一个更具韧性的未来保险公司必须利用数据合作的力量来实现其商业潜力科技团队正在推动整个公共部门的可持续发展议程科学、创新和技术部（DSIT）特别委员会最近发布了一份报告，敦促政府加快人工智能监管的实施，否则将面临落后的风险。在报告中，议员们否定了暂停下一代基础人工智能模型开发的必要性，但敦促政府加快立法进程。“如果没有认真、迅速且有效的努力来建立正确的治理框架，并确保在国际倡议中发挥主导作用，其他司法管辖区将领先一步，而他们制定的框架可能会成为默认标准，即使它们的有效性不如英国能提供的。”查看所有通讯注册我们的通讯数据、见解和分析直接送达您手中由《科技观察》团队提供在此注册许多国家、欧盟和联合国等国际组织，以及领先的人工智能实验室和民间组织，目前都在进行人工智能安全研究。英国工会大会（Trades Union Congress）最近成立了自己的工作组，以应对与人工智能相关的工人权益问题。经济合作与发展组织（OECD）、全球人工智能合作伙伴关系（GPAI）和七国集团（G7）正在制定标准，英国希望通过此次峰会把握这一机会，推动全球监管共识的形成。剑桥大学Minderoo技术与民主中心执行主任、英国工会大会人工智能新工作组联合主席吉娜·内夫（Gina Neff）教授表示，负责任和值得信赖的人工智能可以带来巨大好处，但法律必须确保它惠及所有人。“人工智能的安全不仅仅是一个未来的问题，也不仅仅是一个技术问题。”内夫表示，“这些都是雇主和员工目前面临的问题，他们需要研究人员、政策制定者和民间社会的支持，以建立能力，从而为社会正确实施。”阅读更多：英国工会大会警告：亟需人工智能工作者权益立法本文主题：人工智能
查看全文
作者最近更新
评论0条评论