前沿模型风险将位居人工智能安全峰会议程之首
techmonitor
英国人工智能安全峰会的第一天，与会代表将重点讨论下一代前沿模型所带来的风险。在两场圆桌讨论中，与会者将探讨开发者应如何安全地扩展模型、国际社会应采取哪些措施、政策制定者如何减轻风险等问题。此次峰会被形容为英国将自身置于全球人工智能安全辩论中心的机会，但不少业内人士批评了峰会的组织方式，认为它迎合了大型科技公司的议程。峰会将在米尔顿凯恩斯的布莱切利庄园举行，这里是二战期间英国破译密码人员的所在地。（照片由Gordon Bell/Shutterstock提供）此次峰会旨在将各国政府、学术界和最大的人工智能实验室聚集在一起，探讨如何安全地利用最具能力的人工智能模型。微软、OpenAI、谷歌和Anthropic预计将参加于11月1日和2日在布莱切利公园举行的会议。过去几个月中，峰会的细节逐渐被透露出来。今天，英国科学、创新与技术部（DSIT）发布的最新更新确认了第一天的议程，重点将放在当前正在开发的模型，而不是已经投入使用的AI工具。这将包括OpenAI的GPT-5、Anthropic的Claude 3和谷歌的Gemini。这种做法遭到了公民社会组织、AI初创公司和隐私倡导者的批评。他们认为，当前的AI技术确实存在真正的危险，尤其是涉及面部识别和其他生物识别分析的使用方面。对未来风险的关注与政府在AI监管方面的策略相吻合，强调的是如何在不限制创新的前提下安全地进行AI发展，而不是直接监管。DSIT认为，下一代模型带来了最大的风险，因此也是最重要的起点。一位发言人表示：“这些是最先进的、高度有能力的AI模型，通常是基础模型，可能展现出危险的能力。在AI快速发展的情况下，风险最为迫切，但同时也是未来经济巨大潜力的所在。” 来自世界各地的数字部长、民间社会团体和主要的AI公司将首先讨论AI快速发展的风险，然后将研究如何安全地利用其益处。“AI具有巨大的潜力，可以推动经济增长，推动科学进步，并带来更广泛的公共利益。但如果前沿AI未能负责任地开发，就会带来潜在的安全风险。”峰会组织者警告道。第一天将从讨论前沿AI带来的国家安全风险以及模型失控可能带来的危险开始。还将进行关于虚假信息、选举干扰以及AI生成虚假内容导致社会信任削弱等问题的讨论。合作伙伴内容如何利用数字工具实现成功的客户体验Midsona如何通过现代化ERP系统提高效率并降低成本通过混合云简化业务峰会的第一天下午将研究如何安全地利用这些模型，与会代表将考虑如何定义风险阈值、有效的安全评估以及稳健的治理和问责机制。随后，与会代表将讨论国家政策制定者如何更好地管理AI的风险，并利用AI的机遇来实现经济和社会效益。查看所有通讯在我们的通讯中注册数据、洞察和分析直接送达您由Tech Monitor团队在此处注册第一天的最后一个环节是一个关于AI在短期和长期为“公共福祉”带来变革性机遇的小组讨论。这将包括对教师和学生如何在教育中使用AI的探讨。新的40万英镑AI风险挑战此议程同时公布，英国科学、创新与技术部（DSIT）还宣布了一项40万英镑的投资基金，名为“公平创新挑战”，旨在支持能提供解决AI偏见和歧视问题的计划。获奖者将获得高达13万英镑的投资，前提是他们能通过更广泛的社会背景，在模型开发中提出对偏见问题的新方法。AI系统的公平性是政府在AI领域的关键原则之一，这体现在《AI监管白皮书》中，并构成了即将到来的峰会的议程内容之一。DSIT表示，AI是一种强大的工具，能够提供几乎无限的机会推动全球经济并改善公共服务。在英国，国家医疗服务体系（NHS）已经在尝试利用AI帮助医务人员识别乳腺癌病例、开发新药并改善患者结果。政府还在利用AI应对气候变化及其他挑战，但必须识别这些风险并找到解决方案，才能使AI成为一种可行的技术并得以推广。挑战参与者将能够使用伦敦国王学院基于1000万名英国NHS患者匿名记录构建的生成式AI模型，该模型已被设计用于预测可能的健康结果。挑战的一部分将涉及研究模型中的潜在偏见。第二部分则包括提出解决方案，以解决其各自模型和重点领域的歧视问题。科技、创新与技术大臣米歇尔·唐兰（Michelle Donelan）表示，面对前沿AI的风险是“充分获得这种变革性技术带来的巨大利益”的重要前提。她补充道：“AI为推动经济增长、在医学、清洁能源和教育领域带来变革性突破提供了巨大机遇。应对AI误用的风险，确保我们能安全采用这一技术，需要全球合作。” 更多阅读：担忧AI安全峰会“仅限100名代表参加”本文主题：人工智能，AI安全峰会
查看全文
作者最近更新
评论0条评论