白宫确保人工智能安全承诺
techmonitor
美国最大的人工智能实验室和技术巨头已同意在模型上线前进行独立的安全性和漏洞测试。这项自愿协议是与美国政府就提高人工智能安全性和对齐性达成的更广泛协议的一部分。该协议已由七家领先的AI公司签署，包括亚马逊、Anthropic、Inflection、谷歌、Meta、微软和OpenAI。美国总统乔·拜登今年早些时候曾会见大型人工智能实验室的领导者，讨论安全和隐私问题（照片由Kevin Dietsch/Getty Images提供）。白宫的协议要求人工智能实验室遵守一系列自愿的人工智能安全承诺，包括对生成内容进行水印处理，并对输出内容进行虚假信息风险测试。除了测试和安全措施外，这些公司还必须分享降低风险的方法，并投资网络安全措施。这项新协议被视为拜登政府在监管美国人工智能发展方面的早期举措。其他美国立法者呼吁引入类似欧盟的全面立法，但截至目前尚未有实质性进展。白宫在一份声明中表示：“拜登-哈里斯政府目前正在制定行政命令，并将推动两党共同立法，以帮助美国在负责任的创新方面领先世界。” 该协议以白皮书的形式发布在白宫网站上，要求七家最大的人工智能公司在发布前进行内部和外部安全测试。此外，他们还同意在行业内、政府和民间社会之间分享管理人工智能风险的信息。该协议还要求这些公司促进第三方发现和报告漏洞。这可能以漏洞赏金的形式出现，例如谷歌等科技巨头运营的漏洞赏金计划。七家组织都同意立即开始实施工作，白宫将这项工作描述为“人工智能未来发展的基础”。白宫表示，这项工作体现了其发展人工智能的三项重要原则：安全、安全和信任。“为了充分发挥人工智能的潜力，拜登-哈里斯政府正在鼓励该行业坚持最高标准，确保创新不会以牺牲美国人的权利和安全为代价。” 白皮书声明道。面向未来人工智能模型这项关于安全性的新协议主要适用于未来、理论上更强的人工智能模型，例如OpenAI的GPT-5和谷歌的Gemini。因此，它目前不适用于现有模型，如GPT-4、Claude 2、PaLM 2和Titan。该协议重点强调赢得公众信任的必要性，并包括签署方需要关注的四个领域。这包括开发水印系统，以确保明确识别内容是否由人工智能生成。他们还需要定期公开报告人工智能的能力、局限性以及适当的和不适当的使用领域。每家公司都同意优先研究人工智能可能带来的社会风险，特别是有害偏见、歧视和隐私问题。“人工智能的记录表明了这些危险的隐蔽性和普遍性，这些公司承诺推出能够减轻这些问题的人工智能。” 白宫白皮书如此表示。来自我们的合作伙伴：科技团队如何推动公共部门可持续发展议程混合云中的价值数据中心运营如何优化企业价值之一项承诺超越了保护人工智能，还涉及利用人工智能解决社会面临的最大挑战。白宫解释说：“从癌症预防到缓解气候变化，再到介于两者之间的诸多问题，人工智能如果得到妥善管理，可以极大地促进所有人的繁荣、平等和安全。” 查看所有通讯订阅我们的通讯由The Tech Monitor团队为您提供在这里注册不到一年内，通用人工智能已成为技术领域最重要的监管议题之一。世界各国都在投资并研究如何最好地确保人工智能的安全构建、部署和使用。英国政府已与OpenAI、Anthropic和谷歌的DeepMind达成协议，为AI安全研究人员提供早期接触模型的渠道。这一点与新成立的价值1亿英镑的基础模型任务组一并宣布，该任务组由Ian Hogarth担任主席。OpenAI全球事务副总裁Anna Makanju表示：“世界各地的政策制定者都在考虑针对高度能力人工智能系统的法律法规。” “今天宣布的承诺为这一持续的讨论提供了具体且实际的做法。本次公告是我们与政府、民间社会组织以及世界各地的持续合作的一部分，以推动人工智能治理。” 阅读更多：OpenAI 为ChatGPT添加持续人格选项本文主题：人工智能、白宫
查看全文
作者最近更新
评论0条评论