报告警告称，生成式人工智能的“意外危害”对英国国家安全构成风险
一项新报告警告称，生成式人工智能的意外后果可能对英国国家安全造成重大伤害。该报告指出，生成式人工智能可能导致日益复杂的深度伪造内容被制造出来。（照片由Tero Vesalainen / Shutterstock提供）这份来自阿兰·图灵研究所新兴技术与安全中心（CETaS）的报告强调了几个关键的担忧领域，需要加以解决，以保护国家免受这些强大技术带来的威胁。生成式人工智能的意外安全风险。报告题为《生成式人工智能与国家安全：风险加速器还是创新推动者？》，作者指出，关于威胁的讨论主要集中在理解那些有意利用生成式人工智能来造成伤害的团体或个人所带来的风险，例如通过网络攻击或生成涉及儿童性虐待的材料。预计生成式人工智能将加速这些活动的速度和规模，而《Tech Monitor》本周报道，安全专业人士指出，由人工智能驱动的钓鱼攻击所带来的风险正在增加，这使得网络罪犯能够生成更逼真的信息来诱骗受害者。但报告还敦促政策制定者为生成式人工智能的不当使用和实验所带来的无意风险做好准备，以及由于过度信任人工智能输出结果而产生的过度冒险行为。这些风险可能来自人工智能在关键国家基础设施或其供应链中的应用，以及在公共服务中的使用。来自阿兰·图灵研究所CETaS的研究员Ardi Janjeva指出，生成式人工智能可能为国家安全领域提供机会。但他认为，目前它“还不足以可靠到可以用于最高风险的情境中”。Janjeva表示：“政策制定者必须改变思维方式和行动方式，以确保他们能够应对由于生成式人工智能不当使用以及恶意使用而引发的全部范围的意外危害。” 研究团队咨询了来自政府、学术界、民间社会和领先私营公司的50多位专家，大多数专家认为，与国家安全机构惯常面对的对抗性威胁相比，这些意外危害并未获得足够的关注。**我们的合作伙伴内容** AI与可持续性的交汇点 企业如何在生成式人工智能时代蓬勃发展 人工智能正在提升效率并为分销商释放价值 报告分析了政治性虚假信息和选举干预，并特别关注了不同类型的生成式人工智能技术在大规模传播虚假信息方面的累积效应。报告警告称，在选举前的几小时或几天内，推翻一个由人工智能生成的虚假叙事将特别具有挑战性。**订阅所有通讯** 注册我们的通讯 数据、洞察和分析直送到你手中 由《Tech Monitor》团队提供 [点击此处注册]报告还举了一个例子：如果一段人工智能生成的视频显示某位政治人物在一个他们从未出席的场合发表演讲，并配有政治人物回答记者提问的音频和图像，以及以文本形式报道“演讲”内容的新闻文章，那么这段视频可能会被视作更加可信。如何应对人工智能的意外后果 阿兰·图灵研究所表示，CETaS报告的发布是为了借助英国人工智能安全峰会所创造的势头，该峰会上科技和政治领袖齐聚一堂，讨论人工智能如何在不造成社会危害的前提下得到实施。报告为即将成立的人工智能安全研究所以及相关政府部门和机构提出了政策建议，以帮助应对恶意和非故意风险。其中包括评估人工智能系统的指南，以及在情报分析中适当使用生成式人工智能的建议。报告还指出，自主人工智能代理——该技术早期流行的用例之一——可能会同时加快安全环境中的机遇和风险，并提出了确保其安全和负责任使用的建议。阿兰·图灵研究所首席科学家Mark Girolami教授表示：“生成式人工智能正在迅速发展并不断改进，虽然我们对这项技术带来的许多好处感到兴奋，但我们必须在涉及国家安全时谨慎应对其可能带来的风险。随着美国和英国即将举行选举，必须尽一切努力确保这项技术不会被滥用，无论是有意还是无意。”**阅读更多**：英国正在建设价值2.25亿英镑的人工智能超级计算机
查看全文
作者最近更新
-
微软与OpenAI的亲密合作及皇家邮政网络攻击——2023年1月回顾techmonitor
2023-12-20
-
IBM 以 20 亿欧元收购 Software AG 的企业集成平台techmonitor2023-12-20
-
报告警告称，生成式人工智能的“意外危害”对英国国家安全构成风险techmonitor2023-12-19
评论0条评论