欧盟人工智能法案正在改进——但仍存在根本性缺陷
在我们的立法者和相关社会努力应对人工智能（AI）这一快速发展的领域时，他们必须仔细权衡如何在保护该领域的创新与发展之间取得平衡，同时应对可能出现的风险和伦理问题。就生成式人工智能而言，任何监管框架都必须考虑技术生成内容的能力、其学习和适应的潜力，以及其与用户互动的特性。因此，新的立法应体现数据保护的尊重，要求运营过程中的充分透明度，并确保企业对错误和损害行为负责，同时保持生成式AI系统对大中小企业都具有可操作性。欧盟在为人工智能设定立法边界方面无疑处于领先地位。2021年4月，欧盟委员会提出了首个全面的法律框架：人工智能法案（AI Act）。该提案基于“风险导向”方法，根据AI系统对权利和安全造成潜在危害的程度进行分类。因此，高风险AI系统，如应用于医疗或行政领域的系统，将受到严格监管。近日，欧洲议会就AI法案进行了审议，三位欧洲AI研究人员表示，法案已得到显著改进，但目前的立法仍可能无意中抑制该领域创新。（图片由Thierry Monasse/Getty Images提供）《欧盟人工智能法案》中的基础模型上周四，该法律草案已获欧洲议会相关委员会批准。不仅议员们将“基础模型”这一术语引入了立法——这一术语在计算机科学界已有广泛认可——他们还支持了我们最近在《监管ChatGPT》一文中提出的对基础模型的三级监管措施。这三级包括：首先，为所有基础模型设定最低标准；其次，为在高风险场景中使用基础模型制定具体规则；第三，建立沿AI价值链的合作与信息共享规则。总体而言，草案中有关生成式AI的规定，如使用透明度、训练数据和版权的规范，以及内容治理，是迈向正确方向的一步。然而，仍然存在重大问题。首先，法案中对AI的定义在我们看来过于宽泛，涵盖了“任何设计用于以不同自主程度运行的基于机器的系统”，其能“生成影响物理或虚拟环境的预测、建议或决策”。这可能会覆盖到与该法案无关的大量技术，包括智能电表、规划助手、基于规则的系统和几乎所有高级软件。此外，法案中“自主性”的概念也过于宽泛，未提及模型应具备在新环境中学习或适应的能力。按此定义，一个自动在用户牙齿上机械振动的电动牙刷，也有可能被归类为“自主”系统。最重要的是，基础模型在风险评估、缓解和管理方面的要求，对于开发这些系统的中小型企业（SMEs）来说将是个严峻挑战。由于合规资源有限，它们无法对大量假设性风险场景进行考虑，并实施相应的风险管理机制。可以预见，只有大型科技公司才能具备满足这些要求的资源，这将进一步巩固它们在该领域的主导地位，同时推动行业核心活动远离欧盟边界。被称为“ChatGPT规则”的条款（AI法案第28b(4)条，欧洲议会版本）也存在问题。尽管其透明度义务朝正确的方向迈进，特别是在让用户明确意识到他们正在与AI系统互动方面，但立法还应对生成AI内容的网络用户施加一定的责任，尤其是帮助遏制虚假新闻和其他虚假信息的传播。法规中的透明度要求还应延伸至专业人士及社交媒体环境，而非社交媒体背景下的非专业用户则可豁免。例如，在写生日贺卡过程中AI的参与，收件人并没有了解的正当利益。《欧盟人工智能法案》是首次尝试全面立法监管一切人工智能的尝试。然而，生成式AI的最新进展却使该法案内部审议变得复杂。（图片由Tada Images/Shutterstock提供）版权问题遵守欧盟法律是强制性的——AI法案欧洲议会版本重申了这一原则，同时引入了谨慎的事前合规义务。但这一条款可以更加完善。我们建议应借鉴《数字服务法》（DSA）中的机制，提供明确且可操作的框架，如强制性的通知与行动机制及可信赖举报人制度。这些措施可以分散对AI输出的控制，增强法律的执行力度，并确保AI生态系统更加安全。合作伙伴内容企业网络安全的关键在于纵深防御 2023年网络安全是一个双速系统 食品与饮料制造商为何必须寻求更高的灵活性 《AI法案》第28b(4)(c)条还涉及训练数据中的版权材料，其存在必须披露。尽管这本身是一个值得称赞的想法，但这一条款也带来了诸多挑战。关于何为受版权保护的材料，专家之间经常存在争议，而开发者在处理大规模数据时，进行相关尽职调查将不可避免地面临巨大挑战。我们建议，应采用涵盖版权状态不明确作品的披露方案，这将有助于避免过高的尽职调查成本，并将版权争议的责任转移给作者个体——他们随后可以决定是否认为其作品受版权保护以及采取何种行动。查看所有简报 注册我们的简报 数据、洞察与分析直送您手中 由《Tech Monitor》团队提供 点击此处注册 总体而言，我们认为该草案立法正朝着正确方向迈进，但这些缺陷仍然可能削弱欧盟及更广泛地区生成式AI的发展。最终，风险评估必须明确与具体应用场景和实际应用相关，以防止该法案成为欧洲AI设计和部署的障碍。我们共同的目标，应在保护个人和社会免受潜在危害的同时，为AI行业在合理监管框架内创新和成长创造有利条件——不仅在欧盟，也在全球范围内。了解更多：GPT-4将如何受到监管 本文涉及主题：欧盟人工智能法案
查看全文
作者最近更新
-
微软与OpenAI的亲密合作及皇家邮政网络攻击——2023年1月回顾techmonitor
2023-12-20
-
IBM 以 20 亿欧元收购 Software AG 的企业集成平台techmonitor2023-12-20
-
报告警告称，生成式人工智能的“意外危害”对英国国家安全构成风险techmonitor2023-12-19
评论0条评论