中国新的生成式人工智能规则是“国家控制”，而不是用户安全
techmonitor
中国已发布一套草案法规，以规范像ChatGPT这样的生成式人工智能技术以及如MidJourney这样的图像生成工具的使用。与欧盟、美国或英国提出的类似规则相比，这些规则对人工智能模型开发者在准确性方面负有更大的责任。一位专家告诉Tech Monitor，这些规则更关注于确保国家的控制权，而不是保护用户。中国生成式人工智能的指南对技术提供方施加了更大的责任。（照片由Koshiro K / Shutterstock提供）该草案由国家网信办发布，规定了生成式人工智能的使用规则以及其能够和不能生成的内容。其中包括确保输出内容符合“社会主义核心价值观”，且不得颠覆国家政权。在惊讶于OpenAI于2022年11月发布的基于大型语言模型的自然语言工具ChatGPT取得巨大成功后，中国公司迅速做出了反应。阿里巴巴、腾讯、百度等公司都已宣布计划开放其自身的大型语言模型，并将其聊天技术整合到自己的应用程序中。中国政府也对生成式人工智能表现出浓厚的兴趣，并强调其应成为国家经济的核心。科技部的官员表示，他们非常重视人工智能的发展，并指出其在许多行业中具有广泛的应用潜力。来自西方的AI工具如ChatGPT在中国被禁止，这催生了大量本土替代方案的出现。而新规则的设计目的是确保这些工具的输出内容体现共产党的观点和立场。中国的算法透明度规则这并非国家网信办首次发布有关人工智能或算法使用的指导方针。此前，监管机构曾要求社交媒体公司公开其算法的细节，包括它们如何决定向用户展示哪些视频或推荐哪些产品。这些新规则将责任放在了人工智能模型的开发者或提供方身上，而不是最终用户。这包括确保用于训练模型的数据不针对民族、种族或性别进行歧视，也不生成虚假信息。任何新的生成式人工智能产品都必须通过安全评估，并像社交媒体服务那样发布算法的透明度信息。对直接面向消费者和直接面向企业工具的安全性和安全性要求水平没有区别。来自合作伙伴的内容增强型分析如何助力食品饮料行业更具可持续性 俄乌战争如何改变了网络犯罪格局，中小企业必须警惕 食品饮料行业必须借助数字技术来释放创新潜能 指南中的内容审核规则要求提供方确保内容符合“社会秩序和社会道德”，不危害国家安全，避免歧视，确保准确性并“尊重知识产权”。查看所有新闻通讯 注册我们的新闻通讯 数据、洞察与分析直送到您手中 由Tech Monitor团队提供 点击此处注册 评估条款适用于包括公共论坛、流媒体和搜索引擎在内的互联网服务。服务提供方需要自行评估或聘请第三方机构，以核实用户的真实身份，保护个人信息，并对内容进行内部审查。最终用户提交到系统中的数据必须受到保护，包括活动日志，而且提供方不得将这些数据用于用户画像或向第三方分享信息。国家网信办表示，如果生成的内容不符合草案措施，最终用户可以向他们举报该提供方。这将使该提供方面临《个人信息保护法》、《网络安全法》和《数据安全法》等一系列潜在的处罚措施。这可能包括罚款、服务暂停以及对高管的刑事调查。如果工具生成的内容违反了指南，相关公司将有三个月的时间来更新模型、重新训练数据，并确保此类情况不再发生。若未能做到，可能会导致其服务被取消，并面临大额但未具体说明的罚款。中国人工智能规则：会面临财务处罚律师事务所Travers Smith的合伙人Louisa Chambers告诉Tech Monitor，新法规与世界其他地方的一些法规有相似的基础，因为各方都关注人工智能的日益普及与复杂化。“例如，我们都担心，如果不加以安全措施和检查，AI可能会强化和合法化偏见和歧视——而我们开始看到的全球范围内的草案立法都在试图解决这一问题，”她说道。Chambers表示，另一个相似之处在于透明度的需求，因为所有政府都希望企业对其AI的使用和训练方式保持某种程度的公开。但中国的做法与英国和欧盟有所不同。“欧盟的人工智能法案草案和英国最近的白皮书都表明希望利用AI支持创新，同时保护个人免受不公平或过度侵入性的AI过程影响。相比之下，中国最近发布的草案措施则强调，确保生成式人工智能不会生成不准确的内容，或与社会秩序不符的内容。”Chambers补充道。然而，纽卡斯尔大学的法律、创新与社会教授Lillian Edwards认为，这项政策是关于控制的。她表示，中国出于“有充分理由的担忧”希望控制其私营科技行业，以防它超越国家对公民进行控制和监管的能力。“这项立法呼应了以前的法律，例如有关推荐算法的法律，这些法律设定了模糊的社会目标，要求提供方必须遵守，否则将面临处罚，”Edwards表示。“这些目标显然并不完全可行；但已有推荐算法法律的执行行动，因此也不能忽视这些目标。”西方和中国采取了不同的方法，中国希望约束其科技行业，Edwards认为，“西方大多害怕”采取同样的做法。“至少欧盟在保护公民的基本权利，”她说。“而在中国，可以说这两个动机都不存在，其主要目标是保护国家政权。”
查看全文
作者最近更新
评论1条评论