意大利数据监管机构给OpenAI的“待办事项列表”
techmonitor
意大利的数据保护机构Garante为OpenAI列出了一个“待办清单”，要求其完成一系列任务以符合该国的GDPR（《通用数据保护条例》）规定，并须在4月30日前完成。任务包括发布有关数据处理逻辑的信息，以确保ChatGPT正常运行；确保用户年龄在18岁以上；以及创建工具，让非用户可以反对其个人数据的处理。这一消息发布的同时，美国拜登政府也宣布了对通用人工智能（AI）的监管计划。此前，由于数据监管机构发布了GDPR违规通知，OpenAI被迫在意大利封锁了ChatGPT。（图片来源：Ascannio / Shutterstock.com）上个月底，Garante首次采取行动，封锁了意大利境内的ChatGPT，并对OpenAI下达了命令，怀疑其聊天机器人违反了欧盟的GDPR法规，禁止其处理本地数据。一些专家认为，此案可能成为欧盟其他数据监管机构效仿的“测试案例”。当时，OpenAI首席执行官山姆·奥尔特曼（Sam Altman）在推特上表示，将停止在意大利提供服务，但同时补充说：“我认为我们遵守了所有隐私法规”。OpenAI对意大利的IP地址实施了地理封锁，并停止了Plus订阅服务。此后，OpenAI公布了该工具的训练“安全措施”。为了遵守这一指令，该指令若在欧盟范围内推广，可能导致OpenAI因未能遵守而面临巨额罚款，公司必须对其数据收集和处理实践变得非常透明。“OpenAI必须起草并发布一份信息公告，说明运行ChatGPT所需的处理安排和逻辑，并告知用户（包括非用户）的权利，”监管机构声明道。“该信息公告必须易于获取，并在用户注册服务前明确展示。”除了首次注册时显示此信息，用户在服务恢复后访问时也必须再次看到该公告。此外，还必须部署年龄验证技术，以确保没有意大利用户年龄低于18岁，或在13至18岁之间但没有父母授权的情况。首先，这将通过通知用户在访问服务前声明其年龄来实现，同时过滤掉已注册但年龄低于13岁或13至18岁且无父母授权的用户。他们有到5月31日提交实施此类系统的计划，且必须在9月底前部署完成。更广泛的法律基础更大的问题是OpenAI在训练用于运行ChatGPT的模型（即GPT-3和GPT-4）时，处理用户数据的法律依据。这些模型由数万亿条数据组成，数据来源包括维基百科和书籍库，还包括对互联网内容的爬取。最后一种方式可能会将个人信息包含在数据集中，并在与AI的“对话”中被无意泄露。来自合作伙伴的内容乌克兰战争改变了网络犯罪格局。中小企业需提高警惕 为什么食品与饮料行业必须利用数字化以推动创新 韧性：自动化云灾难恢复的力量 “关于用于训练算法的用户数据处理的法律依据，意大利监管机构要求OpenAI删除所有与合同履行有关的引用，并依据问责制原则，以用户同意或合法利益作为适用的法律依据，”监管机构表示。“这不会影响监管机构在这一问题上的调查和执法权力的行使。”查看所有通讯 订阅我们的通讯 数据、洞察与分析直达您手中 由Tech Monitor团队提供 立即订阅 OpenAI还必须设立一种机制，允许用户或其数据通过训练数据或存储在OpenAI系统中的非用户，若能证明数据是错误的，可要求更正，或要求彻底删除。“OpenAI必须提供易于获取的工具，允许非用户行使反对其个人数据被用于算法运行的权利，”监管机构表示。我们当然尊重意大利政府的决定，并已停止在意大利提供ChatGPT（尽管我们认为我们遵守了所有隐私法规）。意大利是我最喜欢的国家之一，我期待很快再次造访！即使OpenAI能够完成整个待办清单，这也不意味着他们就能“脱身”。这只是他们能够处理意大利用户数据并恢复服务的最低要求。Garante表示，其调查仍在继续，“以确认可能的法规违反行为”，这可能导致罚款或进一步行动或附加措施。网络安全专家、漏洞赏金平台YesWeHack的首席财务官克莱尔·特拉谢特（Claire Tratchet）告诉Tech Monitor，关于生成式人工智能的监管全球范围内正展开激烈辩论，核心是在促进创新和缓解隐私担忧之间取得平衡。“正因为如此，我们看到各国对此采取了不同的应对方式，”她表示。“例如，意大利就以隐私保护为首要任务，其对ChatGPT实施全面禁令，就是最好的体现。”“美国则引入各种形式的立法和监管措施。而英国则推出了一套与他国相比更宽松的监管框架，其目的是在经济需要投资的时候促进该领域的发展。尽管所有这些立场各有其合理性，但现实中的监管不能一蹴而就。”她补充说，首席执行官和政府有必要在部署相关技术之前确保保障原则已到位。“生成式AI最大的风险在于其发展太快，以至于难以跟上创新的速度。因此，实施某种形式的风险管理和安全保障，以协调一致的方式进行，至关重要。AI公司的首席执行官和政府都需跟踪AI的保障措施，以确保用户不会因软件而遇到问题。”
查看全文
作者最近更新
评论0条评论