人工智能伦理超越数据隐私和偏见
图示：© IoT For All --> 人工智能（AI）与伦理似乎很难想象被放在一起。然而，我们确实看到全球成群的学术研究者和AI实验室致力于探讨新兴技术。更具体地说，他们关注的是，如果AI技术在缺乏伦理约束的情况下发展，可能会带来哪些真实且负面的影响。“我们有必要真正体现出对AI伦理和AI对齐的承诺，这种承诺不能只是嘴上说说，而是要切实构建出有益且无害的AI工具和系统。” ——克莱尔·卡罗尔 点击推文分享 什么是AI对齐？目前所知的“负责任AI”轨迹仍处于起步阶段。十年前，在技术设计和开发中，几乎没有人提出这种责任意识。随着一些具有深远影响的危机事件的发生，如今“AI伦理”领域正在逐渐兴起，尽管其发展速度仍然赶不上技术本身的进步。此外，还有一批学术研究者和专业人士正在研究所谓的“AI对齐”。尽管AI伦理和AI对齐属于同一领域，但它们并不是完全相同的概念。AI对齐描述的是努力确保机器学习和高级分析工具不会被滥用，从而导致意外的后果。而这种现实已经存在。 数据隐私与偏见问题 随着AI伦理理念逐渐进入主流，大多数关注点集中在数据隐私和偏见问题上。剑桥分析公司（Cambridge Analytica）就是显而易见的例子，因为它造成了前所未有的个人数据泄露。毫无疑问，这两个领域是必须持续关注的重点。然而，将关键决策权交由算法决定，尤其是在公共服务领域，可能会带来严重后果。本质上，AI伦理研究者正在努力识别AI系统在何处产生了歧视行为，并导致对个体产生误导性判断。而AI对齐专业人员则专注于研究社会如何将越来越多的决策权外包给AI系统，尤其是在资源分配方面，比如学校录取和社保福利等。值得注意的是，我们的政策制定者和立法者对这些系统几乎一无所知，因此难以制定和实施有效的立法和监管。 AI伦理是否只是公关策略？ 尽管AI伦理研究者和对齐研究者并非在所有方面都持相同观点，但他们共同对“由公关委员会制定的伦理”表示反感。Anthropic公司联合创始人杰克·克拉克（Jack Clark）最近在推文中分享了他对AI道德关切是如何被处理的看法：“令人惊讶的是，大型科技公司中相当大比例的AI政策工作，其实只是在做‘转移视线’的游戏——引导政府把注意力引向一个方向，而忽略另一个技术进展的领域。” 这种现象并不令人鼓舞。然而，许多AI伦理和对齐专业人士都指出，科技公司是如何将AI相关的担忧视为一种“完成任务”的形式。优先考虑的是尽可能减少公关灾难的可能性，而不是构建以开放协作原则为基础的AI能力，并配备挑战系统的方法。这种失望情绪如此普遍，以至于2021年皮尤研究中心发布了一项调查报告，标题为：“专家怀疑在未来十年内，伦理AI设计能够广泛被采纳成为常态。” 我们对AI的理解有限 与其对公关活动本身持怀疑态度，不如承认在AI伦理方面，这种商业实践确实可以而且应该发挥一定作用。大型科技公司之所以没有因所开发的AI工具——这些工具影响了数百万人的生活——而受到应有的问责，是有原因的。那就是公众对AI技术的真实运作缺乏理解。有限的理解源于数字素养的缺乏。无论你的社会经济背景如何，大多数人缺乏理解算法的思维模型，也不清楚自己的数据流向和存储位置。但一旦公众开始关注这些问题，大型企业就会高度重视。想想苹果公司推出的“App跟踪透明度”功能。 能买得起苹果产品的人，也就买得起更强的数据隐私保护合同。没有人会认为苹果公司是出于纯粹的善意才这么做。苹果背后有明确的品牌和收入战略。此外，苹果之所以能推出此功能，还得益于其封闭的生态系统。但苹果确实吸引了公众的注意。更不用说公众对了解数据透明度的兴趣日益增加，包括想知道自己的数据被共享到哪里、谁能够访问这些数据以及它们被存储在何处。 我们也看到欧盟（EU）正在积极应对AI伦理问题，包括透明度、偏见和数据保护等问题。欧盟于2021年4月推出了《人工智能法案》。目前该法案正在进行评估和修订。预计该法案将在2023年初生效，并对全球范围内的公民和企业使用AI和机器学习产生“广泛影响”。根据欧洲委员会——欧盟的管理机构——发布的一份关于该法律的介绍材料，该法案旨在将欧盟对AI使用的监管与法律框架制度化。这一框架要求AI在法律、伦理和技术上都具备稳健性，同时尊重民主价值观、人权和法治精神。 对伦理的承诺 如果科技公司真的希望构建能够改善人们生活的AI解决方案，它们就必须通过与所有利益相关者进行透明的沟通来提高自身的可持续性。鉴于此事关系重大，我们不能将其仅仅视为一种形式主义的任务。我们有必要真正体现出对AI伦理和AI对齐的承诺，这种承诺不应只是嘴上说说，而是要真正构建出有益且无害的AI工具和系统。推文 分享 分享 邮件 人工智能 连通性 数据分析 隐私 安全 --> 人工智能 连通性 数据分析 隐私 安全
查看全文
作者最近更新
-
Edge and IoT Predictions For 2024iotforall
2023-12-22
评论0条评论