ICO警告科技领袖，不要购买分析情感的人工智能
techmonitor
英国信息专员办公室（ICO）警告企业，避免购买用于情绪分析的人工智能工具，因为这种技术很可能永远无法有效工作，并可能导致偏见和歧视。如果企业使用了该技术却无法证明其有效性，数据监管机构可能会迅速采取行动。情绪人工智能可以通过可穿戴设备监测员工的健康状况。但信息专员办公室表示，这种技术尚未经过验证（照片由LDprod/Shutterstock提供）。情绪分析技术会收集多种生物特征数据点，包括目光追踪、情感分析、面部动作、步态分析、心跳、面部表情以及皮肤湿度，并尝试利用这些数据来判断或预测某人的情绪状态。副信息专员斯蒂芬·邦纳（Stephen Bonner）指出，问题在于“目前没有任何证据表明它真的有效，而且有很多证据表明它永远不会有效”，他警告说，这种技术更可能产生错误结果，如果企业依赖这些结果，会造成伤害。他表示，如果企业确实实施情绪分析人工智能，监管机构介入的门槛将“非常低”，因为现在已经发布了警告。他说：“在新技术推出时，我们会说‘先观望一下，双方都获取一些理解’，对于其他合法的生物特征识别，我们的确在这么做。但在情绪人工智能的情况下，我们没有任何证据表明这种技术可以正常工作。”他说：“我们将密切留意相关进展，并且在必要时迅速采取果断行动。”他补充说，“使用这种技术的人有责任向所有人证明它是有价值的，因为目前科学上显然不支持这种技术的可靠性。”情绪分析在某些情况下是有用的邦纳表示，这种技术确实有其应用场景，例如，通过可穿戴设备监测员工的身体健康状况，利用各种数据点来记录并预测潜在的健康问题。信息专员办公室警告称，尚未充分开发的算法在识别情绪线索时可能会导致系统性偏见、不准确和歧视，并补充说，这种技术依赖于收集、存储和处理大量的个人数据，包括人的潜意识行为或情绪反应。来自我们的合作伙伴如何保护公共部门免受勒索软件攻击变革性采购如何帮助公共部门？持续打击校园的网络攻击该组织警告称，“这种数据使用方式的风险远远超过传统用于身份验证的生物识别技术”，并重申目前没有任何证据表明这种技术能够产生真实、可验证且准确的输出。每日精选：数据、洞察与分析直送您手中查看所有通讯由《科技观察》团队编写订阅我们的通讯在这里注册邦纳表示，信息专员办公室并未禁止使用此类技术，只是警告这种技术由于涉及的风险，将受到密切关注。他告诉《科技观察》，只要明确标明其性质，作为娱乐或噱头使用是可以接受的。他说：“生物特征测量和推断结果之间是有一定区别的。我认为通过语音可以合理判断一个人的压力程度。但由此推断他们就是欺诈者，就走得太远了。”他表示：“我们不会禁止通过人工智能判断某人是否情绪不佳——你甚至可以为他们提供额外的支持。但将某些人情绪不佳的情况推断为他们试图实施欺诈，是绝对不应该做的事情。”生物识别技术的跨行业影响生物识别技术预计将在多个行业中产生重大影响，从金融服务公司通过面部识别验证人类身份，到通过语音识别访问服务，而无需使用密码。信息专员办公室正在与阿达·洛芙莱斯研究所（Ada Lovelace Institute）和英国青年委员会（British Youth Council）共同制定新的生物识别技术指南。该指南将“以人为本”，预计将在春季发布。艾伦·图灵研究所（Alan Turing Institute）的伦理研究研究员麦拉·艾肯博士（Dr. Mhairi Aitken）欢迎信息专员办公室的警告，但她也表示，还必须关注这些系统的开发过程，确保开发人员采用伦理方式开发工具，确保工具确实有实际需求，而不是为了开发而开发。她说：“开发技术或新应用的伦理方法应该从了解谁可能受到影响的社区开始，并让他们参与过程，以判断在部署的场景中是否真的合适。”她补充说，这样的过程使我们有机会意识到那些未预料到的潜在危害。情绪检测人工智能——对危害的“真正风险”艾肯博士表示，这种人工智能模型可能造成的伤害是巨大的，特别是对于那些在构建预测模型时“未能符合模板”的人来说。她说：“这是一个非常复杂的领域，我们甚至开始思考如何自动化此类任务，并考虑到文化差异和神经多样性。”艾肯博士表示，人工智能系统可能难以判断在不同情境下什么样的情绪反应是适当的。“我们的情绪表达方式取决于我们与谁在一起以及所处的情境，”她说。“此外，我们还必须考虑这些系统是否能够充分理解人们可能以不同方式表达情绪的问题。”与认为在娱乐中使用情绪人工智能危害微乎其微的邦纳不同，艾肯博士警告说，这种应用场景也伴随着自身的风险，包括人们逐渐习惯这种技术并误以为它真的有效。“它必须被明确标记为娱乐用途，”她警告说。关于情绪人工智能，邦纳补充说，问题是人类个体之间存在太多数据点和差异，难以构建有效的模型。这一点在多项关于该技术的研究论文中都有体现。他说：“如果有人走过来对我们说‘我们已经解决了这个问题，可以做出准确的预测’，那么我会在这里吃瘪，而他们将赢得所有奖项。但我认为这种情况不会发生。”阅读更多：欧盟希望简化因人工智能造成损害的起诉流程本文主题：人工智能、监管
查看全文
作者最近更新
评论0条评论