如何判断一张照片是否是人工智能生成的假照片
你或许看到过一些看似真实的照片，但前总统唐纳德·特朗普上周并没有被逮捕，教皇也没有穿着一款时尚且亮眼的白色羽绒服。这些最近在网络上爆红的照片，都是通过人工智能系统生成的。这些系统会根据用户输入的文本提示创建图像。它们展示出这些程序变得非常强大和迅速，甚至已经足以欺骗一个毫无戒备的观察者。那么，持怀疑态度的观众如何识别那些可能由DALL-E、Midjourney或Stable Diffusion等人工智能系统生成的图像呢？每种AI图像生成器，以及每种生成器生成的每张图像，它们在说服力和可能暴露其算法的迹象方面都各不相同。例如，历史经验表明，AI系统在模仿人类手部结构方面一直存在困难，常常生成出拥有过多手指的畸形肢体。然而，随着技术的进步，像Midjourney V5这样的系统似乎已经解决了这个问题——至少在某些例子中是如此。专家表示，目前最好的图像生成器所生成的图片，即使是最优秀的，也很难甚至几乎不可能与真实图像区分开来。“就AI图像生成器所能完成的成就而言，这非常令人惊叹，”宾夕法尼亚州立大学的研究员S. Shyam Sundar表示，他研究媒体技术对心理的影响。“过去一年左右，图像生成能力已经实现了巨大的飞跃。” Sundar指出，这种能力的飞跃背后有多个因素，包括用于训练AI系统的图像数量不断增加，以及数据处理基础设施的进步和界面的优化，使这项技术对普通互联网用户也变得更容易接触了。结果就是，由人工智能生成的图像无处不在，并且几乎“难以察觉”。最近的一项实验就突显了人工智能在欺骗方面的能力。英国兰卡斯特大学的心理学家索菲·奈廷格尔（Sophie Nightingale）与人合著了一项研究，测试在线志愿者能否分辨由名为StyleGAN2的AI系统生成的类似护照的头像照片与真实图像之间的区别。实验结果令人沮丧，即使是在2021年底进行实验时也是如此。“平均而言，人们的识别能力几乎没有优于随机猜测。”奈廷格尔表示。“可以说，我们现在已经到了一个AI生成的人脸与真实人脸几乎无法区分的地步——真实的人脸，属于真实存在的个体。”尽管在实验中人类研究人员提供了部分帮助（研究者筛选了由StyleGAN2生成的最逼真的图像），奈廷格尔指出，那些意图使用此类程序从事非法活动的人很可能也会这样做。在第二次测试中，研究人员尝试帮助测试对象提高识别AI图像的能力。他们在参与者作答后立即反馈答案是否正确，并提前向他们提供了一些识别人工智能生成图像的建议。这些建议强调了AI算法通常会出错的地方，例如生成不对称的耳环，或模糊一个人的牙齿。奈廷格尔还指出，算法在生成复杂的背景方面通常表现不佳。但即便提供了这些建议，参与者的准确率也仅提高了约10%。她说，用于试验的AI系统已经升级为一个新版本，性能更优。讽刺的是，随着图像生成技术的持续进步，人类抵御AI欺骗的最佳防御手段，或许正是另一种AI系统：一个专门训练用于检测人工生成图像的AI系统。专家表示，随着AI图像生成技术的发展，算法在检测某些微小像素级特征方面比人类更具有优势，这些特征可揭示图像是否为AI创作。威斯康星大学麦迪逊分校的计算机科学家Yong Jae Lee表示，创建这些AI检测程序与其他机器学习任务的运作方式相同。“你会收集一组真实的图像数据，并且也收集一组由AI生成的图像数据，”Lee说。“接着，你可以训练一个机器学习模型来区分这两类图像。”尽管如此，Lee和其他专家表示，这些系统仍然存在显著的缺陷。大多数这样的算法仅针对特定的AI生成器进行训练，因此无法识别由不同算法生成的伪造图像。（Lee表示，他和他的研究团队正在尝试通过让检测器识别图像真实性本身的特征，而不是训练它识别特定AI生成器的输出，来避免这个问题。）大多数检测器也缺乏使人们愿意尝试这些生成AI系统的用户友好型界面。而且，AI检测器始终在努力跟上AI图像生成器的步伐，一些图像生成器甚至会采用类似的检测算法，以此学习如何生成更难被识别的伪造图像。“生成图像的AI系统与检测AI生成图像的AI系统之间的较量将会演变成一场军备竞赛，”南加州大学计算机科学领域的研究助理教授Wael AbdAlmageed表示。“我不认为任何一方会在短期内取得胜利。”AbdAlmageed指出，没有任何方法能够识别出所有的人工生成图像，但这并不意味着我们应该放弃。他建议社交媒体平台需要开始在其网站上面对AI生成内容进行应对，因为这些公司比个人用户更具备实施检测算法的能力。同时，用户在分享信息之前，需要更加谨慎地评估视觉信息，询问它是否为假、AI生成或有害。“我们人类在成长过程中往往认为看到的就是真实的，”AbdAlmageed表示。“但这个观念已经不再成立。如今，看到的并不等于相信的。”
查看全文
作者最近更新
-
我们进化的历史可以教会我们人工智能的未来scientific
2023-11-11 -
“ChatGPT检测器”以前所未有的准确率识别人工智能生成的论文scientific2023-11-11
-
人工智能需要规则，但谁将拥有制定规则的权力？scientific2023-11-07
评论0条评论