AI 打败 AI：谷歌研究团队利用 GPT-4 击败 AI-Guardian 审核系统
谷歌研究团队正在进行一项实验，他们使用OpenAI的GPT-4来攻破其他AI模型的安全防护措施，该团队目前已经攻破AI-Guardian审核系统，并分享了相关技术细节。
IT之家经过查询得知，AI-Guardian是一种AI审核系统，能够检测图片中是否存在不当内容，及图片本身是否被其他AI修改过，若检测到图片存在上述迹象，便会提示管理员前来处理。
谷歌Deep Mind的研究人员Nicholas Carlini在一篇题为“AI-Guardian的LLM辅助开发”的论文中，探讨了使用GPT-4“设计攻击方法、撰写攻击原理”的方案，并将这些方案用于欺骗AI-Guardian的防御机制。
▲图源谷歌研究团队
据悉，GPT-4会发出一系列错误的脚本和解释来欺骗AI-Guardian，论文中提到，GPT-4可以让AI-Guardian认为“某人拿着枪的照片”是“某人拿着无害苹果的照片”，从而让AI-Guardian直接放行相关图片输入源。谷歌研究团队表示，通过GPT-4的帮助，他们成功地“破解”了AI-Guardian的防御，使该模型的精确值从98%的降低到仅8%。
目前相关技术文档已经发布在ArXiv中，有兴趣的小伙伴们可以前往了解，不过AI-Guardian的开发者也同时指出，谷歌研究团队的这种攻击方法将在未来的AI-Guardian版本中不再可用，考虑到别的模型也会随之跟进，因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。
查看全文
作者最近更新
-
赛微电子，投了一家传感器公司传感梦工厂
6天前 -
2.95亿！又一家传感器企业被（688045）收购传感梦工厂08-28 10:43
评论0条评论