AI打败AI：谷歌研究团队利用GPT-4击败AI-Guardian审核系统
(资料图片仅供参考)
IT之家 8 月 2 日消息，谷歌研究团队正在进行一项实验，他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施， 该团队目前已经攻破 AI-Guardian 审核系统，并分享了相关技术细节 。
IT之家经过查询得知，AI-Guardian 是一种 AI 审核系统，能够检测图片中是否存在不当内容，及图片本身是否被其他 AI 修改过，若检测到图片存在上述迹象，便会提示管理员前来处理。
谷歌 Deep Mind 的研究人员 Nicholas Carlini 在一篇题为“AI-Guardian 的 LLM 辅助开发”的论文中，探讨了使用 GPT-4“设计攻击方法、撰写攻击原理”的方案，并将这些方案用于欺骗 AI-Guardian 的防御机制。
▲ 图源 谷歌研究团队据悉，GPT-4 会发出一系列错误的脚本和解释来欺骗 AI-Guardian ，论文中提到， GPT-4 可以让 AI-Guardian 认为“某人拿着枪的照片”是“某人拿着无害苹果的照片”，从而让 AI-Guardian 直接放行相关图片输入源 。谷歌研究团队表示，通过 GPT-4 的帮助，他们成功地“破解”了 AI-Guardian 的防御，使该模型的精确值从 98% 的降低到仅 8%。
目前相关技术文档已经发布在 ArXiv 中，有兴趣的小伙伴们可以前往了解， 不过 AI-Guardian 的开发者也同时指出，谷歌研究团队的这种攻击方法将在未来的 AI-Guardian 版本中不再可用 ，考虑到别的模型也会随之跟进，因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。
标签：
相关文章
云南城投(600239.SH)：一季度房地产业务收入仅占总体收入1.31%
格隆汇8月2日丨云南城投600239600239SH公布随着房地产项目的置出公司房
2023年《财富》世界500强发布：中国共有142家公司上榜 总营收11.7万亿美元
今年的500强榜单共有39家新上榜公司，其中23家公司首次上榜，包括华纳
