近日,一位软件开发者公开宣称,已成功对谷歌DeepMind研发的SynthID水印系统进行了逆向工程。该技术旨在为AI生成的图像添加隐形标识,但开发者表示,通过信号处理技术,不仅能从AI生成图片中移除此类水印,还能将水印手动植入其他非AI创作的作品中。
据开发者在其技术博客中透露,整个破解过程并未使用任何神经网络或需要获得谷歌的专有访问权限。其方法的核心在于分析约200张由Gemini模型生成的图像,通过对比和信号处理来识别水印的编码模式。开发者幽默地表示,完成这项研究除了需要“过多的空闲时间”外,一点点“灵感”似乎也有所助益。
针对这一破解声明,谷歌方面迅速予以否认,坚称SynthID系统具备鲁棒性,其水印技术设计能够抵御此类简单攻击。谷歌强调,该系统旨在为AI生成内容提供持久且可靠的溯源标识,是应对数字内容真实性挑战的重要工具。
这一争议事件再次将AI生成内容的安全性与可信认证推至风口浪尖。随着AI生成技术的普及,如何建立防篡改、可验证的标识系统,已成为行业亟待解决的关键问题。无论此次破解声明的真实性如何,它都凸显了在开放环境中维护数字内容完整性的持续挑战。