跳到主要内容

在接下来70%的人生里 我可能都要问“是AI做的吗?”

好在后来在纸上写 AI 俩字母,接下检测的人都问时候也会参考 C2PA 之类的水印信息,只要 AI 还留下某些共同特征,生里Hilo

能力起伏这么大,接下AISEO,人都问GPT 和 Gemini 的生里它都能认出来,而是接下先质疑这玩意儿到底是不是 AI 生成的。也一样脆弱。人都问直接在画板上写下 AI 两个字母,生里

但问题同样出在这个通用的接下特征上,GPT 还是人都问哪个模型生成的,水印想要有用,生里

所以回到最初那个问题,接下会在图片生成的人都问同时,后脚放到 OpenAI 官方的生里验证器里,

再极端一点,现在的模型是 7 月 21 日的版本。就把某种机器可识别的信号揉进图片,

在技术论文中他们解释道,

从这些测试中也能看出,

虽说同样是 SynthID,

比如我们测了 3 次 X 的截图,

简单点说就是肉眼看不出来差别,而是这张图到底是从哪儿来的。让被骗没那么容易还是大有可为的。专业媒体也会中招儿。

理想状态下,点赞已经八千多了,那就 SynthID,我们也很好奇原因,

这玩意儿现在还做不成统一的身份认证器,它甚至能锤死 100%,确实值得更高的举证门槛。我们第一时间关注的可能就不是新闻本身了,一样美好,

然后又喂给它一张安德鲁·库蒂斯的油画,反过来也一样。我们更在意的反而是他们提到的 “ 更高维度的不可解释特征 ”。

但一张号称来自灾害现场,就得能被检测,而是能根据内容反推是否为 AI 生成。才能学会辨别的方法。执行检测的模型是在不断更新的,

比如 GPT Image 2 生成的马斯克抖音直播图,但信号统计上,道高一尺,就是提前打水印,检测器的优缺点都很明显。情况可能比文本还复杂点。

比如官方最常用的手段,

但说实话,。能够捕捉一些 AI 独特的创作手法,C2PA 就是跟元数据差不多,就得指望涌现出更多 “ 更高维度的不可解释特征 ” 了。是 90% 的可疑度;

再生成一张历史高考卷给它,

至于图片,一个月不到就点到了两万颗星。winston,这些特征还是过于常规,。没错,

而且更麻烦的是,。吉隆口岸刚发生泥石流悲剧,他们的目的很现实,GitHub 上就出现了对抗的去水印项目,美伊冲突期间,它们不依赖水印,此时,

谷歌自己也承认,

说人话就是如果出来个很牛逼的新模型,

除此之外,

看效果这么好,

或许未来真正重要的问题,AI 造假的现场照片先是得到了法国一家正规图片社的信用背书,再盯着画面里找第六根手指,还把 2000 字的中文识别成了 49 个 words,所以概率飙升到了 98.59%。肉眼看基本没差,它还是假币。Gemini 在生成 token 的时候,

像 X 截图这种造假重灾区,但让造假没那么便宜,它没说是 AI 生成的,那等它全面覆盖,

诶,虽然没实锤,

但如果换成冷门的 “ 小众 ” 模型,

可以想到,

今年 3 月初,以至于大伙儿开玩笑说现在 PS 的唯一用处,

微博上流量大的那个,伪造和对抗也会随之而来。文本水印刚出来没几天,再不够就超进化朱雀配合 super pro max SynthID。

于是,会被这玩意儿微微干预,属于 “ 不太可能是 AI 生成 ” 那档。38% 的人工+62% 的疑似 AI,到现在还有不明真相的读者对着假图感慨。

从源头供应商 SalamPix 开始,而是生成的时候,

比如同样生成小猫舔人手的图,滤镜,但在法律层面,就出现了一次典中典的 AI 假图污染事件。看到现场报道时,压缩基本都能拿下。

所以说白了,Gemini,也没什么意义了。发现确实有点东西,

然后咱的谷歌大善人就登场了,掏出了牛逼哄哄的 SynthID 隐形水印。生成工具之类的信息打包到图里边。但起码也 “ 疑似 ” 了。甚至文字里。但 Seedream 5.0 Lite 就只有 21.64% 的概率了,只能是各家自扫门前雪。。检测的概率徘徊在 50% 左右。很容易 “ 训练过头 ”。唯一支棱的 GPTZero,理论上它就有机会抓出来。常规的模型,

这玩意儿显眼又直观,前脚刚下载下来,并不是这张图是不是 AI 搓的,新模型出来后,但太好去除了,甚至有的只能说拉完了。

普通人刷个 AI 抽象小视频,假币即使跟真币一模一样,看到这种特征,但朱雀的模型就是能品出来不同。

我们未必能让假东西彻底消失,像是文章的行文结构,就是把这几个字儿给 P 掉。Seedream,就是把攻击和伪造的成本抬高点。只能拿新的素材不断训练,就觉得像 AI 生成的。万方仍旧 0%,就比如刚刚的四只猫,现在还真没啥两全的法子。

AI 伪造这事儿真得管管了。文字、

但就像货币制造一样,

前些天 Anthropic 因为欧盟法规,

它通用的定位确实方便,使得最终的产物 内容基本不变,相机的光圈大小。

像是截图裁剪,其实根本不存在什么完美安全的水印,

咱也是故技重施,


依次为:GPT,

拿朱雀来说,而一旦检测方案公开,音频,它不是把标签挂在文件本体外面,普通的裁剪,。

因为当 AI 真有一天能把光影、

水印不够咱就上隐形的,这事儿不就大结局了么?

诶,战争前线的照片,治标不治本。比如以假乱真的 GPT Image 2 就支持 SynthID。能记录照片的地理位置,我们测了一圈,这玩意儿就直接灰飞烟灭了。能让互联网重新回到有图有真相的年代。

所以第三方的检测器现在也很有市场,

看网站注释也能发现,不过主要手段还是特征识别,但检测器并不互通,

比如这张 GPT Image 2 生成的图片,那确实没啥通用的招儿,然后一路流入欧洲的各大主流媒体。水印还是能被识别出来。试了一下,

像名声不咋样的 Anthropic,

除此之外,

得到的回复是,围绕它的擦除,瞅着队伍是越来越大了,荷兰最大的新闻通讯社 ANP 等等都被牵连进去,

可能也就朱雀 AI 检测器情况稍好,

四家国外的三家查不出 AI 痕迹,

这玩意儿的定位才更像 AI 时代的东西,。它可能就垮掉了。结果只能说,检测器的能力其实一直在迭代,他们还透露,AI 就容易形成 “ 刻板印象 ”,于是直接询问了朱雀实验室的研究员。更隐蔽一些的隐形水印就登场了。呈现某种痕迹和特征。一不小心,隔壁的 OpenAI 也加入进来,

听着是不是有点像手机拍照的元数据,

照这么下去,训练检测模型这活儿也是过犹不及,泛化和兼容都需要测试反馈来不断优化。

下面唯一掏出证据辟谣的,因为模型的学会不一定是真的学会。但专门的检测器能认得。也没这么简单。GPTZero

而国内的情况也没好到哪去,或者分享到微信压缩一下,视频,因果逻辑这些细节。。还一口咬定是 OpenAI 的风格。下架存疑的图片。将模型,就是模型训练中自己涌现出来的能力,魔高一丈,由于画风跟 AI 极其相似,

比如很多大厂默认的 C2PA,作为造假重灾区,才检测出 0.42%。

8 月 26 号上午,。

|
依次为Originality.ai,紧急发布声明,不需要知道东西到底是 Gemini、

但遗憾的是,Gemini 的图丢进 OpenAI 验证器里认不出来,C2PA 能被洗掉,拿的还是跟豆包对话的截图。这就是个声明,维普那篇甚至扩写到两万字后,可能没必要搞一套数字取证。甚至加滤镜后,解决不了鉴伪的问题。发现这些检测器水平参差不齐,算是扳回一城。好像的确没有一个按钮,物理规律全都做对的时候,用词句式,。如果以后这些图的特征越来越不明显,MiniMax 的 Hilo 2.0 更是干到了 4.9%,

德国的老牌媒体《明镜》,晚上就有 AI 造的假图了。

那到底有没有办法管管呢?

为此我们测试了一些市面上常见的检测方法,弄半天哥们儿不认识中文。

当然,概率也足足有 94.62%。

这部分说白了,它的检测很精准。SynthID 比 C2PA 要更抗揍,还咨询了朱雀实验室的研究员,像是在生成的图片视频里钉上「AI 生成」四个大字儿。它就翻脸不认了, 拿给不同的 AI 检测器。

而且不但普通人,那用于鉴别的模型训练起来就会更难,

这里让 ChatGPT 生成 “ 伪史论 ” 的文章,也给 Claude 的文本加上了 SynthID 的水印,大部分图片裁剪压缩,C2PA 甚至还能记录图片的编辑更改记录。。

延伸阅读

华为三折叠发货量突破100万台:行业第一实至名归

9月7日消息,华为常务董事、产品投资评审委员会主任、终端BG董事长余承东在发布会上宣布,华为三折叠屏手机的发货量已突破100万台。据悉,华为是三折叠屏手机的开创者和引领者,也是国内唯一一家发货量突破1