来源：雷科技AI硬件组 | 编辑：三明治
在当今时代，虚假图片的逼真程度与日俱增，各种虚虚实实的内容，让人不禁怀疑，“眼见为实”这句话，恐怕将要成为历史。
但幸好，在大部分情况下，是否能分辨图片是不是出自AI之手，并不会对我们的生活产生实质性的影响。网络上的绝大部分图片，我们都是一看了之。
然而这几天网上热传的一组图显示，一些人已经开始用AI图骗钱套利。有不少店家在社交媒体上表示，自己遇到了使用AI图片进行“仅退款”的顾客。这些顾客利用豆包等AI生成了商品存在瑕疵的伪证图片，在屡次被识破后依然硬生生拖到人工审核通道索取退款，给店家、平台平添了不少烦恼。
（图源：微博）
这段视频被发到社交平台后，引发了大量电商从业者讨论。当AIGC进军“仅退款”领域，是否会模糊规则的边界？技术与规则之间，如何找到平衡？
从PS到AI
近日，博主@蔡宝宝分享了一条视频。
某店家售出的一瓶“鞋边去黑剂”，被顾客要求“仅退款”，出于担心买家是假报质量问题，店主表示需要消费者上传商品销毁视频，然后再进行退款，这也是很常见的操作了。
接下来发生的事情，就让人有些哭笑不得了，消费者提供的视频显示，她明明在用右手拿着产品放进垃圾桶，这时突然出现第二只右手，两只右手一起把商品丢进了垃圾桶。
（图源：bilibili）
当然了，这只是整段视频之中最明显的漏洞。
仔细看的话，你还能从这段视频里看到背景随着消费者的行动悄然改变、过于平滑规整的视频运镜，以及一个明明是斜着扔进去，却竖着瓶身待在垃圾桶里的“鞋边去黑剂”。
“整个视频浓浓的AI味。”店主表示。
这段视频在电商圈内引发了广泛关注，从业者纷纷回复，晒出自己店铺遇到的类似经历。
有的店主反映，自己曾经遇到过为同一杯子申请退款，但两次出示的破损照片位置完全不符的情况；还有店主表示遇到过全新衣物呈现出非正常使用导致的人为撕裂，甚至连水果上的霉斑都有明显的伪造迹象。
（图源：bilibili）
在“无理由退货”下线后，曾经热衷于滥用退款规则的部分消费者，似乎找到了新的方向。
“你们看，右下角直接写着豆包AI生成。”另一位店主在上传的视频里如是说，有趣的是，在他指出对面使用AI图片后，对面居然撤回，然后把水印截掉重新发了过来，让他也很无语。
问题来了，用AI来P图的门槛究竟有多低？
小雷这边以一张香蕉的照片为例，要求“香蕉发霉，出现斑点，其他不变”，分别发给豆包、腾讯元宝等大模型，不到数秒便生成了较真实的图片，可以说是几乎没有门槛。
（图源：雷科技）
AIGC出现之前，我们的身边就曾发生过类似的假图“仅退款”事件。
只是在当时，由于手段相对复杂，大部分骗子还需要掌握一定的图片编辑能力，这要求他们熟练运用Photoshop等专业软件，通过图层、蒙版、仿制图章等工具进行精细操作，甚至要伪造EXIF信息。
这种技术门槛足以将大部分潜在的作恶者挡在门外，使得欺诈行为的规模和频率都受到极大限制，无法形成产业化的黑色链条。
而现在，有了AI的加持，整套流程被简化为“上传图片-提出需求-下载图片”。
当这件事情没了门槛，电商平台真就和黑暗森林差不了多少了。
AI内容以假乱真
事实上，自AIGC这个概念诞生开始，围绕着它的争议就没停下来过。
最初，大家关心的主要是版权争议，因为大模型本质上是收集和消化海量互联网数据进行训练的产物。这些数据集中包含了无数受版权保护的文本、图像与代码，因此，AIGC的生成物是否构成对原作品的“衍生作品”，其版权应归属于模型开发者、使用者还是数据源的原始创作者，至今仍在法律层面存在巨大争议。
比如说，今年开年以来很火的“吉卜力化”。
（图源：X）
再看看下图，这是一张模仿了画师“累”画风的著作。
（图源：QQ）
模型通过学习数百万张图片生成的画作，其像素级数据与任何单一原图都不同，但在风格、构图和元素上却存在明显的继承关系。这种模糊性直接挑战了现有知识产权法律体系中对于“创作”和“复制”的根本定义。
最讽刺的是，上面这张图片克隆的原作者“累”还曾发表过对AIGC支持的言论。
（图源：微博）
随着相关技术的逐渐成熟，越来越多的AIGC内容流入到传媒行业。
今年年初，西藏定日县发生6.8级地震，许多网友在社交平台上为灾民祈福，但是，在一些社交平台上，冒出了很多AI伪造的图片，比如这个：
（图源：小红书）
这种有经验者一眼就能分辨的图片，照样可以获得好几万的转评赞。
这样的案例屡见不鲜，2024年10月，佛罗里达州奥兰多的迪士尼世界因飓风风暴登陆前出现的龙卷风而关闭。与此同时，有关于迪士尼被海水淹了的新闻也在X上疯传，引来不少国外网友的关注。
（图源：X）
作为一名新闻从业者，我自认为拥有对信息真伪基本的辨别力，但随着技术的广泛应用，就连我也时常为真假难辨的信息所惑。
至于普通人，他们就更难辨别了。
而如今，AI视频的成熟，更是让部分贪图蝇头小利的人找到了新的落脚点。
从去年火遍全网的AI雷军，再到被疯狂换脸的靳东、布拉德皮特汤姆克鲁斯，相同的骗局在国内同步展开，让人们误以为自己一直和大明星保持联系这个招数可谓是屡试不爽。
（图源：抖音）
让不少名人明星深受其扰的同时，Deepfake也成为了AI造假的现象级案件。
如何鉴别AI图？
说实话，看到AI以假乱真的能力，小雷我确实挺担心的。
但是比起担心，我认为现在更重要的是掌握几个目前还相对适用的辨别思路，即便面对一张高水平的AI生成图，想单凭肉眼100%断定真伪非常困难，但至少能保证你不至于完全束手无策。
第一种方法，是追溯图源。
当我们刷社交媒体的时候，如果看到某些图片特别棒，我希望大家可以先借助谷歌的图片搜索能力检索一下图源，现在大部分AI内容制作者都会注明图片是否通过AI生成，这也是在社交媒体这种信息二次流通的领域最好的鉴别方法。
第二种方法，是观察图片。
你可以找找图片中细微的破绽，来判断图片的真实性，例如人物的手指、关节、牙齿、眼神等方面是否存在不自然感，影是否统一、自然？有没有出现不合常理的反射或阴影？
（图源：雷科技，豆包生成）
还记得几年前AI技术刚飞速发展的时候，有不少人视AI技术如洪水猛兽，觉得应该将AI扼杀在摇篮里。
在小雷看来，这种想法还是有失偏颇的，新事物的诞生往往都要经历一番曲折的发展，才能够逐渐为世人所接受。
AI也是如此，人类要做的就是引导AI健康发展，让AI真正为我们所用。而不是在技术泛滥的时代里，还要用AI给人类添堵。
像AI换脸诈骗、AI图片谋取不当收益等行为肯定是要制止的，除了严厉打击之外，还需要一套全面、完整的行业标准，将AI技术关进笼子里，这样才能让AI更好为人类服务！
欢迎扫码添加小雷微信
记得备注想进群的手机品牌哦
跟小雷一起畅聊数码与科技
另外小雷建了几个粉丝群，欢迎扫码加入！
大家伙一块聊聊天，分享玩机技巧～
