近日，有博主发文称，成都爱益行公益服务中心疑似在捐赠页面使用AI合成照片，涉嫌骗捐。该博主指出，该捐赠项目的链接中有三张照片都是AI合成，每个老奶奶的照片都不一样。

据悉，该捐赠项目的发起店铺为成都爱益行公益服务中心，商品名称为“80多岁的周奶奶照顾瘫痪的老伴、女儿又得重病，帮她筹生活补助”，首页使用了三张照片，其中两张为一名老人的面部特写照片，一张为老人背面的照片。

涉事捐赠页面。（图源：网络）

捐赠页面显示，该项目目前已筹集善款共计5882元，捐赠人次达1050人次，近日还有人在不断捐款。

客服回应：

AI合成为保护当事人隐私

未来会注明

据极目新闻报道，针对此事，1月9日上午，成都爱益行公益服务中心店铺客服人员回应称，此项目中的正面照片进行AI合成是出于对老人隐私的保护，其他内容都是真实的，且保护隐私是老人及其子女提出来的需求。

该店铺客服人员进一步解释说，项目中，有些故事当事人由于各种原因无法提供照片、或不希望将自己的照片对外曝光，出于对他们隐私的保护，便采用了侧面拍摄、背影拍摄、AI制图、空镜头使用等方法展现。

记者注意到，该店铺的首页还有其他捐赠商品，都使用的面部特写作为商品首页图片。

店铺商品页面还有很多正面照片。（图源：网络）

该客服人员还表示，因最近有很多人前来咨询，未来会对智能生成的补充图片进行标注，以免影响到各位捐赠人。

1月9日，成都市民政局相关工作人员告诉记者，已收到相关情况，马上介入调查。

虽然客服表示，图片是假的，但故事是真的，仍有不少人心里打鼓，毕竟随着AI技术掀起新一波落地潮，一些犯罪团伙也将目标瞄向了AI。当传统骗局换上了一件由AI包裹的“新外衣”，这也更为隐蔽更让人防不胜防。

合成假照片骗取同情心

警惕AI骗捐！

英国《每日邮报》与网络安全咨询门户Bleeping Computer此前曾报道，在海外版抖音Tiktok上，有用户借土耳其地震，利用AI制作假照片骗取同情心并从中获利。

有内容创作者在TikTok上对土耳其地震进行了3个小时的直播。其画面以航拍的角度，呈现了地震中被摧毁的建筑物。伴随着爆炸的声音，“请捐款，让我们帮助土耳其”的字幕以及一个带有“捐款”的紫色拇指按钮出现在了该直播画面中，用以引导网民们“打赏”该视频。尚未有媒体指出该直播里的视频是否是土耳其地震后的真实航拍视频。

Tiktok上虚假账号对灾难“直播”用以骗取捐款。

另一个TikTok账户的视频里，插入了一张照片描绘了这样的情景：一名戴着浅蓝色帽子和配套围巾的孩子，从爆炸中跑出来。视频左下方可见一则呼吁：“请帮助（我们）实现这个目标”。

左方是虚假视频中的照片，右方是记者用方向图片搜索后找到的结果。

然而，有人指出，这张孩子的照片并非来自上周的地震。通过相似图片搜索发现，2018年推特上就有同样的图片。当时土耳其武装部队宣布对叙利亚北部阿夫林地区发起代号为“橄榄枝行动”的地面军事行动。

此外，在推特上，有一个用户呼吁人们为地震受害者捐款，推文中还配有一张消防员在倒塌的建筑物中抱着一个小孩的照片。该用户在12个小时之内，发了八次捐款呼吁，每次都用了同样的照片、同样的措辞。

呼吁捐款帖子的照片里消防员有六根手指，附有加密货币收款渠道。

然而，使用的图片不是真实的。照片中的军官右手有六只手指，这是人工智能软件合成照片的常见漏洞。据希腊一媒体报道说，它是由爱琴海消防队的一位少将使用人工智能（AI）软件创作的，本意是感谢他的同事，表达救援队拯救生命意义重大。

上面提到的AI诈骗，统统被归为AIGC诈骗。AIGC，即这两年爆火的AI绘画、AI图片生成，用于生成各种图片、照片。代表性的产品有ChatGPT、Stable Diffusion、metamind，个个都是圈子里的顶流。AIGC多用于杀猪盘及朋友亲属诈骗，在陌生人社交APP上发布合成的假照片，吸引受害人上钩。

AI诈骗花样百出

除了前面提到的AIGC诈骗

还有AI换脸诈骗、AI语音诈骗、AI聊天诈骗……

防御来自AI的欺诈

大家一定要擦亮眼睛，三思而后行！

（综合来源：华商报、极目新闻、公安部第三研究所网研基地微信公众号等）

编辑 张克 审读 张蕾 二审 郑蔚珩 三审 刘思敏