当技术降低了模仿的门槛,也降低了犯罪的成本
一个上海男子,用AI生成的伤口视频和病历图片,反复向多家外卖店铺索赔。他先后三次作案,每次都声称吃出铁丝划破舌头,要求退款和赔偿。警方介入后,发现他曾在多个外省市下单十余次,平台均退还了外卖费。最终,他因涉嫌敲诈勒索被采取强制措施。
这件事有意思的地方不在于骗术多高明,而在于它直接开了一个危险的先例——AI造假正在从“娱乐玩具”变成“犯罪工具”。
短期看,这个案件暴露的是外卖平台审核机制的天真。目前大多数平台处理食安投诉的逻辑是“消费者优先”,只要投诉方提供伤口照片或视频,平台为了息事宁人,往往直接退款了事。这种“先赔后查”的流程,在AI生成内容泛滥的今天,等于给有心人开了一扇绿灯。男子使用的伪造视频,普通人肉眼根本看不出破绽,平台审核人员更缺乏专业鉴别能力。他不是第一个,也不会是最后一个。
长期看,这场博弈会演变成一场“AI军备竞赛”。平台必然要升级审核手段,比如引入更严格的图像溯源技术,要求投诉者提供实时拍摄的伤口视频(带时间戳、地理位置),甚至接入第三方医学影像验证。但道高一尺魔高一丈,AI生成视频的真实性只会越来越强,犯罪成本却越来越低。一个更可怕的趋势是:如果这种“技术索赔”模式被规模化复制,形成教程或产业链,外卖行业的信任体系可能被彻底颠覆。商家会变得极度保守,所有投诉都要求走法律流程,最终成本转嫁给所有消费者。
我的判断是:这个案例会成为标志性事件,推动平台和立法机构加速行动。未来半年内,我们会看到至少两个变化:一是外卖平台全面上线“AI证据核验”功能,要求投诉者配合实时视频认证;二是相关法律对“AI造假索赔”的定罪量刑标准会被明确,不再只是“治安处罚”,而是直接按诈骗罪或敲诈勒索罪从重处理。
技术是中性的,但使用技术的人从来不是。当一个普通人都能轻易用AI伪造天衣无缝的“证据”时,我们需要的不是更聪明的AI,而是更聪明的规则。
物界前沿