ChatGPT新图像生成器可轻松生成逼真的假收据，OpenAI回应

4月1日消息，上个月ChatGPT的4o模型迎来了新的原生图像生成器，该生成器在图像内生成文本方面表现出色。然而，这一技术进步却引发了新的问题。人们已经开始利用它来生成假餐厅收据，这可能为欺诈者又添了一把利器。

社交媒体用户、风险投资家德迪・达斯在X平台上发布了一张他声称是用4o生成的旧金山一家真实牛排餐厅的假收据照片。随后，其他人也成功复制出了类似的结果，甚至有人添加了食物或饮料污渍，让收据看起来更加逼真。IT之家注意到，最逼真的例子之一来自法国，一名领英用户发布了一张当地餐饮连锁店的皱巴巴的AI生成收据。

TechCrunch也对4o进行了测试，并成功生成了一张旧金山苹果蜂餐厅的假收据。不过，他们的尝试存在一些明显的破绽，比如总金额使用了逗号而不是句号，而且数字加起来也不对，但欺诈者很容易通过照片编辑软件或更精确的提示词来快速修改。

显而易见，如此轻松地生成假收据为欺诈行为带来了巨大的机会。很容易想象，这种技术可能会被不法分子用来为完全虚构的费用“报销”。

OpenAI发言人泰亚・克里斯琴森称，他们所有的图像都包含表明是由ChatGPT生成的元数据。克里斯琴森还表示，当用户违反使用政策时，OpenAI会采取行动，并且他们一直在从实际使用和反馈中学习。

当被问及ChatGPT为何允许人们生成假收据，以及这是否符合OpenAI禁止欺诈的使用政策时，克里斯琴森回应称，OpenAI的“目标是尽可能给予用户最大的创作自由”，并且假AI收据也可以用于非欺诈场景，比如“教导人们金融知识”，以及创作原创艺术作品和产品广告。

【来源：IT之家】