Новий генератор зображень ChatGPT дуже добре справляється з підробкою квитанцій

Цього місяця ChatGPT представив новий генератор зображень у рамках своєї моделі 4o, який набагато краще створює текст усередині зображень. Люди вже використовують його для створення підроблених квитанцій, потенційно додавши ще один інструмент до вже широкого набору інструментів AI deepfakes, який використовують шахраї.

Плідний постер у соціальних мережах і венчурний капіталіст Діді Дас опублікував на X фотографію підробленої квитанції (справжнього) стейк-хаусу в Сан-Франциско, яка, за його словами, була створена за допомогою 4o.

Інші змогли відтворити подібні результати, включно з плямами від їжі чи напоїв, щоб зробити їх ще більш автентичними:

Найбільш реалістичний приклад, знайдений TechCrunch, був насправді у Франції, де користувач LinkedIn опублікував квитанцію місцевої мережі ресторанів, згенеровану штучним інтелектом:

TechCrunch протестував 4o і також зміг створити підроблену квитанцію для Applebee's у Сан-Франциско:

Але наша спроба мала пару мертвих подарунків, які були підробленими. По-перше, загальна сума використовує кому замість крапки. З іншого боку, математика не підходить. Магістрам права як і раніше важко робити основи математики , тому це не особливо дивно.

Але шахраю не важко буде швидко виправити кілька цифр за допомогою програмного забезпечення для редагування фотографій або, можливо, більш точних підказок.

Зрозуміло, що створення фальшивих квитанцій дуже легко створює величезні можливості для шахрайства. Неважко уявити, що таку технологію використовують погані актори, щоб отримати «відшкодування» за цілком фіктивні витрати.

Речник OpenAI Тая Крістіансон розповіла TechCrunch, що всі його зображення містять метадані, які вказують на те, що вони були створені ChatGPT. Крістіансон додав, що OpenAI «вживає заходів», коли користувачі порушують його політику використання, і що він «завжди навчається» на основі реального використання та відгуків.

Тоді TechCrunch запитав, чому ChatGPT взагалі дозволяє людям створювати підроблені квитанції, і чи відповідає це політикам використання OpenAI (які забороняють шахрайство).

Крістіансон відповів, що «мета OpenAI — надати користувачам якомога більше творчої свободи» і що підроблені чеки штучного інтелекту можна використовувати в ситуаціях, не пов’язаних з шахрайством, наприклад «навчати людей фінансовій грамотності», а також створювати оригінальне мистецтво та рекламу продуктів.