Генератор зображень у ChatGPT може створювати фейкові чеки

Новий генератор зображень у ChatGPT в рамках моделі 4o значно краще створює тексти всередині зображень.

Тому багато користувачів почали використовувати цю функцію для створення фейкових ресторанних чеків.

Наприклад, блогер Діді Дас на своїй сторінці в X опублікував зображення згенерованого чека ChatGPT зі стейк-хаусу в Сан-Франциско.

“Ви можете використовувати 4o для генерування підроблених квитанцій.

Занадто багато процесів верифікації в реальному світі покладаються на “реальні зображення” як доказ.

Ця епоха завершилася”, – написав він.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof.

That era is over.

— Deedy (@deedydas) March 29, 2025.

Інші користувачі також поділилися подібними результатами, зокрема зі зображеннями чеків із плямами від їжі та напоїв, що робить їх ще більш правдоподібними.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof.

That era is over.

— Deedy (@deedydas) March 29, 2025.

Один з найбільш реалістичних прикладів надав користувач із Франції, опублікувавши згенерований пом’ятий чек з місцевої мережі ресторанів.

Crunch також протестував 4o та згенерував підроблений чек з Applebee’s у Сан-Франциско.

“Проте, у нашій спробі було кілька чітких ознак, що він несправжній.

По-перше, у загальній сумі замість крапки стоїть кома.

По-друге, математика не сходиться.

LLM ще має труднощі з базовими математичними операціями, тож це не дуже дивує”.

Однак у статті зазначається, що шахраям не складе великих зусиль виправити ці помилки за допомогою фотошопу або попросивши ChatGPT виправити помилку.

Очевидно, що створення фейкових чеків відкриває нові можливості для шахрайства.

Зокрема, їх можуть використовувати для отримання “компенсації” за фейкові витрати.

Проте в OpenAI повідомили Tech.

Crunch, що всі фото, згенеровані Tech.

Crunch, містять метадані, які вказують на те, що їх створено ШІ.

Крім того, у компанії запевнили, що “вживають заходів”, якщо користувачі порушують політику використання.

На питання, чому ChatGPT загалом дозволяє користувачам створювати підроблені квитанції і чи відповідає це політиці OpenAI, яка забороняє шахрайство, у компанії відповіли, що їхня мета – “надати користувачам якомога більше творчої свободи”, а фейкові чеки можна використовувати не лише для шахрайства, а й для навчання “фінансової грамотності” або створення оригінальних витворів мистецтва та реклами продуктів.