Гендиректор OpenAI предупредил об угрозе мошенничества с ИИ

Генеральный директор OpenAI Сэм Альтман заявил, что мир может оказаться на грани "кризиса мошенничества" из-за того, что искусственный интеллект может позволить злоумышленникам выдавать себя за других людей.

Об этом пишет CNN.

"Меня пугает то, что, очевидно, до сих пор существуют финансовые учреждения, которые принимают голосовой как аутентификацию при переводе больших сумм или исполнении чего-то другого — вы говорите фразу-подсказку, и они просто это делают. Безумие, которое этим до сих пор занимаются… Искусственный интеллект полностью превзошел большинство способов аутентификации".

Несмотря на предупреждение Альтмана о рисках, OpenAI призвала администрацию Трампа избегать регулирования, которое, по ее мнению, может помешать технологическим компаниям конкурировать с иностранными инновациями в сфере ИИ. Ранее в июле Сенат США проголосовал за исключение противоречивого положения из законопроекта Трампа, запрещающего штатам применять законы, связанные с искусственным интеллектом, в течение 10 лет.

В мае 2024-го ФБР предупреждало о мошеннических схемах с "клонированием" голоса и видео искусственным интеллектом. Родители жаловались, что у их детей таким путем выманивали деньги, убеждая, что они попали в беду.

В июле этого года сообщалось, что кто-то, пользуясь ИИ для имитации голоса, использовал голос госсекретаря Марко Рубио и связался с главами МИД, губернатором США и членом Конгресса.

"Я очень обеспокоен тем, что нам грозит серьезный кризис мошенничества, который уже на подходе. Сейчас это голосовой звонок, а скоро будет видеозвонок или фейстайм, которые нельзя будет отличить от реальности", — сказал Альтман.

"Апостроф" также писал, что компания по разработке искусственного интеллекта xAI, принадлежащая американскому миллиардеру Илону Маску, создаст приложение для детей под названием Baby Grok.