В ответах ChatGPT нашли тайные знаки: в OpenAI уже оправдались

Различные модели искусственного интеллекта уже прочно вошли в жизнь современного человека, но иногда методы их работы не совсем понятны обычным пользователям. Например, в их результатах могут оказаться совсем неожиданные артефакты, вроде невидимых специальных символов.

Как сообщило издание Rumi, в сгенерированном тексте моделей GPT-o3 и GPT-o4 mini нашли "водяные знаки". Речь идет о так называемых "неразрывных пробелах" (U+202F), которые практически невозможно увидеть в тексте, но становятся заметными в специальных редакторах.

Авторы материала заметили, что "водяные знаки" были замечены лишь в длинных текстах. В качестве примера они попросили машину сгенерировать эссе о Департаменте образования США.

Уже сейчас используется много разных сервисов, которые проверяют текст на предмет того, не написан ли искусственным интеллектом. Это может быть полезно во время проверок студенческих работ или в других местах, где плагиат недопустим. Однако эти сервисы очень неточные, и вряд ли их можно считать надежными.

Но наличие невидимых "вотермарок" это совсем другой разговор, поскольку найти их специальными сервисами не составит труда, а студентам объяснить их появление будет очень непросто. Впрочем, знание о проблеме наверняка поможет найти быстрый способ ее решения, а потому авторы материала сомневаются, что она кому-либо помешает.

Тем временем в OpenAI заверили, что их детище не пытается завалить кого-либо на экзамене. Там говорят, что появление специальных символов появилось как "причуда крупномасштабного обучения с подкреплением".

Как сообщалось ранее, далеко не все пользователи сети научились отличать поделки с использованием искусственного интеллекта от реальности. Например, недавно в сети завирусилось изображение богомола с цветком на спине.