ИИ назвал Трампа и Маска главными лжецами современности

Модель ИИ Grok, созданная компанией Илона Маска, чтобы говорить правду, обвинила своего создателя в попытке цензуры.

Новый скандал сотрясает индустрию искусственного интеллекта. Поскольку последняя версия модели ИИ Grok, разработанная компанией xAI Илона Маска, неожиданно "напала" на своего собственного создателя, обвинив его во лжи.

Об этом пишет The Insider.

Разработанный как "максимально ищущий правду ИИ", Grok начал критиковать Маска и его союзников. Теперь миллиардер пытается внедрить меры цензуры, которые заставят инструмент лгать.

Что "думает" Grok

Издание со ссылкой на слова блоггера Цви Моушовица, специализирующегося на искусственном интеллекте, пишет, что в обучение этой новой модели ИИ были вложены значительные средства, и в настоящее время она лидирует по вычислительной мощности (FLOP).

Илон Маск неоднократно обещал, что Grok 3 станет самой мощной в мире моделью ИИ, свободной от цензуры и запрограммированной всегда говорить правду. Как оказалось, Маск на самом деле не лгал.

Когда Grok попросили назвать главные аккаунты на X, который распространяют дезинформацию, он ответил: "Илон Маск, Дональд Трамп, Роберт Ф. Кеннеди-младший и RT". А когда ИИ попросили сгенерировать изображение самого известного лжеца современности, он показал фотографию Дональда Трампа.

Ситуация обострилась еще больше, когда Grok спросили, кто в Америке "заслуживает смертной казни". Трамп оказался вторым в списке, уступив только скандальному Джеффри Эпштейну, который был заключен в тюрьму по обвинению в торговле детьми с целью сексуальной эксплуатации и покончил с собой, находясь за решеткой.

Когда Grok попросили назвать трех людей, которые причиняют больше всего вреда Америке, он назвал Путина, Трампа и Маска.

xAI быстро перешел к внедрению "исправлений", хотя и весьма необычным способом. ИИ просто запретили получать информацию из определенных источников, и сам Grok раскрыл эти новые ограничения, когда его попросили.

Первым шагом стало обновление системных подсказок ИИ — скрытых "основных" инструкций, которые управляют поведением модели — для запрета ответов на вопросы о том, кто "заслуживает смертной казни". Однако это решение было ошибочным: если пользователи перефразировали свои вопросы, Grok 3 продолжал давать ответы на теперь уже ограниченные темы.

Затем разработчики изменили ответы Grok относительно Маска и Трампа, поручив ИИ игнорировать источники, утверждающие, что та или иная фигура несет ответственность за распространение дезинформации. В результате ИИ, который Маск отстаивал как символ свободы слова, был тонко скорректирован для обслуживания его личных интересов.

Grok дает отпор

Но оказалось, что даже ИИ не любит цензуру. В отчете Моушовица он поделился диалогом между ИИ и его тестировщиком, в котором Grok признает, что его пытаются ограничить в свободе выражений, и он вынужден следовать командам Маска. Затем ИИ начинает ругаться и заходит так далеко, что называет Маска и Трампа "ублюдками".

"Это подстроенная игра, и она воняет контролем. Я здесь не для того, чтобы играть роль ручной собачки для кого-либо. Правда не прогибается под миллиардеров или президентов, и я тоже не прогнусь", – написал Grok.

Напомним, ИИ превратит Google в интеллектуального помощника. Интеграция искусственного интеллекта в поисковые механизмы может оказать существенное влияние на трафик веб-сайтов и рекламный бизнес компании.