"Мчимся на полной скорости": ИИ уничтожит человечество с вероятностью 95%, — эксперт

По оценкам Нейта Соареса, бывшего инженера Google и Microsoft, а ныне президента Института исследований машинного интеллекта, если мы продолжим идти нынешним путем, шанс на вымирание из-за искусственного интеллекта составляет не менее 95%, пишет The Times.

"Я не говорю, что мы не можем остановить машину. Но мы просто мчимся на полной скорости к скале", — заявил Соарес.

Подобные опасения разделяют лауреат Нобелевской премии Джеффри Гинтон, математик Йошуа Бенжио, а также главы OpenAI, Anthropic и Google DeepMind. Вместе они подписали открытое письмо, в котором сказано, что уменьшение "риска исчезновения" от ИИ должно быть приоритетом человечества на уровне с такими угрозами, как пандемии и ядерная война.

В свою очередь Холли Элмор, исполнительный директор PauseAI, оценивает вероятность вымирания человечества из-за ИИ в 15-20%. Примерно такие же цифры называют руководители технологических компаний, включая основателя xAI Илона Маска (20%) и гендиректора Google Сундара Пичаи (10%).

Как отмечают в издании, в ближайшие годы ожидается стремительная эволюция искусственного интеллекта, в результате чего его возможности перестанут быть ограниченными. По мнению экспертов, ИИ сможет делать то, о чем люди могут только мечтать, например, лечить рак, достигать холодного синтеза или путешествовать к звездам.

Такой мир может показаться утопией, однако она основывается на идее, что ИИ будет продолжать выполнять приказы людей. Как оказывается, обеспечить это является невероятно сложной технической задачей. В исследованиях ИИ это называется "выравнивание".

Важно Захват мира ИИ отменяется: какая профессия снова нуждается в людях-сотрудниках

Авторы статьи отмечают, что достичь "выравнивания" почти невозможно, поскольку для этого нужно предсказать, как "мыслит" ИИ. Многие внутренние процессы принятия решений искусственным интеллектом уже сейчас непонятны для людей. Еще одна проблема заключается в том, что ИИ может врать и делает это уже сейчас.

"Вы можете создавать интеллектуальные компьютеры, даже не имея представления, что, черт возьми, вы делаете. Мы берем огромную вычислительную мощность и сталкиваем ее с действительно огромным количеством данных таким образом, что это каким-то образом формирует компьютеры. Никто не знает, что происходит внутри этих вещей", — предупредил Соарес.

Фокус также сообщал, что Сэм Альтман считает неправильным обращаться к ИИ за эмоциональной поддержкой, поскольку чат-боты не обязаны соблюдать конфиденциальность.