Маск и Возняк призвали приостановить развитие технологий искусственного интеллекта
Маск и Возняк призвали приостановить развитие технологий искусственного интеллекта

Маск и Возняк призвали приостановить развитие технологий искусственного интеллекта

Развитие искусственного интеллекта хотят поставить на паузу \ фото flickr.com/alansimpsonme

Ведущие разработчики технологий искусственного интеллекта, включая изобретателя Илона Маска и сооснователя Apple Стива Возняка, предложили приостановить развитие искусственного интеллекта (ИИ) до составления надежных протоколов безопасности.

Об этом говорится в открытом письме, опубликованном некоммерческим исследовательским Институтом будущего жизни (Future of Life Institute) и подписанном более чем тысячей ведущих в этой сфере предпринимателей и экспертов.

"Мощные ИИ-системы стоит разрабатывать только после того, как мы убедимся, что результаты их применения будут положительными, а риски - управляемыми", - написали автры послания.

Видео дня

В письме описываются потенциальные риски для людей в целом. По мнению авторов, они состоят в том, что системы на основе ИИ могут конкурировать с людьми, вследствие чего могут произойти экономические и политические взрывы.

В письме эксперты указали четыре вопроса, которые должно задать себе человечество:

  • "Должны ли люди разрешать машинам заполнить информационные каналы пропагандой и ложью?"
  • "Должны ли люди перепоручить автоматам всю работу, в том числе ту, что приносит людям удовольствие?"
  • "Должны ли люди развивать разум нечеловеческого происхождения, который в дальнейшем может превзойти людей по численности и интеллекту, сделать людей неполноценными и заместить их?"
  • "Должны ли люди рисковать потерей контроля над своей цивилизацией?"

По оценкам экспертов и представителей ИИ-индустрии, на разработку и введение протоколов безопасности должно уйти полгода. Но авторы письма призывают правительства стран вмешаться, если какие-либо компании не выполнят требования этих протоколов.

Что такое ChatGPT

Чат-бот ChatGPT способен применять различные языковые стили и отвечает так, что у пользователя может создаться впечатление, что он разговаривает с живым человеком.

А 19 марта глава OpenAI, компании-разработчика ChatGPT, Сэм Альтман заявил, что опасается по поводу возможного влияния ИИ на человечество. Он  признался, что GPT-4 будет составлять реальную опасность, оказавшись "не в тех руках".

Источник материала
Упоминаемые персоны
loader
loader