Илон Маск и ведущие специалисты призывают приостановить гонку ИИ

Группа экспертов из разных областей, включая IT-специалистов, опубликовали публичное письмо с призывом приостановить эксперименты с системами искусственного интеллекта.

Письмо составлено от имени некоммерческой организации Future of Life Institute.

В нем отмечается, что сейчас исследователи вовлечены в неконтролируемую гонку систем искусственного интеллекта, предсказать результаты которой не могут даже создатели таких систем.

Развитие ИИ поднимает вопросы о глубинных рисках для всего человечества.

Должны ли мы внедрять полную автоматизацию, перекладывая все задачи на ИИ? Должны ли мы обеспечить уровень развития ИИ выше человеческого интеллекта? Не ведет ли это к рискам потери контроля над собственной цивилизацией?.

Авторы письма призывают приостановить разработку систем ИИ мощнее GPT-4 как минимум на 6 месяцев, чтобы оценить потенциальные риски.

В случае необходимости для контроля нужно привлечь правительственные органы.

Исследователи должны использовать эту паузу для совместной разработки и внедрения общих протоколов безопасности.

Системы ИИ должны стать более прозрачными, понятными и лояльными.

Авторы призывают исследователей сотрудничать с политиками для выработки механизмов контроля высокопроизводительных систем ИИ.

Среди подписантов Илон Маск, соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллинн, политики, историки и другие деятели.

При этом в списке даже замечен генеральный директор компании OpenAI Сэм Альтман, что наталкивает на мысль о сомнительности всего списка лиц.

Журналисты The Verge предполагают, что некоторых персон добавили ради шутки.

Также на днях опубликован доклад Goldman Sachs в котором прогнозируется, что 300 миллионов людей в ближайшем будущем могут потерять работу из-за автоматизации процессов с помощью ИИ.