Сгенерирует фото и голосовые фейки: ИИ угрожает президентским выборам

Ученые и разработчики нейросетей высказали озабоченность потенциальным влиянием продвинутых систем искусственного интеллекта, которые могут генерировать реалистичные фейковые новости на неслыханном уровне к 2024 году, пишет Interesting Engineering. Как раз через год в США пройдут президентские выборы и эксперты опасаются, что они могут стать чрезвычайно скандальными и непредсказуемыми из-за применения инструментов нейросетей.

Программное обеспечение для клонирования голоса от ElevenLabs и фотореалистичные картинки от DALL-E 2, Stable Diffusion и Midjourney могут потенциально использоваться для распространения ложной информации.

"Нам следует опасаться угроз, которые большие языковые модели (LLM), лежащие в основе технологии, представляют для демократии", сказал Гари Маркус, почетный профессор когнитивной науки в Нью-Йоркском университете и эксперт по искусственному интеллекту. "Мы не можем пока еще предугадать, как генерируемая ИИ ложная информация повлияет на следующие выборы".

Хотя технология для создания фейков все еще находится в зачаточном состоянии, эксперты по дипфейкам могут создавать убедительные поддельные видео. Крис Мезероль, научный сотрудник Института Брукингса, предупреждает, что клонирование голоса может сыграть значительную роль на выборах 2024 года, позволяя появляться аудиозаписям в критические моменты выборов, якобы являющимся записью кандидата, говорящего что-то скандальное.

Особую опасность, которую отмечают эксперты, следует ожидать от быстрого развития генеративного ИИ. К примеру, всего за полгода ChatGPT-4 на голову превзошел свою первую версию и работает куда лучше, продуктивнее и правдоподобнее, чем его предшественник.

Ранее Фокус писал, что Илона Маска "штормит": он взялся за создание ИИ, хотя недавно возмущался развитием нейросетей.