"Отравленные" модели ИИ несут реальную угрозу людям: чем они опасны

Как отмечает Tech Xplore, вмешиваясь в работу ИИ, группы злоумышленников потенциально могут заставить беспилотный автомобиль игнорировать красный свет светофоров или вызвать сбои в электросети, спровоцировав отключения света.

Чтобы защититься от "отравления" данных при обучении ИИ группа ученых кибербезопасности FIU объединила две новые технологии — федеративное обучение и блокчейн. Этот метод успешно обнаруживает и удаляет ложные данные, прежде чем они скомпрометируют обучающие наборы данных.

"Мы создали метод, который может найти множество применений для обеспечения устойчивости критической инфраструктуры, кибербезопасности на транспорте, здравоохранения и многого другого", — заявил Хади Амини, ведущий научный сотрудник и доцент FIU в Школе вычислительной техники и информационных наук Knight Foundation.

Федеративное обучение предусматривает использованием мини-версии модели обучения, которая обучается непосредственно на устройстве и делится только обновлениями (не персональными данными) с глобальной моделью на сервере компании. Несмотря на сохранение конфиденциальности, эта техника уязвима для атак с "отравлением" данных.

Чтобы смягчить этот недостаток, исследователи решили внедрить блокчейн, известный благодаря своей роли в криптовалюте. Это общая база данных, распределенная по сети компьютеров. Все данные хранятся в блоках, связанных хронологически в цепочке. Каждый блок имеет свой собственный отпечаток, а также отпечаток предыдущего блока, что делает его защищенным от несанкционированного доступа.

Важно Новые суперкомпьютеры с ИИ будут потреблять энергию как 9 млн домов, – исследование

Ученые использовали это при разработке своей модели обучения. Она сравнивала обновления блоков, вычисляя, были ли обновления-выбросы "отравленными". Потенциально "ядовитые" обновления записывались, а затем отбрасывались из сетевой агрегации.

"Наша команда теперь тесно сотрудничает с сотрудниками Национального центра транспортной кибербезопасности и устойчивости, чтобы использовать передовое квантовое шифрование для защиты данных и систем. Наша цель — обеспечить безопасность и защищенность транспортной инфраструктуры Америки, одновременно используя возможности передового ИИ для улучшения транспортных систем", — отметил Амини.