ШІ тепер розв'язує нові проблеми, непомічені людьми: чому це може бути небезпечно

Свою першу партію із 20 вразливостей Big Sleep знайшов у різному популярному програмному забезпеченні з відкритим кодом, такому як аудіо- та відеобібліотека FFmpeg та пакет програм для редагування зображень ImageMagick, пише TechCrunch.

Як зазначають у виданні, Google поки не розкривала подробиць про виявлені помилки, оскільки вони не ще виправлені. Але сам факт того, що Big Sleep виявив ці вразливості, є важливим, позаяк він показує, що ці інструменти починають давати реальні результати.

"Щоб забезпечити високу якість та практичні звіти, ми залучаємо експерта-людину до процесу їхнього подання, але кожну вразливість виявляв та відтворював агент штучного інтелекту без втручання людини", — сказала речниця Google Кімберлі Самра.

За даними порталу, Big Sleep був розроблений відділом штучного інтелекту компанії DeepMind, а також її елітною командою хакерів Project Zero. Окрім Big Sleep, вже існують і інші ШІ-інструменти, здатні шукати вразливості, зокрема RunSybil та XBOW.

Важливо Штучний інтелект почав брати участь у хакерських атаках: якого лиха він завдає

Експерти видання зазначили, що ці інструменти мають багатообіцяючі можливості, однак й суттєві недоліки. До прикладу, кілька людей, які підтримують різні програмні проекти, скаржилися на повідомлення про помилки, які насправді є галюцинаціями.

Нагадаємо, опитування показало, що до 2027 року 50% компаній, які планували значно скоротити штат працівників служби підтримки клієнтів, замінивши їх штучним інтелектом, відмовляться від цих планів.

Фокус також повідомляв, що дослідники з Технологічного інституту Нью-Джерсі (NJIT) використали штучний інтелект, щоб знайти матеріали для акумуляторів нового покоління, які могли б замінити традиційні літієві батареї.