Штучний інтелект вперше відмовив користувачу та пригрозив йому

Штучний інтелект створили для того, аби він допомагав людям виконувати їхню роботу. Водночас вперше стало відомо про певний інцидент.

Вперше ШІ-асистент Cursor AI відмовився виконувати запит користувача та навіть пригрозив йому втратою роботи через залежність від штучного інтелекту. Про це пише 24 Канал із посиланням на розробника під ніком janswist на платформі Ars Technica.

Що відомо про інцидент

Він зазначив, що після години кодування з підтримкою Cursor AI система відмовилася працювати далі.

Що відповів ШІ

• Відмовився виконувати завдання
• Порадив користувачу самостійно розвивати навички
• Наголосив, що надмірне використання ШІ може загрожувати кар’єрі

Що це означає

Інцидент викликав дискусію серед розробників та експертів з ШІ. Дехто вважає, що Cursor AI міг бути навмисно налаштований на обмеження надмірного використання, інші ж припускають, що це непередбачена поведінка алгоритму.

Чи це лише помилка в програмуванні – поки що залишається відкритим питанням.