Як обхитрувати штучний інтелект

Сучасні алгоритми штучного інтелекту дедалі частіше застосовуються виявлення брехні у текстах. ШІ аналізує вибір слів, структуру речень та емоційне забарвлення тексту, щоб виявити ознаки обману. Однак, незважаючи на всю технологічну міць, ШІ стикається з однією непереборною перешкодою – людською винахідливістю, пише Psychology Today.

Ключова слабкість ШІ у розпізнаванні брехні пов'язана з так званим «Законом Міллера», сформульованим професором Прінстона Джорджем Міллером.

Цей принцип говорить: щоб зрозуміти співрозмовника, потрібно спочатку уявити, що він говорить правду, і тільки потім намагатися зрозуміти, за яких умов це може бути правдою. Досвідчені брехуни інстинктивно використовують цей прийом, змінюючи значення слів те щоб їх твердження формально залишалося правдою, але вводило в оману.

Простий приклад:

Я: Ти взяв печиво?

Син: Ні, я не брав печиво.

Я: Не бреши мені, синку.

Син: Я не брав печиво, тату.

Я: Як ти можеш брехати, якщо у тебе на руках та обличчі крихти від печива? Чому ти збрехав мені, синку?

Син: Я не збрехав тобі, тату. Ти спитав, чи я брав печиво. Я не брав печиво... я взяв два печива.

Згідно з Законом Міллера, син не збрехав правду, але правду про що?

ШІ, яким би просунутим він не був, не може читати думки та інтерпретувати внутрішні словники людей. Це означає, що доки людина може непомітно змінювати значення слів у своїй голові, алгоритми будуть уразливі.

Таким чином, незважаючи на успіхи ШІ в обробці мови, остаточна перевірка на правдивість, як і раніше, залишається в руках людини. Машини можуть виявляти нестиковки, але зрозуміти, що саме співрозмовник мав на увазі під своїми словами, здатна лише людина.