Ілон Маск та провідні експерти ІТ-галузі закликали припинити навчання нейромереж

На тлі неабиякої популярності розумного чат-бота ChatGPT й появи безлічі суперницьких продуктів, провідна група експертів у сфері штучного інтелекту (ШІ) і представників ІТ-галузі закликала як мінімум на пів року призупинити навчання нейромереж, що перевершують GPT-4.

Відкритий лист про ризики таких технологій для суспільства і цивілізації підписали Ілон Маск, співзасновник Apple Стів Возняк та ще понад 1100 осіб.

У заяві згадуються, що подібні ШІ-системи повинні розроблятися тільки після того, як з'явиться впевненість в тому, що вони будуть мати позитивні наслідки, а пов'язані з ними ризики будуть керовані. Зокрема, необхідно створити спеціальні протоколи та стандарти безпеки, за застосуванням яких стежитимуть незалежні аудитори. 

Поки пропонується тимчасовий захід: з зупинкою робіт до того моменту, поки не будуть розроблені стандарти безпеки.

Зазначається, що з моменту свого запуску наприкінці 2022 року ChatGPT спонукав конкурентів прискорити розробку аналогічних потужних мовних моделей, а компанії інтегрувати генеративні моделі ШІ у свої продукти. Microsoft, наприклад, з останнім оновленням Windows 11 інтегрувала оновлений пошуковик Bing з вбудованим ChatGPT прямо в панель завдань.

Що вміє нова мовна модель від OpenAI GPT-4

Раніше цього місяця "розумний" чат-бот ChatGPT оновився до мовної моделі GPT-4. Тепер нейромережа здатна розуміти не тільки текст, а й розпізнавати зображення – і може пояснити навіть значення мемів.

Розробники стверджують, що GPT-4 більш "креативна" і може вирішувати складні завдання з більшою точністю завдяки розширеним загальним знанням. Крім того, оновлений ChatGPT навчився на відмінно складати складні іспити з математики та юриспруденції

Дослідницька команда Microsoft оцінила потужність GPT-4 близькою до людського рівня. Оновлену мовну модель назвали першим кроком до "загального штучного інтелекту" (ЗШІ), тобто здатного на виконання широкого кола завдань.

Вас також можуть зацікавити новини:

• Творець ChatGPT серйозно побоюється за людство через свого чат-бота
• ChatGPT навчився "гуглити" - хітової нейромережі дали доступ до браузерів користувачів
• ChatGPT виявився кращим за лікарів: "розумний" чат-бот за хвилину поставив діагноз і врятував собаку