Перші прояви головної небезпеки штучного інтелекту будуть вже цього року. Як вони торкнуться кожного

2024-2025 роки це роки прориву AGI — загального або сильного ШІ — до якого вже можна обережно зарахувати ChatGPT-4. Це ще проміжна ланка перед наступником — суперінтелектом. Проте зараз все рухається в напрямку накопичення критичної маси технологій і обчислювальних потужностей до скорого вибухового зростання.

Це ще не буде та технологічна сингулярність, про яку ми говоримо в Singularity University (до 35 року, коли все піде шкереберть, ще є час). Саме тоді стане актуальним питання: чи кинуть роботи зі штучним інтелектом виклик людству? Але я вважаю, що ми вже всередині цього виклику. 

Деякі китайські ШІ-стартапи вже мають оцінку за 2 млрд доларів (зокрема, Moonshot AI), а загалом цей ринок там вже майже на 60 млрд. А наступного року буде і всі 80 млрд. Це більш як 25% щорічного зростання. Для прикладу світовий ринок м'яса зростає на 6% на рік.

"Асистенти" вже забирають на себе регулярні або прості операції. "Агенти" допомагають в інтелектуальній праці, велику частину якої ми донедавна вважали суто людською. Той суперінтелект, який буде наступним етапом розвитку після загального інтелекту – можливо за п'ять років після цього, – зможе розв'язувати ті задачі, про які людина зараз і не знає. 

Наприклад, у нас всі обмеження стосуються фізичного простору. Ми не можемо думати безвідносно часу і сприймаємо лише тривимірну проєкцію чотиривимірного простору. Фізично можлива кібернетична телепортація, цифрові двійники, омріяна кнопка UNDO для людини у фізичному просторі — все це стане реальністю.

Ми зможемо подолати обмеження нашою фізичної оболонки. Ми зможемо  відновлювати життя з "попередньої збереженої версії". Суперінтелект дасть можливість існувати в просторі, де можна рухатися в часі — і не тільки. Доведеться писати й іншу  філософію людства. І не тільки людства.

Зараз ми вважаємо, що контролюємо штучний інтелект – є відчуття, що це ми ставимо йому питання, це ми вирішуємо, коли йому бути в нас на екрані. І поки ми це вирішуємо – все ок. А коли він буде вирішувати? Коли нам прокидатися? Що нам робити сьогодні? 

Ми вже носимо гаджети, які контролюють наш екранний час, вирішують, що нам їсти, скільки і коли пити, коли нам лягати спати. Ми вже на них підсіли. Тобто щось таке вже відбувається – щось нас вже починає контролювати. І штучний інтелект може доволі швидко зайняти цю суперпозицію щодо людства.  

Чому я закликаю не бути такими легковажними і не вважати, що він ще не скоро опанує контекст. На початку 2023 року я казав, що у нас з вами ще є час адаптуватися, тому що ШІ дуже залежить від контексту. І дійсно, штучний інтелект на початку минулого року був дуже контекстно залежним. А вже наприкінці 2023 року чат GPT 4.0 відірвався від контексту. А у цьому році він почне рефлексувати. Тобто стає спроможним не просто відірватися від контексту, а зрозуміти наш інтерес. 

Наступний крок — це спроможність фактично керувати контекстом через кращий, глибший рівень розуміння. 

І ось тоді він отримає шалений інструмент для рефлексії й матиме системну рефлексію – тобто спроможність постійно тримати нас в полі зору і передбачати (а за тим і контролювати) нашу поведінку. А це перший ключовий крок до передбачення – спроможності зрозуміти, що буде наступним кроком. 

Він не вимагатиме від нас формулювання якихось потреб або бажань – він буде здогадуватися з нашої попередньої та поточної поведінки про те, яке у нас може виникнути бажання. Він матиме можливість спрогнозувати нашу поведінку, а прогнозування – це перший крок перед керуванням. 

Людям потрібно перестати конкурувати один з одним. Ми тепер на порозі виживання як вид. Нам потрібно так домовитися, як це було з ядерною зброєю. Бо використання штучного інтелекту має бути не те що контрольованим, а чітко спрямованим. Програмованим, якщо хочете. 

Нам потрібно домовитись так, щоб він навчався правильним чином. Бо без нас він вже зараз починає навчатися на штучно згенерованих даних. Йому вже не вистачає реальних даних. Він вичерпав всі дані, які є в Інтернеті. Він вже сам генерує дані для того, щоб навчатися на них. Що він генерує, як генерує? 

Ключове, що має зберегти людина, – це спроможність до мислення: рефлексивного, стратегічного, адаптивного, креативного, критичного. Все це ми маємо тримати – саме це нас поки робить конкурентоспроможними стосовно штучного інтелекту. 

І я переконаний, що ми виживемо, саме зберігаючи спроможність до мислення та чітко розуміючи, коли нами намагаються маніпулювати та керувати. Саме спроможність рефлексувати робить людину суб'єктом. Нам потрібно залишатися якомога довше суб'єктними стосовно штучного інтелекту.

На мій погляд, нам не треба боятися, що людина скористається штучним інтелектом для того, щоб завдати непоправної шкоди іншій частині людства. Нам треба боятися того, що ми, як людство, втратимо можливість керувати – бути найвищою управлінською системою на цій планеті. Іншими словами – втратимо власну суб'єктність.