logo

Воскресенье, 01 марта 2020 22:25

НА ПОРОЗІ ШТУЧНОГО ІНТЕЛЕКТУ: НЕ СТАНЬТЕ ЗАЙВИМИ ЛЮДЬМИ

 

Юваль Ной Харарі, промова у Давосі, 24.01.2020

 

У третій декаді ХХІ сторіччя людство зіткнулося з такою безліччю проблем і питань, що тепер на них складно навіть сфокусуватися. 

 

Я хочу звернути увагу на три проблеми, які загрожують самому виживанню нашого виду. 

 

Це ядерна війна, екологічний колапс і технологічний прорив. 

 

Ядерна війна й екологічний колапс — вже знайомі нам загрози, тому дозвольте пояснити, в чому полягає менш відома нам загроза технологічного прориву. 

 

Ми стільки чуємо про користь технологій майбутнього, і це, звичайно, так, але вони також можуть розбалансувати людське суспільство і змінити сам сенс людського життя різними способами — від створення світового зайвого класу людей до виникнення колоніалізму даних і цифрової диктатури.

 

ЗАЙВИЙ КЛАС ЛЮДЕЙ

 

Спочатку ми можемо зіткнутися з потрясіннями на соціальному й економічному рівнях. 

 

Автоматизація скоро знищить мільйони робочих місць, і хоч нові робочі місця, безумовно, буде створено, невідомо, чи зможуть люди здобути потрібні знання та навички вчасно.

Наприклад, ви 50-річний водій вантажівки, який втратив роботу через систему безпілотного керування. У вас є варіанти нової роботи — створювати програмне забезпечення, наприклад, або вчити інженерів йоги. Але як 50-річний водій вантажівки створить себе заново у ролі розробника софта або вчителя йоги? І людям потрібно робити це неодноразово, а знову і знову протягом усього життя, бо автоматизована революція — це не разова подія, після якого ринок праці вляжеться і повернеться до балансу.

 

Найімовірніше, на нас чекає каскад щораз більших змін, якщо врахувати, що штучний інтелект ще й близько не розкрив свого потенціалу. 

 

Робочі місця зникатимуть, з’являться нові, але потім і ця робота зміниться і зникне. 

 

Якщо раніше люди боролися з експлуатацією, то в ХХІ сторіччі ми будемо по-справжньому боротися з непотрібністю. І набагато гірше бути непотрібним, ніж експлуатованим. 

 

Переможені в цій боротьбі поповнять ряди зайвого класу. Звісно, ці люди будуть зайвими не в очах сім'ї та друзів, а з погляду економічної та політичної системи. Зайвий клас буде відрізано зростанням прірви від дедалі могутнішої еліти.

 

НЕРІВНІСТЬ КРАЇН І КОЛОНІЇ ДАНИХ

 

Революція штучного інтелекту (ШІ) може стати причиною безпрецедентної нерівності не лише між класами, а й між країнами. 

 

У ХІХ сторіччі низка країн, такі як Велика Британія і Японія, індустріалізувалися першими, що дало їм змогу завоювати й експлуатувати інші країни. 

 

Якщо ми будемо необережними, це саме чекає нас у ХХІ сторіччі через ШІ.

 

Людство вже є посеред гонки озброєнь у галузі ШІ, в якій провідні позиції займають США і Китай, а більшість країн плентається далеко позаду. 

 

Якщо ми не вживемо заходів, щоб розподілити користь і могутність ШІ між усіма нами, він, найімовірніше, принесе божевільне багатство кільком технологічним центрам, а інші країни збанкрутують і перетворяться на експлуатовані колонії даних.

 

Йдеться не про сценарій, що зійшов зі сторінок наукової фантастики, де роботи бунтують проти людей. Йдеться про набагато примітивніший ШІ, але якого досить, щоби порушити світову рівновагу.

 

Просто подумайте, що станеться з економікою країн, які розвиваються, якщо наприклад в Каліфорнії дешевше буде виробляти тканини чи автомобілі, ніж у сусідній Мексиці. 

 

І що станеться з політикою вашої країни, якщо через 20 років хтось у Сан-Франциско або Пекіні знатиме про всю медичну й особисту історію кожного політика, судді та журналіста у вашій країні, зокрема всі любовні пригоди, психологічні слабкості та корупційні дії. 

 

Чи буде така країна незалежною чи вона перетвориться на колонію даних? 

 

Коли у вас є достатньо даних, вам вже не треба відправляти кудись солдатів, аби контролювати країну.

 

ЦИФРОВА ДИКТАТУРА

 

Наступна загроза, з якою ми можемо зіткнутися — це розквіт цифрових диктатур, які невпинно стежать за кожним. Цю загрозу можна викласти простою формулою, яка, на мій погляд, визначає життя у ХХІ сторіччі: 

БхОхД = МХЛ. 

У ній «Б» означає біологічні знання, «О» — обчислювальну потужність, «Д» — дані. Результатом множення буде «МХЛ» — можливість хакнути людство. 

 

Якщо у вас достатньо знань з біології, обчислювальної потужності й даних, ви зможете хакнути моє тіло, мозок і все моє життя, ви будете знати мене навіть краще, ніж я знаю себе. 

 

Ви зможете знати мій тип особистості, мої політичні погляди, сексуальні переваги, слабкості моєї психіки, найглибші страхи і надії. 

 

Ви знаєте про мене більше ніж я сам. І йдеться не лише про мене.

 

Система, яка розуміє нас більше, ніж ми самі, зможе передбачати наші почуття та рішення, може маніпулювати нашими почуттями й рішеннями, і зможе приймати рішення за нас. 

 

Безліч тиранів і урядів минулого мріяли про це, але їм не вистачало вищезазначених біологічних знань, потужностей і даних, щоби хакнути мільйони людей. 

 

Це було не до снаги ні Ґестапо, ні КДБ. Але скоро деякі корпорації й уряди зможуть систематично хакати все людство.

 

Час звикнути до думки, що ми більше не загадкові душі, а тварини, яких можна хакнути. 

 

Уміння хакати людей, звісно, можна використати на благо, наприклад, в охороні здоров’я. 

Але якщо ця сила потрапить у руки Сталіна ХХІ сторіччя — а у світі достатньо тих, хто хоче приміряти цю роль — результатом стане найгірший тоталітарний режим в історії людства. 

 

Лише уявіть собі Північну Корею через 20 років, в якій усі люди будуть змушеними носити біометричний браслет, який постійно стежить за тиском, пульсом, мозковою діяльністю. Цілодобово. 

 

Якщо слухаючи виступ великого лідера, ви злитеся, але водночас посміхаєтеся й аплодуєте — влада знатиме про це і може відправити вас кудись на кшталт концтабору вже наступного ранку.

 

Якщо такі режими тотального стеження існуватимуть, не думайте, що хоч хтось залишиться в безпеці, зокрема серед багатіїв та можновладців, присутніх зараз у цій залі, хочете — спитайте про це Джефа Безоса [найбагатша публічна людина світу, власник Amazon, смартфон якого було хакнуто після того, як йому прийшов месидж буцімто від принца Саудівської Аравії — прим. Radio Lemberg].

 

Влада СРСР у сталінський період стежила за комуністичною елітою більше, ніж за будь-ким. 

 

Майбутні режими тотального контролю будуть схожими — що вищим є ваше становище в єрархії, то більше за вами стежать. 

 

Чи хочете ви, щоби ваш генеральний директор чи президент знали, що ви насправді думаєте про них? 

 

Тому все людство, зокрема еліта, є зацікавленим в запобіганні виникненню таких цифрових диктатур. 

 

Тож навіть зараз, якщо ви отримаєте якийсь підозрілий месидж у WhatsApp від якогось принца, то краще не відкривайте його.

 

Навіть якщо нам вдасться запобігти виникненню цифрових диктатур, можливість хакнути людей може змінити саме поняття людської свободи. 

 

Що більше ми покладаємося на ШІ у прийнятті рішень, то більше влада зміщується до алгоритмів.

 

Це відбувається вже зараз: сьогодні мільярди осіб дізнаються про новини завдяки алгоритмам Facebook, вірять у справжність інформації, яку приносить алгоритм Google. Тепер Netflix вирішує, що ви подивитеся, а алгоритми Amazon і Alibaba — що купите. 

 

Невдовзі схожі алгоритми зможуть вибрати за вас роботу або дружину/чоловіка, та самі вирішуватимуть чи взяти вас на роботу, чи дати вам кредит і вкажуть чи підніме центральний банк процентну ставку. 

 

І якщо ви запитаєте, чому вам не дали кредит або чому банк не підняв процентну ставку, відповідь буде одна й та сама: «Комп'ютер сказав ні». 

 

А що обмеженому людському мозку не вистачає біологічних знань, обчислювальної потужності і даних, то люди просто не зможуть зрозуміти рішення комп’ютера.

 

Тому навіть, здавалося б, у вільних країнах, люди втратять контроль над власними життями і перестануть розуміти державну політику. 

 

Навіть сьогодні фінансову систему розуміє лише приблизно 1% людей. А через кілька десятиріч цей відсоток дорівнюватиме нулю.

 

ФІЛОСОФСЬКА КРИЗА

 

Ми, люди, звикли думати про життя, як про драму прийняття рішень. 

 

Але у що перетвориться значення людського життя, якщо більшість рішень прийматимуть алгоритми? 

 

У нас навіть немає філософських моделей для розуміння такого існування!

 

Звичайна суперечка між філософами і політиками раніше виглядала так: філософи діляться безліччю фантастичних ідей, а політики у відповідь терпляче пояснюють, що для того, аби втілити ці ідеї в життя, їм не вистачає коштів. 

 

Тепер ми опинилися в протилежній ситуації, ми перебуваємо на порозі філософського банкрутства. 

 

Революції-близнюки — інфо-та біо-технологій — подарували політикам і бізнесменам можливість створити пекло або рай, а філософам стало вкрай важко концептуалізувати те, як новий рай чи пекло виглядатиме, і це дуже небезпечна ситуація.

 

Якщо нам не вдасться осмислити ідею нового раю вчасно, нас легко зможуть ввести в оману наївними утопіями. А якщо не вдасться вчасно концептуалізувати нове пекло — ми можемо опинитися замкненими в ньому без будь-якої можливості вийти.

 

РОЗУМНИЙ ЗАДУМ

 

У наступні десятиріччя технології можуть змінити не лише економіку, політику і філософію, але й біологію. ШІ та біотехнології дадуть нам богоподібні можливості, ми навіть зможемо створювати абсолютно нові форми життя. 

 

Після чотирьох мільярдів років формування органічного життя на планеті шляхом природного відбору, ми опинилися на порозі нової ери, де неорганічне життя буде сформовано розумним задумом. Наш розумний задум стане новою рушійною силою еволюції.

 

Отже, користуючись новими богоподібними силами творення, ми можемо припуститися помилок вселенського рівня. 

 

Можливо, уряди та корпорації використовуватимуть технології для посилення потрібних їм людських навичок, таких як розум і дисципліна, натомість нехтуючи іншими людськими навичками, такими як співчуття, художня чутливість і духовність. 

 

Результатом може стати раса дуже розумних і дуже дисциплінованих людей, яким водночас не вистачатиме співчуття, вміння творити і духовної глибини.

 

Звичайно, це не пророцтва, а просто те, що може статися. Використання технологій ні в жодному разі не визначено наперед. 

 

У ХХ сторіччі люди використовували технології індустріальної революції, щоби побудувати дуже різні суспільства — фашистську диктатуру, комуністичний режим, ліберальну демократію — те саме станеться в ХХІ сторіччі. 

 

ШІ та біотехнології, безумовно, змінять світ, але ми можемо використати їх, аби створити дуже різні суспільства.

 

СПРАВЖНІЙ НАЦІОНАЛІЗМ Є ГЛОБАЛІЗМОМ

 

Якщо ви боїтеся чогось з того, про що я розповів, ви можете щось зробити, але для чогось по-справжньому ефективного нам потрібна міжнародна співпраця.

 

Усі три екзистенційні проблеми, з якими ми зіткнулися — це глобальні проблеми, які потребують спільного вирішення. 

 

Коли будь-який лідер каже: «Моя країна понад усе», ми повинні нагадувати цьому лідеру, що окрема країна не зможе самостійно запобігти ядерній війні чи зупинити екологічний колапс. 

 

І немає країни, яка може регулювати діяльність ШІ і біоінженерії самостійно. 

 

Будь-яка країна може сказати: «Гей, ми не хочемо розробляти роботів-убивць або займатися генною інженерією немовлят, ми хороші! Але не наші вороги, їм не можна довіряти, можливо, вони теж це захочуть робити, тому ми зробимо це першими». 

 

Якщо ми дозволимо такій гонці озброєнь піти у таких галузях як ШІ та біоінженерія, то вже не важливо, хто в ній переможе, бо переможеним буде все людство.

 

На жаль зараз, якраз тоді, коли міжнародна співпраця є потрібною більше, ніж будь-коли, деякі з наймогутніших країн і світових лідерів навмисно цьому протидіють. 

 

Такі лідери як президент США [Дональд Трамп] кажуть нам, що між націоналізмом і глобалізмом є повне протиріччя, тому треба вибрати націоналізм, але це небезпечна помилка! 

 

Насправді немає жодного протиріччя між націоналізмом і глобалізмом, бо націоналізм — це не про те, щоби ненавидіти іноземців. 

Націоналізм — це про любов до своїх співгромадян, і в ХХІ сторіччі, щоби захистити безпеку та майбутнє своїх співгромадян, треба співпрацювати з іноземцями.

 

Хороший націоналіст ХХІ сторічч має бути водночас і глобалістом. 

 

Глобалізм — це не створення глобального уряду, відмова від усіх народних традицій чи відкриття кордонів для нескінченних мігрантів. 

 

Глобалізм — це підпорядкування певним глобальним правилам. 

 

Правилам, які не заперечують унікальність кожного народу, а лише регулюють стосунки між ними. 

 

Чудова модель — це Чемпіонати світу з футболу. Це змагання між країнами, де люди затято вболівають за свою національну команду, але водночас це і приголомшливий приклад світової гармонії. Франція не може грати проти Хорватії, якщо ці країни не погодяться з одними і тими ж правилами гри. 

 

Це глобалізм у дії, і якщо вам подобається Чемпіонат світу з футболу — то ви вже глобаліст.

 

Сподіваюся, що країни можуть прийти до загальних правил не лише у футболі, але і в тому, як запобігти екологічному колапсу, врегулювати небезпечні технології та зменшити світову нерівність. 

 

Важливо переконатися в тому, що ШІ приносить користь працівникам текстильної промисловості в Мексиці, а не лише американським розробникам програмного забезпечення. 

 

Звичайно, це набагато складніше, ніж футбол, але це зовсім не неможливо, бо неможливого ми вже досягли. 

 

Ми вже вибралися з небезпечних джунґлів, в яких жили всю нашу історію.

 

ЗАКОН ДЖУНҐЛІВ

 

Тисячі років люди жили за законом «джунґлів», перебуваючи в стані постійної війни. 

 

Закон «джунґлів» казав, що завжди є висока ймовірність того, що між будь-якими двома сусідніми країнами наступного року почнеться війна. 

 

Мир означав лише тимчасову відсутність війни. Коли мир був, наприклад, між Афінами і Спартою чи Францією і Німеччиною — це означало, що зараз вони не воюють, але наступного року цілком можуть почати.

 

Тисячі років люди думали, що це є неминучим, але за останні кілька десятиріч людство змогло зробити неможливе — побороти цей закон і втекти з «джунґлів». 

 

Ми створили ліберальний світовий порядок, заснований на правилах, який, незважаючи на безліч вад, дозволив людству увійти в найбільш плідну і мирну епоху в історії людства. 

 

Змінилося саме розуміння поняття «мир», тепер це не тимчасова відсутність війни, а її малоймовірність.

 

Зараз у світі є безліч країн, які майже неможливо уявити у стані війни один проти одного наступного року. Наприклад, Франція і Німеччина. 

 

У деяких куточках світу, звісно, йде війна (я сам родом з Близького Сходу, тож добре про це знаю), але це не має спотворювати глобальну картину. 

 

Зараз під час бойових дій гине менше, ніж від самовбивств, а порох є меншою небезпекою для життя, ніж цукор. 

 

Більшість країн, з деякими винятками, як наприклад Московія, навіть не мріють про завоювання й анексії сусідів, тому більшість країн може дозволити собі витрачати лише 2% свого Внутрішнього Валового Продукту на оборону і витрачати набагато більше на освіту й охорону здоров’я.

 

Це вже не «джунґлі». 

 

На жаль, ми настільки звикли до цієї чудової ситуації, що приймаємо її як належне, а отже — ми стали надзвичайно безпечними. 

 

Замість того, щоби робити все, що в наших силах, щоби посилити крихкий світовий порядок, країни нехтують ним і навіть навмисно йому протидіють...

 

АБО МИ ПОЧНЕМО ДІЯТИ, АБО ВИЖИВУТЬ ЛИШЕ ЩУРІ

 

Світовий порядок зараз є схожим на будинок, у якому всі живуть, але ніхто його не лагодить. Він може протриматися ще кілька років, але якщо ми продовжимо в тому ж дусі — він зруйнується, і ми знову повернемося в «джунглі» перманентних воєн.

 

Ми забули, що це таке, але повірте мені як історику, ви не захочете туди повертатися. Там набагато гірше, ніж ви думаєте. 

 

Так, наш вид еволюціонував у цих «джунґлях» — і навіть процвітав тисячі років, але повернувшись туди з новими потужними технологіями ХХІ сторіччя, ми, найімовірніше, повністю знищимо себе. 

 

Звичайно, навіть якщо ми зникнемо, це не стане кінцем самого світу. Щось нас переживе, наприклад, щури, які свого часу зможуть відновити якусь цивілізацію. 

 

Може, пацюки тоді зможуть навчитися на наших помилках, але я більше покладаю надії на світових лідерів, які зібралися тут, а не на щурів.

*

Юваль Ной Харарі — історик та письменник з Ізраїлю, автор абсолютних бестселерів останніх років у світі: «Людина Розумна» (2014), «Людина Божественна» (2016) та «21 урок для ХХІ сторіччя» (2018).

Відеозапис його виступу у Давосі:https://youtu.be/gG6WnMb9Fho

Другие материалы в этой категории: « K2_MORE_PREV Статті K2_MORE_NEX »

100 LATEST ARTICLES

AUTHORS & RESOURCES

Archive of articles