Iлон Маск застерігає...
Про «червоні лінії» для людства
Раціоналістичне ХVІІІ століття («вік Просвітництва») з його лінійним розумінням суспільного прогресу, тлумаченням соціуму як певного механізму, хай навіть складно улаштованого (між іншим, саме в тій добі криється коріння багатьох потужних доктрин ХІХ та ХХ століть, зокрема, і ліберальної, і марксистської!) — це століття і донині, хай непомітно, впливає на світогляд безлічі «передових умів». Свідченням цьому є дуже стійке і живуче переконання у безмежній, рятівній силі наукового прогресу та пізнання взагалі (мовляв, безкінечне пізнання Всесвіту, природи й людини саме по собі є запорукою розв’язання важких планетарних проблем і тяглості того ж таки прогресу, вкрай спрощено тлумаченого). Деінде тривають ще й заклики, хай закамуфльовані, до абсолютного опанування природними ресурсами і багатствами (прибуток вабить). І це — попри зміцнілий всесвітній екологічний рух...
Тут ми взагалі маємо справу з винятково серйозною засадничою, світоглядною проблемою: де межі людського пізнання та чи розуміє земна спільнота, що існують й існуватимуть жорсткі (хай неочевидні) «червоні прапорці» або ж «червоні лінії», вихід за межі котрих реально загрожує землянам вкрай важко передбачуваними результатами. І екологічними, і соціальними, і ресурсними, і ментальними, і біологічними, і ще безліччю інших, що їх навіть неможливо сьогодні уявити собі. Над цим гранично серйозним питанням змушують замислитись (як мінімум) слова всесвітньо відомого інженера, підприємця, вченого й громадського діяча Ілона Маска. Ця неймовірно активна людина, котра напружено працює над проектом надважливої для людства експедиції на Марс, висловила днями таке застереження, для багатьох, цілком можливо, несподіване. А саме, Маск сказав буквально таке: «Штучний інтелект є для людства небезпечнішим за атомну зброю».
ФОТО РЕЙТЕР
Якщо, звісно, не поставитись до цих застережливих слів як до необов’язкової «гри розуму», а проаналізувати сказане Маском із належною серйозністю, то відкривається дуже широкий простір для аналізу й роздумів. Перший, очевидний висновок, що буквально лежить на поверхні: це не така вже складна для осягнення думка: ядерну зброю, бодай дуже кепсько, великі держави хоч якось спромоглися контролювати (ми не беремо тут приклад Північної Кореї, Ірану, ба більше — Ілон Маск геть не стверджував, що ядерна зброя є благом, він лише порівняв її з більшим, на його думку, злом). В той час як штучний інтелект, що, як дехто впевнений, відкриває для землян «небачені можливості», насправді може приховувати в собі якісно нові небезпеки, що про них ми навіть наразі й не думаємо. А що, як «штучні розумні істоти» здобудуть у майбутньому можливість контролювати людей і людство (саме так, а не навпаки!), змінювати за своїм розсудом наш мозок, нашу біологічну природу. Цьому присвячена низка творів класиків наукової фантастики — від Бредбері до Азімова, від Саймака до Шеклі, десятки знаменитих фільмів (від блискучих американських до цікавої радянської «молодіжної» стрічки доби так званого «совка» «Підлітки у Всесвіті», де розглядаються ці самі проблеми). Але колишня фантастика, як показує життя, з немислимою швидкістю стає реальністю. Хто може виключати, що цей виклик «в усій красі» не постане перед людством уже в цьому столітті? І наші діти (внуки) побачать це...
Цим аж ніяк не вичерпується проблема. Узагальнюючи, можна сказати, що наслідки усіх наших «великих наукових революцій» в першу чергу, звичайно, є саме такими, на які розраховують їхні творці, проте у другу і третю чергу будуть (і то незворотно) абсолютно несподіваними для землян. Отож, треба бути максимально обережними, не сім, а сорок разів по сім «відмірити», до того як щось робити. По-перше, з тих самих мотивів, з яких дітям не дозволяють гратись із сірниками. А по-друге, не забуваймо, що більшість видатних вчених ХХ століття, маємо на увазі насамперед таких великих фізиків, як Ейнштейн, Гейзенберг, Дірак, Шредінгер, Бор, наш сучасник — нині покійний Стівен Хокінг, в тій чи іншій формі визнавали, що існує дещо нам непідвладне, непідконтрольне, непізнаванне, певна «Вища Сила» (не обов’язково це — повний синонім і тотожність Бога!). І нарешті, варто згадати Франкенштейна Мері Шеллі, чудовисько, створене вченим-відлюдником, котре вийшло з-під його контролю й оголосило війну людям (це — 1819 рік). Не зайвим було б добре пам’ятати й мудрість, викладену в Біблії: «В усіх справах твоїх пам’ятай про кінець!»
