Илон Маск предостерегает...
О «красных линиях» для человечества
Рационализм ХVIII века («век Просвещения») с его линейным пониманием общественного прогресса, толкованием социума как определенного механизма, пусть даже сложно устроенного (между прочим, именно в тех временах кроется корень многих мощных доктрин ХІХ и ХХ веков, в частности, и либеральной, и марксистской!) — этот век и доныне, пусть незаметно, влияет на мировоззрение множества «передовых умов». Свидетельством этого стало очень стойкое и живучее убеждение в безграничной, спасительной силе научного прогресса и познания вообще (мол, бесконечное познание Вселенной, Природы и человека само по себе является залогом решения тяжелых планетарных проблем и преемственности того же таки прогресса, крайне упрощенно объяснимого). Кое-где продолжаются еще и призывы, пусть закамуфлированные, к абсолютному овладению природными ресурсами и богатствами (прибыль влечет). И это — невзирая на окрепшее всемирное экологическое движение.
Здесь мы вообще имеем дело с исключительно серьезной основополагающей, мировоззренческой проблемой: где пределы человеческого познания, но понимает ли земное сообщество, что существуют и будут существовать жесткие (пусть неочевидные) «красные флажки» или же «красные линии», выход за пределы которых реально угрожает землянам крайне трудно предсказуемыми результатами. И экологическими, и социальными, и ресурсными, и ментальными, и биологическими, и еще множеством других, что их даже невозможно сегодня представить себе. Над этим предельно серьезным вопросом вынуждают задуматься (как минимум) слова всемирно известного инженера, предпринимателя, ученого и общественного деятеля Илона Маска. Этот невероятно активный человек, который напряженно работает над проектом сверхважной для человечества экспедиции на Марс, выразил на днях такое предостережение для многих, весьма возможно, неожиданное. А именно, Маск сказал буквально такое: «Искусственный интеллект для человечества опаснее атомного оружия».
ФОТО РЕЙТЕР
Если, конечно, не отнестись к этим предостерегающим словам как к необязательной «игре ума», а проанализировать сказанное Маском с надлежащей серьезностью, то открывается очень широкое пространство для анализа и размышлений. Первый, очевидный вывод, который буквально лежит на поверхности, — это не такая уж сложная для постижения мысль: ядерное оружие, хотя очень плохо, большие государства хоть как-то смогли контролировать (мы не берем здесь пример Северной Кореи, Ирана, даже больше — Илон Маск совсем не утверждал, что ядерное оружие является благом, он только сравнил его с большим, по его мнению, злом). В то время как искусственный интеллект, что, как кое-кто уверен, открывает для землян «невиданные возможности», в действительности может скрывать в себе качественно новые опасности, о которых мы сейчас даже и не думаем. А что, как «искусственные умные существа» получат в будущем возможность контролировать людей и человечество (именно так, а не наоборот!), изменять по своему усмотрению наш мозг, нашу биологическую природу. Этому посвящен ряд произведений классиков научной фантастики — от Бредбери до Азимова, от Саймака до Шекли, десятки знаменитых фильмов (от блестящих американских до интересной советской «молодежной» ленты времен так называемого «совка» «Подростки во Вселенной», где рассматриваются эти же проблемы). Но прежняя фантастика, как показывает жизнь, с немыслимой скоростью становится реальностью. Кто может исключать, что этот вызов «во всей красоте» не появится перед человечеством уже в этом веке? И наши дети (внуки) увидят это.
Этим никоим образом не исчерпывается проблема. Обобщая, можно сказать, что последствия всех наших «великих научных революций» в первую очередь, конечно, являются именно такими, на которые рассчитывают их создатели, однако во вторую и третью очередь будут (и это неотвратимо) абсолютно неожиданными для землян. Поэтому нужно быть максимально осторожными — не семь, а сорок раз по семь «отмерить» до того как что-то делать. Во-первых, по тем же причинам, по которым детям не разрешают играться со спичками. А во-вторых, не будем забывать, что большинство выдающихся ученых ХХ века, имеем в виду в первую очередь таких великих физиков, как Эйнштейн, Гейзенберг, Дирак, Шредингер, Бор, наш современник — в настоящее время покойный Стивен Хокинг, в той или другой форме признавали, что существует нечто нам неподвластное, неподконтрольное, непознаваемое, определенная «Высшая Сила» (не обязательно это — синоним и тождественность Бога!). И, наконец, стоит вспомнить Франкенштейна Мэри Шелли, чудовище, созданное ученым-отшельником, которое вышло из-под его контроля и объявило войну людям (это — 1819 год). Не лишним было бы хорошо помнить и мудрость, изложенную в Библии: «Во всех делах твоих помни о конце!»
