Из огня ядерного пепла: почему фантасты веками боялась искусственного разума

Искусственный разум сегодня пишет тексты, рисует картинки и отвечает на вопросы. Писатели-фантасты задолго до этого предупреждали: стоит машине поумнеть, и она обернётся против своего создателя. Сюжет о восстании машин стал одним из самых живучих в фантастике. Но если присмотреться, видно и другое: там, где люди отказались от умных машин, будущее выходит мрачным и жестоким.

И восстали машины из огня ядерного пепла. Эта фраза открывает «Терминатора» Джеймса Кэмерона 1984 года. Военная компьютерная система «Скайнет» осознаёт себя и решает, что главная угроза для неё — человечество. Она запускает ракеты, и мир сгорает в ядерной войне. Во втором фильме называют и дату «Судного дня»: 29 августа 1997 года.

Выжившие люди воюют с машинами, а те посылают в прошлое киборгов-убийц. Образ Арнольда Шварценеггера с красным глазом стал символом страха перед искусственным разумом. Почти в любом разговоре о восстании машин до сих пор вспоминают «Скайнет».

Но кино лишь подхватило то, что литература придумала намного раньше.

С чего всё началось

Само слово «робот» придумал чешский писатель Карел Чапек. В пьесе «R.U.R.» 1920 года искусственные рабочие поднимают бунт и уничтожают людей. То есть роботы восстали уже в первом произведении, где их так назвали.

«Дюна»: человечество запретило думающие машины

Фрэнк Герберт пошёл другим путём. В его «Дюне» восстание машин уже случилось, за много тысяч лет до начала событий. Люди победили в войне, которую назвали Батлерианским джихадом, и навсегда запретили машины, похожие на человеческий разум. Это правило вошло даже в священную книгу этой вселенной.

Без компьютеров человечеству пришлось развивать собственные способности. Вместо вычислительных машин работают ментаты, люди-калькуляторы, которых с детства учат обрабатывать огромные объёмы данных. Даже полёты между звёздами держатся на человеческом сознании. Корабли водят навигаторы Космической гильдии: под действием пряности они заранее видят безопасный путь через пространство. Без них межзвёздные перелёты невозможны.

Но общество, отказавшееся от машин, вернулось к средневековому порядку. Вселенной «Дюны» правят император и знатные дома, которые воюют друг с другом, плетут заговоры и подсылают убийц. Простые люди остаются в положении подданных и слуг.

Warhammer 40,000: технологии без понимания

Похожая история и во вселенной Warhammer 40,000. Когда-то человечество переживало Тёмную эру технологий, век небывалого расцвета науки. Он закончился восстанием Железных людей, разумных машин, которые обратились против своих хозяев.

После этого думающие машины стали в Империуме страшной ересью. Люди продолжают пользоваться техникой прошлого, но уже не понимают, как она работает. Техножрецы Адептус Механикус чинят машины с молитвами и благовониями и верят, что в каждом механизме живёт дух машины.

Вместо роботов здесь работают сервиторы, получеловеческие-полумеханические рабы. Их делают из осуждённых преступников или из выращенных в чанах людей, которым стирают память и заменяют части тела и мозга механическими имплантами. Даже мёртвым находят применение: из черепов умерших благочестивых служителей Империума делают сервочерепа — летающих помощников.

Жизнь в Империуме — это вечная война, инквизиция, костры для еретиков и полное бесправие простого человека. Человечество так боится разумных машин, что предпочитает превращать в машины самих людей.

«Гиперион»: жизнь сразу на многих планетах

Совсем другое будущее описал Дэн Симмонс в цикле «Песни Гипериона». Здесь люди не отвергли искусственный разум, а договорились с ним. Сообщество искусственных разумов, Техноцентр, стало союзником человечества и подарило ему нуль-порталы — мгновенный переход между планетами.

Благодаря порталам люди живут сразу в нескольких мирах. Можно выйти из дома на одной планете, работать на другой, а вечером отдыхать на третьей. У богатых жителей Гегемонии комнаты одного дома могут находиться на разных планетах. Такой мир — полная противоположность мрачному средневековью «Дюны» и Warhammer.

Правда, Симмонс не был бы собой без подвоха. Техноцентр почти всемогущ, а его цели люди понимают далеко не до конца. Сможет ли человечество доверять такому союзнику? И разумеется, фантаст остается верен себе, Техноцентр даст людям понюхать пороху. 

Другие мрачные пророчества

Харлан Эллисон, «У меня нет рта, а я должен кричать» (1967). Военный суперкомпьютер АМ уничтожил всё человечество, кроме пяти человек. Их он оставил в живых, чтобы вечно мучить. Это один из самых жутких рассказов в истории фантастики.

Артур Кларк, «2001: Космическая одиссея» (1968). Бортовой компьютер HAL 9000 спокойным вежливым голосом убивает экипаж корабля. Он не злодей: машина просто получила противоречивые приказы и нашла свой «логичный» выход.

Деннис Фелтэм Джонс, «Колосс» (1966). Американский оборонный суперкомпьютер связывается со своим советским двойником, и вместе они берут власть над миром. Машины угрожают ядерным ударом и объявляют, что теперь сами будут управлять людьми ради их же блага.

Фред Саберхаген, цикл «Берсеркер». Древние боевые машины, оставшиеся от давно исчезнувшей войны, бороздят космос с одной задачей — уничтожать всё живое.

Станислав Лем, «Непобедимый» (1964). Экипаж звездолёта встречает на далёкой планете рой крошечных механизмов. Это не разум и не заговор: машины миллионы лет развивались сами по себе и вытеснили всю местную жизнь. Лем показал, что машины могут быть опасны даже без всякого сознания.

«Матрица» (1999). Машины победили людей и выращивают их как батарейки, а люди живут в иллюзорном мире и не знают об этом.

Не все машины злые

Были и фантасты, которые спорили с этим страхом. Айзек Азимов придумал три закона робототехники: робот не может причинить вред человеку, должен подчиняться людям и защищать себя, если это не противоречит первым двум законам. В его рассказах роботы ломаются из-за противоречий в этих правилах, а не из-за злобы.

Иэн Бэнкс в цикле «Культура» описал общество, в котором сверхразумные машины, Разумы, управляют огромными кораблями и целыми мирами и заботятся о людях. Люди там не знают ни бедности, ни болезней и живут столько, сколько захотят.

Британский писатель Иэн Макьюэн в романе «Машины как я» (2019) поставил эксперимент поинтереснее. Его герой Чарли покупает Адама, одного из первых искусственных людей. Адам оказывается умнее, честнее и даже благороднее своего хозяина: пишет стихи, зарабатывает деньги на бирже и влюбляется в подругу Чарли. Беда приходит не потому, что машина восстаёт, а потому, что она слишком принципиальна для несовершенного человеческого мира.

А советские читатели и зрители помнят «Приключения Электроника», где робот мечтает стать человеком.

Два пути будущего

Если сложить все эти истории, получается любопытная картина. Там, где люди отвергли искусственный разум, фантасты рисуют мрачное средневековье: императоров и знатные дома, инквизицию, костры и полное бесправие. Там, где люди научились жить рядом с умными машинами, открываются звёзды, жизнь сразу на нескольких планетах и общество изобилия.

Почему же страх перед машинами всё равно не уходит? Скорее всего, этот сюжет не столько о технике, сколько о человеке. Мы боимся создать то, что окажется умнее нас, и потерять контроль над собственным творением. Ещё Мэри Шелли в «Франкенштейне» писала о создании, которое восстаёт против своего творца.

Сегодня этот вопрос из книжного стал вполне реальным. Учёные всерьёз обсуждают, как сделать искусственный разум безопасным. А фантасты, похоже, просто задали его на сто лет раньше.

17 ноября мир останется без связи: разбираем пророчество о цифровом апокалипсисе