Опубликовано в журнале Новый Мир, номер 4, 2010
МАРИЯ ГАЛИНА: ФАНТАСТИКА/ФУТУРОЛОГИЯ
БЕЗ СОЗНАНИЯ
Недавно по Живому Журналу прокатилась волна ссылок на один и тот же ролик, выложенный на ресурс YouТube.com. Самец гориллы по имени Майкл рассказывал о том, как его маму застрелили браконьеры. В переводе с языка жестов при всем скудном синтаксисе и упрощенной грамматике это выглядит душераздирающе.
«Раздавить мясо горилла. Рот зуб. Плакать резкий-звук громко. Плохо думай-беда смотри-лицо. Режь-шея губа дырка».
Майкла спасли, увезли в Штаты и обучили языку глухонемых. И он поделился с воспитателями своим самым страшным детским воспоминанием.
Об интеллекте
горилл — вообще человекообразных обезьян — написано достаточно, чтобы эта тема перестала
быть сенсацией. Напомню только очень обстоятельную — и популярную в обоих смыслах
— книгу З. Зориной и А. Смирновой
«О чем рассказали └говорящие” обезьяны: Способны ли высшие животные оперировать
символами?» (М., «Языки славянских культур», 2006).
В одном из ЖЖ-блогов, где приводится ссылка на этот ролик, дана и подборка ссылок на статьи с сайта «Элементы»[15]. Названия статей выглядят так: «Животные способны логически мыслить», «Мартышки произносят фразы из двух слов», «Обезьяны думают о будущем», «Рыбы обладают способностью к дедукции», «Мыши чувствуют чужую боль», «Шимпанзе способны к бескорыстной взаимопомощи» и, наконец, «Скворцы понимают грамматику» (источником этой новости, впрочем, стало радио «Свобода», но со ссылкой на вполне конкретные эксперименты).
Специалисты по поведению животных — этологи — скажут вам, что различия между мышлением человека и животных носят чисто количественный (сравнительно малая у животных емкость рабочей памяти, например), но отнюдь не качественный характер. Собственно, об этом же вам скажет и любой собачник и кошатник, а то и владелец говорящего попугая (попугаям в той же книге З. Зориной и А. Смир-новой посвящен отдельный раздел, который я бы снабдила рубрикой «Хотите — верьте, хотите — нет»).
Мало того, время от времени животные (в крайней, критической ситуации) способны на удивительные интеллектуальные взлеты. Моя хорошая приятельница, зоолог, уверяет, что проблема только в том, что на этом — высоком — уровне животные держаться долго не способны, — слишком велик расход энергии и вызванный напряжением стресс. Думать, как известно, вообще неприятно и противно.Жизнь собак-поводырей, вынужденных постоянно находиться в состоянии «возбужденного» разума, короче жизни их безответственных собратьев.
А теперь вернемся к литературе.
В 2009 году в «АСТ», время от времени радующем хорошей фантастикой, вышла очень примечательная книга. Она подняла целую бурю споров и дискуссий, например на «Фантлабе» — форуме, где обмениваются новостями, рецензиями и идеями любители фантастики.
«Вынос мозга. На орбиту. В хорошем смысле этого слова» (С. Соболев).
«Не очень
весёлые мысли. Неудобные истины, выражаясь словами одного из главных героев. Конечно,
это не истины в последней инстанции, и со многими
из них можно не согласиться. Но книга побуждает задуматься и трезво взглянуть на
окружающую реальность, и это уже большой плюс» (Оlvegg).
«Истинно интеллектуальная фантастика, заставляющая задуматься о будущем и настоящем, о вечных вопросах человеческой природы и цивилизации. Может быть, не самое приятное чтение, но, безусловно, предоставляющее огромное поле для размышлений» (Kalvin).
Пожалуй, со времен Станислава Лема мало кто удостаивался таких комплиментов. Ну а теперь назовем героя. И книгу, вызвавшую такую бурную реакцию.
Это «Ложная слепота» Питера Уоттса, канадского гидробиолога и писателя-фантаста.
Дело здесь прежде всего в том, что читатель фантастики, в последнее десятилетие вынужденный потреблять инфантильные по определению фэнтезийные саги и космооперы (сразу, чтобы отмести неизбежные возражения, скажу, что исключения есть, они всегда есть), наконец-то получил книгу, где к нему, к читателю, адресуются как к взрослому. Где есть (в умеренных количествах) относительно сложная терминология, отсылки к научно-философским (чаще уже успевшим пустить корни в научно-популярной литературе) идеям и умеренная научная дерзость. Но главное — сама тема.
Попробуем пересказать вкратце содержание, не опасаясь «спойлеров». «Спойлеры» способны испортить удовольствие только от очень прямолинейных, иными словами плохих, книг.
Итак, в относительно близком будущем перед человечеством, озабоченным самыми разными проблемами (тут и злоупотребление нейростимуляторами, нейронаркотиками, биохимическим «тюнингом» эмоций, и уход в виртуальную реальность, и виртуальные контакты с утратой навыка простого человеческого общения, и «зеленый» и «антивиртуальный» терроризм и проч.), появляется еще одна проблема, глобального масштаба. Человечество обнаруживает, что оно не одиноко во Вселенной.
И это действительно проблема.
13 февраля 2082 года в 10.35 по Гринвичу в пространстве вокруг Земли одновременно возникло 65 536[16] зондов. Зонды вспыхнули и сгорели, отправив перед этим в некую точку некий пакет информации, — непросканированным не остался ни одни квадратный километр земной поверхности. Точкой, куда ушел радиосигнал, оказался, как выяснили ученые, загадочный объект в поясе Койпера[17] — комета Бернса — Колфилда.
А может, не комета…
К загадочному объекту направляется команда специалистов — людей, так или иначе измененных с учетом профессиональных требований.
Это лингвист Сьюзен Джеймс, также известная как «Банда Четырех». Взаимо-действие четырех «выделенных» сознаний помогает Сьюзен (собственно, просто обо-лочке, вместилищу личностей) расшифровывать самые сложные лингвистические голово-ломки. Автор мимоходом замечает, что своеобразная шизофрения, расщепление на несколько независимых личностей и есть тот самый синдром «одержимости», из-за которого людей когда-то сжигали на кострах. Теперь его научились создавать искусственно.
Исаак Шпиндель — биолог, чье тело представляет собой сращенный с лабораторным оборудованием биоконструкт. Фактически калека, жаждущий любви и понимания и влюбленный в одну из «расщепленных личностей» Сьюзен — Сашу.
«Военспец» Аманда Бейтс, чьи мышцы укреплены экзоскелетом.
У каждого есть дублер, спящий в ванне и ожидающий воскрешения в случае гибели предшественника. Каждый «не совсем человек», и уже можно начать задаваться вопросом: а что, собственно, такое есть человек — существо, внешне похожее на человека? Существо, биологически ведущее свое происхождение от вида Homo? Существо, сколь угодно измененное, но мыслящее, как человек? Честно говоря, этими вопросами (быть может, в предчувствии грядущих реальных возможностей изменения человеческой природы) фантасты увлекаются уже не одно десятилетие, но, словно расширяя зону исследования, Уоттс добавляет к этой странной компании еще две фигуры.
Во-первых, это главный герой, от лица которого — с философскими отступлениями и флешбэками — ведется повествование. Сири Китон, синтет, наполовину человек, наполовину компьютер, лишившийся еще в детстве одного полушария мозга[18] (хирургическая операция была сделана, чтобы избавить его от неизлечимых эпилептических припадков). Сири — человек, не способный испытывать эмоции (по крайней мере, так он полагает), непредвзятый профессиональный аналитик — исполняет в этой экспедиции роль беспристрастного наблюдателя, призванного запомнить все, зафиксировать и донести информацию до землян. Он тот, кого следует беречь, тогда как остальные — расходный материал. Недаром у него нет «дублера» в анабиозной ванне. Сири — как бы «не-совсем-личность», именно потому на его показания можно полагаться. И все же в самом конце этого предприятия Сири Китон, единственный уцелевший, летящий в спасательном челноке к Земле, где его ожидает неизвестно что, обретает способность к эмоциям и эмпатии. Возможно, как заметил один читатель-рецензент, все эти испытания, весь этот внеземной разум, все загадки и поражения нужны были исключительно для того, чтобы Сири Китон обрел себя, стал целостным… Но вернемся к составу экипажа.
Литературные и кинематографические вампиры нынче модны и гламурны до тошноты, и то, что Уоттс ухитрился впихнуть в свое научно-фантастическое повествование вампира, вызывает некоторую оторопь — для привлечения читателей, что ли, ему это понадобилось? Конечно, уоттсовские вампиры — не совсем вампиры в обычном понимании, Уоттс выдумал некую ветвь гоминидов, активного ночного хищника, чья кормовая база представлена исключительно близкородственными видами, в частности представителями Homo sapiens. Чтобы охотиться на умную и подвижную добычу, требуется еще более острый ум — вампиры, по сравнению с людьми, интеллектуалы, обладающие феноменальной скоростью реакции и пространственным воображением, способные (в отличие от людей) удерживать в сознании одновременно оба аспекта кубов Неккера[19].
Тут, кстати, автор упоминает любопытный побочный эффект — вампиров вводит в ступор простое изображение рамки, перекрестья (слишком простое и не поддающееся пространственному «выворачиванию»). Вот вам и причина вампирской ненависти к кресту. Еще вампиры ограничены в своих возможностях тем, что добыча их размножается примерно такими же темпами, как и они сами (в обычной модели «хищник — жертва», как известно, скорость размножения жертв обычно в несколько раз выше, чем хищников, иначе вымрут и те и другие). Поэтому вампиры выработали естественный ограничитель — чтобы полностью не подорвать свою кормовую базу, они время от времени погружаются в длительный анабиоз — на столетия, за это время численность добычи успевает восстановиться, тогда они выходят из своих укрытий, и — хлоп! — у человека опять появляется извечный и страшный враг, стремительный, незаметный, хитрый, возникающий в ночи, почти забытый, о котором остались лишь смутные воспоминания и легенды.
(Непонятно, впрочем, как технически все это происходит. Что же получается — вампиры все ложатся спать одновременно, по сговору или некоему химическому сигналу? Впрочем, у Уоттса с вампирами вообще полно нестыковок.)
И хотя вампиры вымерли задолго до того, как человечество вошло в техническую эру, сейчас, с развитием генной инженерии и клонирования, удалось восстановить нескольких вампиров, взяв за основу сохранившееся ДНК. При угрозе со звезд заново воссозданные вампиры — незаменимые союзники человечества, несмотря на то что представители этого самого человечества испытывают перед ними инстинктивный, доходящий до безумия, атавистический ужас.
Так вот, командир «Тезея» и его странного экипажа (а заодно посредник между людьми и самим кораблем, вернее, его электронным мозгом — Капитаном) и есть страшный вампир Юкка Сарасти, перед которым даже эмоциональный калека Сири испытывает необъяснимый ужас. Сарасти умнее, быстрее, хитрее любого из членов экипажа — и несравненно более жесток, он не знает жалости, для него люди — расходный материал, «мясо». Нечеловек, которого воскресили и которому добровольно препоручили себя человеки для спасения человечества.
Вся эта компания добирается до облака Оорта, находит тот самый загадочный объект и пытается выйти на связь — сначала при помощи условных сигналов, а потом — и посредством обычной человеческой речи. Самое замечательное то, что и объект им отвечает. Вступает в диалог.
Отвечает адекватно, демонстрируя удивительную информированность об устройстве человеческого мира, и даже присваивает себе имя «Роршах». Имя знаковое, поскольку информация, заключенная в так называемых пятнах Роршаха, — это то, что вчитывает в них диагностируемый пациент психиатра. Впрочем, диалог получается весьма уклончивый (даже и кокетливый), объект ничего не желает сообщать о себе, хотя и не проявляет недружелюбия. До тех пор пока Сарасти, раздраженный этой уклончивостью, не дает приказ группе своих «калек» высадиться на поверхность «Роршаха» и попытаться проникнуть внутрь — несмотря на совершенно недвусмысленный и даже агрессивный словесный отпор.
«— └Роршах” — └Тезею”. Если не можете ответить, пожалуйста… твою мать! <…> Теперь я вижу, что вы там затеяли, суки. Кретины, думаете, мы тут совсем тупые? <…> Уберите эту хрень прямо сейчас, твари, вы меня слышите? Сейчас же. <…> Хотите затеять войну, └Тезей”? Вы об этом мечтаете? Думаете, силенок хватит?
<…>
— А, ну да, — внезапно проговорил └Роршах”. — Теперь понятно. Вы думаете, здесь никого нет, так? Вам какой-то консультант на большом окладе подсказал, что волноваться нечего. <…> Вы решили, что мы всего лишь └китайская комната” — глумился └Роршах”»[20].
При всей проницательности этого заявления (исследователи действительно решили, что «Роршах» формирует ответы по принципу «китайской комнаты»[21]) и недвусмысленности угроз, Сарасти велит продолжать операцию «взлома». Он уверен, что, несмотря на всю видимость осмысленного диалога, «Роршах» (вернее, то, что находится внутри него и взаимодействует с «Тезеем») неразумен. Точнее, не обладает сознанием. Иными словами, его ответы не являются ответами, а диалог — диалогом в прямом смысле этого слова; это всего-навсего сложный комплекс инстинктов, бессознательное действие.
Тут немного отвлечемся от «Ложной слепоты».
«Разум», «интеллект» и «сознание» — понятия разные. Соответственно, скажем, в той же неистощимой Википедии разум определяется как «основа синтезирующей творческой деятельности, создающая новые идеи, выходящие за пределы сложившихся систем, дающая способность открывать и целеполагать(способность комбинировать полученные знания и создавать новые знания)». Интеллект — как «способность к целенаправленному осуществлению процесса познания и к эффективному решению проблем, в частности при овладении новым кругом жизненных задач». Сознание — как «способность субъекта соотносить себя с миром, вычленять себя из мира и противопоставлять себя ему». Все эти свойства теоретически могут быть приписаны одному и тому же субъекту, но могут быть разделены. Но именно теоретически — как это происходит на практике и происходит ли, сказать трудно. К тому же сами по себе определения весьма смутные, зависят от школы или установки и, с точки зрения неспециалиста, хотя бы частично перекрывают друг друга, но специалист, психолог или философ, наверняка скажет, что разница есть, и преогромная.
Попробуем разобраться.
Есть модели (в основном сконструированные теми же писателями-фантастами), в которых разум отделен от сознания. В лемовской «Формуле Лимфатера» предложена модель получения организмами или искусственными конструктами знаний неким неэмпирическим путем. Такие существа не обязательно будут разумны в нашем понимании (им это и не требуется, поскольку они заведомо знают «все и сразу»), но действия, производимые ими, будут казаться нам разумными. Другое дело, что эти действия будут совершаться этими гипотетическими существами на уровне инстинк-та — автоматической реакции на раздражители. Инстинктивные действия вообще выглядят исключительно целесообразно, а при антропоморфизации, очеловечивании объекта, что вообще присуще людям, — даже разумно. Недаром мы склонны приписывать инстинкту признаки разума — до тех пор, пока изменение окружающей среды не выводит инстинктивные действия, так сказать, на чистую воду[22].
Парадоксально, но с этой точки зрения существа, обладающие абсолютным знанием (как супермозг у Лема в «Формуле Лимфатера» или боги у Андрея Лазарчука в «Кесаревне Отраде»), априори будут неразумными, точнее, не обладающими сознанием. Им не надо делать выбор на основе неполных данных — они и так обладают оптимальными решениями на все случаи жизни.
Но если не брать в расчет крайние и потому вполне отчетливые случаи, дать определение разуму со всем комплексом вытекающих отсюда этических проблем весьма сложно. Недаром я начала эту статью с душераздирающей истории про гориллу Майкла и его маму. Пойдем дальше — ivanov_petrov, биолог и популяризатор науки, недавно выложил в своем ЖЖ подборку сведений о муравьях. Муравьи, пишет он, «вымакивают жидкость сухими комочками грунта, как губкой — так им удается переносить больше жидкости из, скажем, лужи древесного сока. Некоторые виды сшивают листья, пользуясь собственными личинками как сшивальными автоматами. А с другой стороны, — они обучаются в привычном нам смысле, а привычный нам смысл — это именно доработка инстинкта в соединении с каким-то пустяковым новшеством»[23]…
Муравьи способны «делать карьеру». В работах крупнейшего нашего специалиста А. А. Захарова[24] подробно рассказывается, как обычный наш лесной муравей Formica начинает карьерный рост с полной опасностей жизни фуражира — добытчика корма — на самых отдаленных подступах к гнезду, постепенно, с ростом опыта и с учетом естественной гибели работников, продвигаясь все ближе и ближе к муравейнику, и наконец (вершина карьеры) становится стражем и координатором на том склоне муравейника, который обращен к прежнему участку его деятельности. (Как если бы на крупном рыбообрабатывающем предприятии выслужиться от простого рыбака, выходящего на утлой лодке в бурное море, до крупного менеджера — что-то в этом есть очень японское.) Но «если будут разрушены дороги муравьев, — пишет далее ivanov_petrov, — именно эти опытные старые муравьи вновь пойдут по почве, обновляя дороги и кормовые участки, размечая их метками, — они помнят кормовые угодья муравейника, помнят, где расположены загоны с тлями, где дорога идет в заросли травы, которая дает отличные семена. Транспортную сеть держат в голове эти муравьи — каждый обновляет те участки, где он раньше охотился, и все вместе они восстанавливают все дороги, так что у муравейника память распределенная». Муравьи охотятся на прытких коллембол, пасут тлей, устраивая им загончики-коровники, выводя попастись на солнышко и вечером унося обратно. Выращивают в своих оранжереях съедобные грибы, удобряют землю. Муравьи подвержены саморазрушительной наркомании… Муравьи содержат рабов и устраивают самые настоящие набеги на другие муравейники. Муравьи вступают во внутривидовые и межвидовые альянсы, рвут их по исчезновении необходимости и так далее. Муравьи, как было когда-то доказано, способны транслировать друг другу «свернутые» пакеты информации, а значит, прибегают к абстрактным понятиям.
Разумны ли они?
Во-первых, это зависит от нашего собственного понимания разума, а с этим, как мы только что выяснили, у нас самих проблемы, во-вторых, и это главное, вступить в контакт с ними нам вряд ли удастся. К тому же рискну сказать, что ни мы, ни муравьи просто не ставят перед собой этой задачи.
К чему я это? К тому, что определить степень разумности вообще очень трудно. Встретив, скажем, инопланетный разум, мы можем не распознать его, а распознав, не понять. А поняв, можем очень-очень расстроиться, поскольку толку в таком понимании не будет никакого.
Вернемся к истории, рассказанной Питером Уоттсом.
Попытки «взломать» «Роршаха» (инопланетный корабль и его команда не совсем корабль и команда, но что-то вроде колонии организмов, где у каждого своя узкоспециальная функция) удаются, но оборачиваются чередой потерь и травм для экипажа — среда внутри корабля враждебна людям. Впрочем, люди берут в плен двух «инопланетян», которые, возможно, вообще не являются отдельными организмами. Тем не менее эти «неразумные» организмы при попытке контакта (а то и при попытке научения посредством физических пыток) демонстрируют удивительную сообразительность и способность решать сложнейшие задачи. Мало того, «Роршах», возможно, просто позволил землянам проникнуть в свой корабль и подсадил своих «шпионов» — вся экспедиция заканчивается сокрушительной гибелью «Тезея» (быть может, и его врага, но понятно, что он — один из многих, семя, занесенное в эту область Вселенной космическим ветром). Удалось выяснить одно: «Роршах» и ему подобные действительно представляют опасность для землян. Потому что земляне представляют опасность для «Роршаха» и ему подобных.
«Представь, что у тебя <…> есть задачи, но нет сознания. Твои нервы звенят от программ выживания и самосохранения, гибких, самоуправляемых, даже технологических — но нет системы, которая приглядывала бы за ними. Ты можешь подумать о чем угодно, но не сознаешь ничего.
<…>
Представь, что ты сталкиваешься с сигналом. Он организован, насыщен информацией. Удовлетворяет всем критериям осмысленной передачи. <…> Иногда подобные передачи ведут соплеменники, чтобы поделиться полезной информацией, — их жизни ты будешь защищать согласно правилам родственного отбора. Иногда сигнал исходит от конкурентов, или хищников, или других противников, которых надо уничтожить или сбить со следа; в этом случае информация может оказаться тактически полезной. Некоторые передачи могут даже исходить от существ хотя и не родственных, но способных стать союзниками или симбионтами во взаимовыгодных действиях. На каждый из этих случаев и на множество других можно выработать подходящий ответ.
Ты расшифровываешь сигнал и приходишь в замешательство:
Я здорово провела время. Получила массу удовольствия. Хотя стоил он вдвое больше любого другого жиголо под куполом…
Чтобы вполне оценить квартет Кизи…
Они ненавидят нас за нашу свободу…
<…>
Эти термины не имеют осмысленного перевода. Они неразумно рефлексивны. Они не содержат полезной информации — и все же организованы логически. Случайно они также возникнуть не могли.
Единственное объяснение состоит в том, что некто зашифровал бессмыслицу под видом полезного сообщения; обман становится очевиден, только когда потрачены время и силы. Сигнал не имеет иной цели, кроме как пожирать ресурсы получателя <…> уменьшая приспособляемость. Это — вирус.
Ни сородичи, ни симбионты, ни союзники не создают вирусов.
Этот сигнал — нападение.
И исходит он вот отсюда.
<…>
— Теперь до тебя дошло, — констатировала Саша.
Я потряс головой, пытаясь уместить в ней безумный, невозможный вывод.
— Они даже не враждебны. Для них такого понятия вообще не существует. Они просто до такой степени чужды нам, что могут воспринимать человеческую речь только как форму агрессии»[25].
Иными словами, разум, сознающий себя, от разума инстинктивного (в нашем понимании — не-разума) отличается избыточностью. Способностью производить (и оценивать) ложную, ненужную, лишнюю информацию. «Нам союзно лишь то, что избыточно» (О. Мандельштам). Сюда же — к этой области — относится и способность к эстетическому наслаждению, к любованию искусством, природой, закатами-восходами. Собственно, по версии Уоттса, сознание и возникло как механизм для получения удовольствия посредством искусства — своего рода паразитный процесс, подкрепленный положительными стимулами.
«Эволюция лишена предвидения. Свои цели вырабатывает только сложная система. Мозг — лжет. Контуры обратной связи возникают для поддерживания стабильности сердцебиения, а потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм. Она начинает моделировать процесс моделирования. Она пожирает все больше и больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, и множится, и ничего не производит, кроме собственных копий. Надпроцесы расцветают, точно опухоли, пробуждаются и называют себя └Я”»[26].
Ну вот, мы и выяснили самое главное. Человек — это тот, который в своих действиях руководствуется не голой прагматикой, а некими сложными, часто противоречивыми импульсами (у Станислава Лема в «Дознании» Пиркс именно так формулировал основное отличие человекоподобного робота от человека). «Наш», человеческий разум опирается на избыточность, ошибку, постоянно выверяя свою стратегию с учетом вероятности ложных данных. Собственно, Уоттс не сказал нам ничего нового. Недаром в хоре восторженных откликов на роман раздавались и скептические голоса: мол, из-за чего весь этот шум?
Не проще ли, скажем, обратиться к классике, например к эпилогу «Войны и мира»?
«Всякий человек, дикий и мыслитель, как бы неотразимо ему ни доказывали рассуждение и опыт то, что невозможно представить себе два разных поступка в одних и тех же условиях, чувствует, что без этого бессмысленного представления (составляющего сущность свободы) он не может себе представить жизни. Он чувствует, что, как бы это ни было невозможно, это есть; ибо без этого представления свободы он не только не понимал бы жизни, но не мог бы жить ни одного мгновения.
Он не мог бы жить потому, что все стремления людей, все побуждения к жизни суть только стремления к увеличению свободы. Богатство — бедность, слава — неизвестность, власть — подвластность, сила — слабость, здоровье — болезнь, образование — невежество, труд — досуг, сытость — голод, добродетель — порок суть только ббольшие или меньшие степени свободы.
Представить себе человека, не имеющего свободы, нельзя иначе, как лишенным жизни.
Если понятие о свободе для разума представляется бессмысленным противоречием, как возможность совершить два разных поступка в одних и тех же условиях или как действие без причины, то это доказывает только то, что сознание не подлежит разуму»[27].
Кажется, сказано вполне достаточно. И гораздо раньше, чем это сделал Уоттс.
Можно ли на этом успокоиться? Вряд ли.
Хитроумный Уоттс подбрасывает нам напоследок одну странную
деталь. Эвакуируясь с растерзанного, уничтоженного корабля, герой сталкивается со
своим командиром, вампиром Юккой Сарасти, который, собственно, и велит ему убираться.
Тут есть, однако, небольшая закавыка. Вампир мертв. Тем не менее он отдает приказ
и даже вступает с героем в диалог — при помощи наладонника, работающего
в текстовом режиме (говорить он не может — голова разворочена, мозг погиб). И в
ходе этого диалога вроде бы выясняется, что никакого страшного Сарасти, вампира,
извечного врага и страха человечества, своей харизмой подавляющего «мясо», человеческий
экипаж, на корабле никогда и не было. А был лишь придаток Капитана, суперкомпьютера
«Тезея», собственно и принимавшего все стратегические решения.
«Труп Сарасти подтолкнул меня в спину. Я обернулся.
— Это хоть когда-нибудь был он? — спросил я.
Иди.
— Скажи. Он хоть раз говорил за себя? Решал ли хоть что-нибудь сам? Следовали мы хоть раз его указаниям или это все время был ты?
Неживые, стеклянные глаза Сарасти непонимающе пялились на меня. Пальцы его заскребли по наладоннику.
Лди плхо выплняют прикзы мшн. Так вам спкойней»[28].
Так что же,
выходит, вся команда экспертов, искалечивших и перекроивших свои тела в угоду торжеству
«человеческого» разума, выполняя сложнейшее задание, рискуя жизнями и в конце концов
эти жизни отдав за «правое дело», не раздумывая, подчинялась искусственному
интеллекту, по определению (как мы уже выяснили тут) в нашем понимании не разумному?
Интеллекту, руководствующемуся в своих действиях «высшей прагматикой», без рефлексии,
без «ложных» посылов. Чем же в таком случае действия «Тезея» и его команды
отличались от действий «Роршаха»
и его команды, неразумных, но очень эффективных полипов — «болтунов», как прозвала
их «человеческая» команда «Тезея»?
Ничем. В сущности, ничем. Не потому ли результат столкновения получился таким драматическим. Ведь действия Сарасти с самого начала казались команде излишне жесткими, но команда списывала это на извечную загадочность и непогрешимость вампиров, старшей и страшной расы. Выходит, сами люди не только не способны отличить действующее сознательно разумное существо от бессознательного машинного интеллекта, но даже не способны оценить разумность собственных действий?
Итак, «правильная» реакция на раздражители не обязательно означает сознание; мало того, чем она автоматичней, инстинктивней, тем выгодней (сознательные действия, напомню, связаны с большими энергетическими затратами). Поэтому теоретически, говорит Уоттс, среди нас могут появляться отдельные особи — «зомби», — ведущие себя так, словно они разумны, но на самом деле просто демонстрирующие адекватные реакции на определенные социальные раздражители. Уоттс называет таких особей социопатами — лишенные воображения, они, по определению, лишены и эмпатии, сочувствия, хотя могут внешне демонстрировать проявления этих признаков. Такие особи будут успешны именно вследствие того, что не будут расходовать излишнюю энергию на глупости, действуя как «интеллектуальные автоматы».
«<…> никакое разумное существо не сумеет выделить зомби из толпы себе подобных. <…> Оно сможет даже участвовать в разговорах вроде нашего. Сможет писать письма родным, изображать реальные эмоции, ни в малейшей мере не воспринимая собственного существования. <…> О, мимикрия может оказаться не идеальной. Зомби станет слишком говорливым или будет скатываться время от времени до многословных лекций. Но так и настоящие люди поступают, верно? <…> А вот что действительно интересно, так это количество социопатов в высших эшелонах власти, хм? Как превозносятся безжалостность и предельный эгоизм в стратосфере, в то время как на уровне земли всякого, кто проявит те же черты, закатывают в тюрьму к реалистам. Словно само общество метаморфирует изнутри.
— <…> погоди, ты хочешь сказать, что корпоративная элита лишена разума?
— Господи, нет. Далеко не лишена. Должно быть, они только вступили на эту дорогу. <…>
— Да, но социопаты плохо вписываются в общество.
— Те, кого распознают, не вписываются, но они по определению — третий сорт. Остальные слишком умны, чтобы попадаться, а настоящий автомат справился бы еще лучше. Кроме того, если у тебя достаточно власти, тебе необязательно вести себя, как все. Все начинают вести себя, как ты»[29].
Социопат — просто модная американская страшилка. Однако есть еще кое-что. Предположим, мы, каждый по отдельности, разумны. Но интеллект толпы, как известно, равен интеллекту самой глупой ее человеческой единицы. А уж вознесение и гибель царств и цивилизаций связаны с чем угодно — c колебаниями климата, солнечными пиками активности, циклами засух-обводнений, — только не с волей и интеллектом отдельных людей. Чем больше по численности структура, состоящая из отдельных людей, тем больше шансов, что она будет реагировать бессознательно. Как машина.
«— Видите, как хорошо видны отсюда люди, снующие в свете газовых фонарей.
— Они возвращаются домой после работы в доке.
— Какие они усталые и грязные! Но в каждом горит искра бессмертного огня. Глядя на них, ни за что не скажешь этого. И тем не менее это так. Странное все-таки существо человек.
— Кто-то назвал человека животным, наделенным душой.
— Уинвуд Рид хорошо сказал об этом, — продолжал Холмс. — Он говорит, что отдельный человек — это неразрешимая загадка, зато в совокупности люди представляют собой некое математическое единство и подчинены определенным законам. Разве можно, например, предсказать действия отдельного человека, но поведение целого коллектива можно, оказывается, предсказать с большой точностью. Индивидуумы различаются между собой, но процентное отношение человеческих характеров в любом коллективе остается постоянным. Так говорит статистика»[30].
Мало того.
Наши собственные
действия гораздо более механистичны, чем нам кажется. Привычные ситуации вовсе не
требуют от нас постоянного напряжения разума, сводя отношения со средой до серии
сложных условных рефлексов. (Попавшему в непривычное окружение, скажем в другую
страну, известно, насколько проблемными становятся привычные бытовые действия, какой
расход энергии тратится на поездку в том же метро, именно потому, что она не совершается
автоматически, — все немножко другое, и этого уже достаточно.) Много ли человек
задумывается, идя на работу, совершая раз за разом одни и те же привычные действия
в метро, троллейбусе, маршрутке?.. Да и, честно говоря, много ли он задумывается
вообще?
В космическом масштабе как нас отличить, скажем, от тех же муравьев? Люди годами
ходят по одним и тем же маршрутам, притаскивают из специальных хранилищ продукты
в гнезда, относят свои личинки в особые места, где за ними присматривают тренированные
особи. Меняют вокруг себя окружающую среду? Так и муравьи в муравейнике ее меняют,
у них там постоянная температура и влажность. И детские ясли, и теплицы, и скотные
дворы. Ну да, муравьи не изобрели атомной бомбы. Так что, способность к саморазрушению
— признак разума? Что-то неладно выходит.
Ну, вот еще один канонический пример.
Представим
себе, что человеческие лейкоциты — клетки, обитающие в человеческой крови и обладающие
свободой передвижения, — разумны. Что они ведут между собой высокоученые разговоры,
влюбляются, ссорятся, создают великие произведения искусства, записанные на клеточных
мембранах при помощи тончайших нанотехнологий, что, когда на их мирные поля и русла
кровяных рек нападают коварные враги-бактерии, они, как один, бросаются на защиту
своих домов, своих родных и близких и гибнут, отразив атаку… Что из этого всего
почувствует человек, кроме повышения температуры, являющейся реакцией на вторжение
в организм инфекции? Услышит ли он вопли умирающих, рыдания оставшихся
в живых, ощутит ли их печальное торжество? Какое дело целому до частей, если они
функционируют правильно и выполняют свою функцию?
Кстати, насчет уоттсовских вампиров. Время от времени просыпаясь в своем спасательном челноке, герой получает с Земли все более и более странные сообщения. Вроде бы там произошло восстание вампиров. Вроде бы вампиры уничтожили (или последовательно уничтожают) все «мясо». Непонятно, правда, зачем они истребляют свою же собственную кормовую базу, непонятно, откуда их вообще взялось так много, если земные стратеги воскресили всего нескольких. Впрочем, возможно, Уоттс намеревается писать продолжение, этим все и объясняется. Так или иначе, сообщения, поступающие с Земли и из ближнего Космоса, становятся все прагматичней, все рациональней. Ничего лишнего. Если прилетит следующий «Роршах», говорит герой, конфликта не будет — древняя несправедливость исправлена, Землей правит рациональный бессознательный разум, «интеллектуальный автомат», потенциальный союзник «роршахов». Ошибка эволюции исправлена, все стало на свои места.
У нас еще остались поводы для гордости?