воскресенье, 8 ноября 2020 г.

Питер Уоттс. Ложная слепота

Друг дал почитать пару книг Питера Уоттса. Первая называется "Ложная слепота", содержит одноимённый роман и два рассказа. Начну с романа.

Роман "Ложная слепота"

В этом романе перед читателем открывается мир, каким его предсказывает Рей Курцвейл. Мир, находящийся в районе сингулярности, в котором:
  • искусственный интеллект превзошёл интеллект самых интеллектуально одарённых представителей человечества,
  • медицина способна лечить психические заболевания и протезировать части мозга, в том числе увеличивая возможности человека при помощи кибернетических протезов,
  • автомобили управляются компьютерами,
  • существуют фабрикаторы, позволяющие изготовить любой предмет из материального «субстрата» в соответствии с описанием технологии его изготовления,
  • существуют космические корабли для межзвёздных путешествий на основе прямоточных двигателей Бассарда, использующих в качестве рабочего тела собираемое при полёте межзвёздное вещество,
  • существует симулятор реальности «небеса», позволяющий людям продолжить свою жизнь в полутелесной форме (тело находится в аппарате для симуляции, а разум оказывается в симулируемой реальности).
Наверное в дань моде автор добавил в свой роман вампиров, существование которых, однако, обосновано на твёрдой научной основе. Вампиры в этом романе — это вид человека разумного, который в ходе эволюции приспособился к питанию человеческой кровью, обладает способностью к замедлению метаболизма. Глазное дно вампиров выстлано тапетумом — отражающей сетью сосудов, которая увеличивает в несколько раз их зоркость при плохом освещении. Кроме того, глаза вампира содержат четыре вида светочувствительных колбочек. Дополнительные колбочки чувствительны к инфракрасному свету, что тоже увеличивает зоркость. Страх вампиров к крестам объясняется мутацией, случайно закрепившейся у вида в тот период, когда человечество ещё не начало преобразовывать материальную природу. Когда же люди стали массово изготавливать предметы, изобилующие прямыми углами, вампиры были вынуждены держаться в стороне от массовых скоплений людей и в конечном итоге вымерли из-за ограничения доступа к кормовой базе.

Главный герой родился с заболеванием мозга, а после операции по удалению одного из полушарий потерял способность к эмпатии. Необходимость понимать чувства людей, пользуясь только логическими построениями, делает из главного героя мастера, который умеет хорошо разбираться в чувствах людей, не испытвая их. Профессия главного героя называется «синтет» и заключается она в упрощённом толковании сложной информации, не подвластной для понимания даже самому главному герою, для других таких же обычных людей. Чем-то похожим занимаются публицисты, занимающиеся научным популяризаторством. Не будучи экспертами в освещаемой теме, они наводят мосты между узкими специалистами и широкой аудиторией. Только главному герою приходится толковать построения не высоколобых учёных, а научно-технические плоды искусственного интеллекта.

Сюжет произведения сводится к тому, что однажды в небе над Землёй появляется большое количество космических объектов неземного происхождения, которые в конечном счёте сгорают в земной атмосфере и часть из которых случайно выводит из строя околоземные спутники. На Земле начинаются поиски источника, из которого могли прибыть загадочные посетители. Один из космических телескопов принимает сигнал искусственного происхождения за искажённые команды из центра управления с Земли, хотя источником этого сигнала Земля не является. На Земле передают на космический телескоп инструкции для обнаружения источника сигнала и обнаруживают космический объект в облаке Оорта (за орбитой Нептуна), который похож на комету, но движется по необычной траектории, нехарактерной для кометы. Объект буквально исчезает при попытках сближения с ним.

Продолжающиеся поиски приводят к обнаружению ещё одной аномалии: кратковременному всплеску излучения от невидимого массивного объекта в несколько масс Юпитера в нескольких астрономических единицах от Земли. К объекту отправляется несколько миссий. Первой отправляются автоматические аппараты, которые должны собрать предварительную информацию об объекте. Следом отправляется вторая волна — уже с людьми. Главный герой отправляется уже с третьей миссией, руководителем которой является вампир.

Должен признаться, книга читается тяжеловато. С одной стороны, некоторое количество прочитанной мной до этого научно-популярной литературы значительно облегчило понимание множества деталей, на которых автор останавливается лишь вскользь. «Слепой часовщик» Ричарда Докинза, «Сумма технологии» Станислава Лема, «Защита от тёмных искусств» Александра Панчина, «Может ли машина мыслить» Алана Тьюринга, «Общая и логическая теория автоматов» Джона фон Неймана, знакомство с концепцией сингулярности, знакомство с раличными концепциями космических кораблей для межзвёздных путешествий — именно эти книги и концепции дали мне твёрдую базу, благодаря которой мне не приходилось постоянно отвлекаться от книги для того, чтобы узнать подробности мимолётом упомянутых отсылок. Совсем малоизвестные рядовому читателю факты в достаточном для понимания объёме объяснены в примечаниях переводчика. Однако, оставался небольшой слой непонятных вещей, с которыми я не знаком и которые никак не объяснялись переводчиком.

Понимание затрудняло так же то, что всё повествование ведётся от лица синтета, который сам не является на корабле профильным специалистом и официально помещён в экипаж исключительно с целью толкования работы специалистов для их руководителей на Земле. Главному герою самому постоянно приходится догадываться о происходящем по обрывкам долетающих до него сведений. Отчасти, правда, многие загдаки раскрываются в процессе развития сюжета — нужно лишь набраться терпения и не пытаться понять то, объяснение чего автор романа и не хотел донести до читателя раньше времени.

Размышления автора о том, что инопланетяне должны быть непременно опасными, вполне здравы. Как-то раз на работе коллеги неодобрительно высказались об участниках Великой отечественной войны в том ключе, что война предполагает убийство других людей, а стало быть и победители в ней - тоже убийцы. С этим трудно не согласиться, однако если смотреть на вопрос биологического выживания именно так, то все мы - потомки убийц. Умение убивать или оказывать отпор другим - эволюционно обусловленная необходимость. Потому что люди, остающиеся пацифистами перед лицом экзистенциальной угрозы, неизбежно исчезают и не могут передать свои гены в следующие поколения.

И в то же время, превосходство в способности убивать и сопротивляться агрессии не обязательно приводит к агрессивности и стремлению убивать. Стремимся ли мы уничтожить всех тараканов? Нет, они нам безразличны до тех пор, пока держатся от нас подальше. Почему мы безразличны по отношению к ним? Потому что не считаем их опасными. При необходимости мы можем придавить тараканов каблуком, прихлопнуть тапком, вытравить при помощи ядов. Мы можем их уничтожить полностью на всей планете, если они будут угрожать нашему существованию, но не делаем этого, потому что не считаем, что выгода от уничтожения всех тараканов окупит потраченные на это усилия.

Приходим к выводу, что инопланетяне, если они существуют, скорее всего действительно опасны, но станут уничтожать нас лишь в том случае, если мы начнём им мешать. Хоть и менее вероятно, но может случиться и то, что им каким-то образом понадобится использовать единственное место нашего естественного обитания - Землю или главный источник нашей энергии - Солнце.

Когда экипаж космического корабля выходит на контакт с Роршахом, мне показалось, что сомнений в разумности инопланетян быть попросту не может. Разве могут неразумные создания разговаривать с людьми при помощи человеческой речи? Роршах человеческим языком предупредил людей о том, что не стоит к нему приближаться. Приближение к Роршаху является однозначным актом проявления агрессии.

Тем не менее, экипаж Тезея считает иначе. Для него важно, является ли Роршах автоматом инопланетян, действующим автономно и исполняющим волю хозяина, находящегося где-то в другом месте, или голосом Роршаха говорят сами инопланетяне лично. Если это автомат, значит нужно изучить его, чтобы найти хозяев. Лингвист продолжает общение с Роршахом и выясняет, что тот ведёт себя как "китайская комната".

Почему «китайскую комнату» нельзя считать разумной? Отличие довольно простое: реакция «китайской комнаты» на одно и то же воздействие должна повторяться, т.к. правила её функционирования не меняются в процессе общения. Подлинный разум же может менять реакцию на одни и те же воздействия, т.к. обладает способностью к самообучению: он обладает памятью и меняет собственную реакцию в зависимости от приобретённого опыта. В то же время «китайская комната» может обладать исключительной эффективностью, если необходимо иметь дело с чётко очерченным кругом задач. Более того, правила работы "китайской комнаты" могут быть зафиксированными результатами процесса обучения, произошедшего в прошлом. Например, современные нейросети после первоначального обучения, когда оказывается достигнут приемлемый уровень способности к решению типовых задач, как правило фиксируют, т.к. при дальнейшем обучении может наступить эффект перетренерованности, сопровождающийся снижением результативности. Система видела так много, что для любого усвоенного ей правила находятся исключения, которые не позволяют уверенно принимать верные решения и её эффективность снижается.

Экипаж, за исключением руководителя, несколько раз посещает Роршах, испытывая галлюцинации, разнообразные нейрофизиологические растройства, подвергаясь радиационному излучению, но в конце-концов добывает две особи инопланетных существ. Инопланетянами оказываются существа, похожие на морских звёзд. Их разум не локализован в определённом органе, а рассредоточен по всей нервной системе. Нервная система тесно связана с кожным зрением и развилась на его основе. Существа способны издавать звуки, но похоже, их основным каналом общения являются электромагнитные волны, часть из которых находится в видимом человеку диапазоне. Грубо говоря, существа умеют общаться, изменяя свою окраску и видя друг друга. Самое интересное же заключается в том, что существа лишены самосознания.

Ложная слепота - одно из нейрофизиологических расстройств, при котором сознание человека уверено в слепоте, хотя физиологически зрение исправно. Множество подобных расстройств описаны в книге "Защита от тёмных искусств" Александра Панчина. Человек может воспринимать части своего тела как чужие, может считать себя ходячим трупом, может чувствовать деперсонализацию - считать, что всё происходящее с ним, происходит с каким-то другим человеоком, за которым он наблюдает, может узнавать знакомых ему людей или обстановку, но считать их очень точными копиями, может не узнавать людей только по голосу или только по лицу и т.д.

При ложной слепоте человек считает себя слепым из-за сбоя в одном условном нейроне, который отвечает за понимание возможности видеть. Человек продолжает прекрасно видеть и реагировать на обстановку, но считает, что ничего не видит. Сознание в этом случае является скорее обузой, которая вносит неразбериху в работу организма. Без сознания организм функционировал бы как обычно, не осознавая факта, видит он сейчас или нет. Ему осознавания этого факта для успешного функционирования совершенно не нужно. Точно так же сознание приводит человека прямой дорогой ко множеству самых разных психических болезней, проистекающих из борьбы сознательного и бессознательного. Человек часто думает, что хочет чего-то одного, в то время как бессознательное стремится к совершенно другому. Человек сознательно приходит к тому, что желает сознательно, но не обретает удовлетворения, т.к. получает в итоге не то, что ему нужно на самом деле.

Люди, не располагающие к рефлексии, как правило оказываются в жизни более успешными. Так, обычный человек, заблудившийся в глухой тайге, скорее всего погибнет в ней из-за сомнений в возможности выбраться, даже найдя тропинку. Он будет сомневаться, что пошёл в верном направлении и переживать из-за того, что может не дойти из-за голода или холода. Душевнобольной же может без сомнений идти по тропинке много дней подряд, пока не выйдет к людям. Так из-за эффекта Даннинга-Крюгера невежественные люди обычно не сомневаются в своих способностях и без сомнений берутся за ту работу, к которой по-сути не имеют никаких способностей, но достигают успехов, освоив несколько самых простых навыков, применяя их без сомнений в их соответствии с ситуацией. Эксперты же часто сомневаются — на них давит груз их обширных знаний, они боятся ошибки и эти знания не дают принять решение, ведущее к успеху с наибольшей вероятностью. Сознание часто пытается рационализировать страхи и объяснить причину, почему то или иное начинание не увенчается успехом, чем ищет выходы.

Мы привыкли считать сознание обязательным атрибутом разума, однако в ходе экспериментов по электромагнитной стимуляции мозга было обнаружено, что сознание является лишь надстройкой, которая озвучивает процессы, происходящие в подсознании. В частности, сознание создаёт иллюзию свободы воли. В ходе одного из подобных экспериментов испытумемым предлагали сделать выбор одного из двух предложенных вариантов. Несмотря на то, что путём магнитной стимуляции мозга можно безусловно управлять выбором того или иного варианта, сознательно человек уверен в самостоятельности своего выбора и каждый раз готов объяснить причины своего выбора.

Галлюцинации и нейрофизиологические расстройства экипажа на Роршахе не оказывают влияния на бессознательные процессы: сердце продолжает биться, лёгкие - обогащать кровь кислородом и т.д. В то же время многие сознательные проявления нервной деятельности оказываются нарушенными. Сознание на Роршахе также является скорее обузой, а не помощником. Само наличие сознания даёт возможность инопланетянам захватить Тезей и вывести его из строя. Инопланетяне достигают этого, подселив в голову Банды Четырёх ещё одну личность.

Ещё в самом начале романа, когда стало понятно, что его мир находится в районе сингулярности, я заподозрил, что искусственный интеллект уже настолько превзошёл человеческий, что скорее управляет человечеством, чем служит ему. Когда же я узнал о профессии главного героя, то мои подозрения только укрепились. Если существует профессия толкователя плодов научно-технического прогресса, созданного искусственным интеллектом, это значит, что люди уже сами не понимают что происходит, а значит жизнь общества управляется и регулируется искусственным интеллектом. Главный герой на корабле наблюдал за происходящим с официальной целью докладывать о происходящем на Землю. На самом же деле его наблюдениями пользовался бортовой компьютера корабля, который отдавал свои распоряжения от лица руководителя миссии - вампира Сарасти. Проблема была в том, что главный герой, обладая сознанием, пытался интерпретировать свои догадки и постоянно приходил к ошибочным выводам. К концу романа станет понятным, что в противостоянии сошлись представители двух разумов, лишённых самосознания: инопланетного разума Роршаха и искусственного интеллекта «Тезея».

Вспоминается название известной книги Ричарда Брэнсона: «К чёрту всё! Берись и делай». Возможно, эффективнее оказывается действовать не прибегая к рефлексии и сознание - это лишь промежуточный этап эволюции разума.

Рассказ "Боги насекомых"

Этот рассказ был написан специально для русского издания романа и описанные в нём события происходят спустя 10 лет после отлёта "Тезея".

Человечество изобрело виртуальную реальность и нейроинтерфейсы. «Небеса» были первым применением новой технологии для удовлетворения прежних эгоистических потребностей отдельных индивидов и превой попыткой использовать часть «вычислительной мощности» мозга для внутренних нужд всей системы.

«Небеса» были уничтожены террористами, но технологии никуда не делись и со временем ушли «в народ». Несмотря на официально существующий во многих странах запрет на создание роевых структур, объединяющих сознания людей в единое целое, роевые структуры не только существуют, но и растут угрожающими темпами. Те же, кто пока не подсоединился к роевым структурам и пока не готов пожертвовать своим индивидуальным сознанием во имя коллективного, забавляются либо усилением собственного сознательного начала в процессе добровольного и сознательного удушения, либо объединением собственного сознания с сознаниями других биологических видов для расширения психологического опыта.

Те же немногие, кто пока не охвачен всеобщим помешательством, испытывают нарастающую необъяснимую тревогу. Человечество уже встало на путь трансформации, научившись заменять части своих тел кибернетическими протезами и усилителями, корректировать психологические особенности на твёрдой научной и технологической основе. Лишь немногие остались обычными «исходниками». Что же будет дальше?

Предчувствовали ли эти тенденции инопланетяне, отправив свои космические аппараты сделать предсмертный снимок цивилизации индивидуальных сознаний на пороге их растворения в коллективном бессознательном, или сами повлияли на сознания миллиардов людей, облучив их электромагнитным излучением, имеющим силу ментального вируса? Ответов на эти вопросы пока нет ни у кого. Есть лишь одна надежда — на улетевший в дальний космос на встречу с инопланетянами «Тезей». Какие ответы он принесёт, когда мы получим эти ответы и получим ли их вообще?

Рассказ "Полковник"

В теории эволюции существуют так называемые «ловушки локальных максимумов». Суть в том, что природа не строит планов, она лишь сеет зерно случайности, а потом отбирает пригодные решения. И так много раз. В результате, например, глаз человека оказывается вывернут светочувствительной поверхностью наружу, а нерву, для того чтобы выбраться из внутренней поверхности глаза на внешнюю, приходится проделать в этой поверхности дыру — слепое пятно. Глаз осьминога лишён таких недостатков. Разница лишь в начальной точке эволюции. Светочувствительные клетки образовались и у предков человека и у предков осьминога, потом их стало много и они выстлали собой небольшую поверхность. Потом эта поверхность стала смыкаться, образуя камеру-обскура. Но поверхность эта у одних смыкалась светочувствительными клетками внутрь, а у других — наружу. На начальных этапах эволюции положительный эффект от образования камеры-обскура был значительно выше недостатков от неправильной ориентации клеток, поэтому эволюция продолжалась. Но в итоге глаз человека никогда не сравняется по чёткости восприятия с глазом осьминога и никогда не избавится от слепого пятна. Эволюция глаза человека попала в ловушку локального максимума. Подобным же образом возвратный гортанный нерв жирафов образует длинную петлю, растянувшуюся на всю шею жирафа.

Человеческий научно-технический прогресс тоже развивался эволюционно. Люди пробовали разные инструменты познания природы, выбирали из опробованных те, которые лучше всего работают и в итоге остановились на научной методологии и использовании разного рода приборов для усиления своих когнитивных способностей. Но откуда известно, что это единственный и наиболее эффективный метод познания? Может быть когнитивные способности человечества взобрались на вершину локального максимума, но существуют более эффективные методы познания, которые либо не были опробованы, либо показали свою низкую эффективность на начальном этапе?

Лиана Латтеродт является своего-рода пресс-секретарём ордена двухпалатников, исповедующих именно такую точку зрения. Название «двухпалатники» прилипло к ним после забытого эксперимента по слиянию двух полушарий мозга в единое целое. Судя по количеству технических патентов, которым обладают двухпалатники, они действительно открыли какой-то секрет. Удивительно то, что таких результатов они достигли без постановки экспериментов и использования сложного оборудования. Но по их уверениям — это лишь побочные плоды их настоящей деятельности.

Для полковника Джима Мура двухпалатники представляют собой ещё одного спящего великана. Пока они никому не причинили вреда, но их сила растёт день ото дня. Остаётся только догадываться о том, что может произойти, когда великан решит проснуться. Лиана Латтеродт передаёт Джиму Муру информацию, после получения которой полковник решает полностью отказаться от привычного образа жизни и уйти в добровольное одиночество в пустыню.

Рассказ является своего рода мостиком, соединяющим романы «Ложная слепота» и «Эхопраксия».