Пролог

Мы назвали наш вид Homo sapiens - человек разумный. Но насколько мы оправдали это название - вопрос спорный.

За последние 100 000 лет мы, сапиенсы, накопили огромную силу. Одно только перечисление всех наших открытий, изобретений и завоеваний могло бы заполнить целый том. Но сила не есть мудрость, и после 100 000 лет открытий, изобретений и завоеваний человечество оказалось в состоянии экзистенциального кризиса. Мы стоим на пороге экологического коллапса, вызванного неправильным использованием нашей собственной силы. Мы также заняты созданием новых технологий, таких как искусственный интеллект (ИИ), которые потенциально могут выйти из-под нашего контроля и поработить или уничтожить нас. Однако вместо того, чтобы объединиться для решения этих экзистенциальных проблем, растет международная напряженность, глобальное сотрудничество становится все сложнее, страны накапливают оружие судного дня, и новая мировая война не кажется невозможной.

Если мы, сапиенсы, так мудры, почему мы так саморазрушительны?

На более глубоком уровне, несмотря на то что мы накопили столько информации обо всем - от молекул ДНК до далеких галактик, - кажется, что вся эта информация не дает нам ответа на главные вопросы жизни: Кто мы? К чему мы должны стремиться? Что такое хорошая жизнь и как ее прожить? Несмотря на огромные объемы информации в нашем распоряжении, мы, как и наши древние предки, подвержены фантазиям и заблуждениям. Нацизм и сталинизм - лишь два недавних примера массового безумия, которое время от времени охватывает даже современные общества. Никто не спорит с тем, что сегодня люди обладают гораздо большей информацией и силой, чем в каменном веке, но далеко не факт, что мы гораздо лучше понимаем себя и свою роль во Вселенной.

Почему мы так хорошо накапливаем информацию и власть, но гораздо менее успешны в обретении мудрости? На протяжении всей истории человечества многие традиции считали, что какой-то фатальный изъян в нашей природе побуждает нас стремиться к силе, с которой мы не умеем обращаться. Греческий миф о Фаэтоне повествует о мальчике, который обнаруживает, что он сын Гелиоса, бога солнца. Желая доказать свое божественное происхождение, Фаэтон требует привилегии управлять солнечной колесницей. Гелиос предупреждает Фаэтона, что ни один человек не может управлять небесными конями, которые тянут солнечную колесницу. Но Фаэтон настаивает, пока бог солнца не смиряется. Гордо поднявшись в небо, Фаэтон действительно теряет контроль над колесницей. Солнце отклоняется от курса, испепеляя всю растительность, убивая множество существ и угрожая сжечь саму землю. Зевс вмешивается и поражает Фаэтона молнией. Тщеславный человек падает с неба, как падающая звезда, сам охваченный огнем. Боги восстанавливают контроль над небом и спасают мир.

Две тысячи лет спустя, когда промышленная революция делала первые шаги, а машины начали заменять человека во многих сферах деятельности, Иоганн Вольфганг фон Гете опубликовал похожую поучительную историю под названием "Ученик колдуна". В стихотворении Гете (впоследствии ставшем популярным мультфильмом Уолта Диснея с Микки Маусом в главной роли) рассказывается о том, как старый колдун оставляет молодого подмастерья за главного в своей мастерской и поручает ему на время своего отсутствия несколько дел, например, приносить воду из реки. Подмастерье решает облегчить себе задачу и, используя одно из заклинаний колдуна, заколдовывает метлу, чтобы она приносила ему воду. Но подмастерье не знает, как остановить метлу, которая неустанно набирает все больше и больше воды, угрожая затопить мастерскую. В панике подмастерье разрубает заколдованную метлу топором надвое, и каждая половина превращается в другую метлу. Теперь две заколдованные метлы заливают мастерскую водой. Когда старый колдун возвращается, подмастерье умоляет его о помощи: "Духи, которых я вызвал, теперь не могут от меня избавиться". Колдун немедленно снимает заклятие и останавливает потоп. Урок для ученика и для всего человечества очевиден: никогда не вызывайте силы, которые вы не можете контролировать.

Что говорят нам предостерегающие басни об ученике и Фаэтоне в XXI веке? Мы, люди, очевидно, не прислушались к их предупреждениям. Мы уже вывели климат Земли из равновесия и призвали миллиарды заколдованных метл, дронов, чатботов и других алгоритмических духов, которые могут выйти из-под нашего контроля и вызвать поток непредвиденных последствий.

Что же нам делать? Басни не дают никаких ответов, кроме как ждать, что нас спасет какой-нибудь бог или волшебник. Это, конечно, очень опасное послание. Он побуждает людей отказываться от ответственности и верить в богов и колдунов. Хуже того, он не учитывает, что боги и волшебники сами по себе являются человеческим изобретением - так же, как колесницы, метлы и алгоритмы. Тенденция создавать мощные вещи с непредвиденными последствиями началась не с изобретения парового двигателя или искусственного интеллекта, а с изобретения религии. Пророки и богословы неоднократно вызывали могущественных духов, которые должны были принести любовь и радость, но в итоге заливали мир кровью.

Миф о Фаэтоне и поэма Гете не дают полезных советов, потому что неверно понимают, как люди обретают власть. В обеих баснях один человек обретает огромную власть, но затем оказывается испорчен гордыней и жадностью. Вывод заключается в том, что наша несовершенная индивидуальная психология заставляет нас злоупотреблять властью. Этот грубый анализ упускает из виду, что человеческая власть никогда не является результатом индивидуальной инициативы. Власть всегда проистекает из сотрудничества большого количества людей.

Соответственно, не наша индивидуальная психология заставляет нас злоупотреблять властью. Ведь наряду с жадностью, высокомерием и жестокостью люди также способны на любовь, сострадание, смирение и радость. Правда, среди худших представителей нашего вида жадность и жестокость занимают главенствующее положение и заставляют злоупотреблять властью. Но почему человеческие общества предпочитают доверять власть своим худшим представителям? Например, большинство немцев в 1933 году не были психопатами. Так почему же они голосовали за Гитлера?

Наша склонность призывать силы, которые мы не можем контролировать, проистекает не из индивидуальной психологии, а из уникального способа, которым наш вид сотрудничает в больших количествах. Главный аргумент этой книги заключается в том, что человечество обретает огромную власть, создавая крупные сети сотрудничества, но способ построения этих сетей предрасполагает к неразумному использованию власти. Таким образом, наша проблема - это проблема сети.

Если говорить более конкретно, то это проблема информации. Информация - это клей, который скрепляет сети. Но на протяжении десятков тысяч лет сапиенсы создавали и поддерживали крупные сети, придумывая и распространяя вымыслы, фантазии и массовые заблуждения - о богах, о заколдованных метлах, об искусственном интеллекте и о множестве других вещей. В то время как каждый отдельный человек обычно заинтересован в том, чтобы знать правду о себе и о мире, большие сети связывают членов и создают порядок, полагаясь на вымыслы и фантазии. Именно так мы пришли, например, к нацизму и сталинизму. Это были исключительно мощные сети, удерживаемые вместе исключительно бредовыми идеями. Как сказал Джордж Оруэлл, невежество - это сила.

Тот факт, что нацистский и сталинский режимы были основаны на жестоких фантазиях и бесстыдной лжи, не сделал их исторически исключительными и не предопределил их крах. Нацизм и сталинизм были двумя самыми сильными сетями, когда-либо созданными людьми. В конце 1941 - начале 1942 года державы Оси были близки к победе во Второй мировой войне. Сталин в итоге вышел победителем из этой войны, а в 1950-1960-х годах у него и его наследников также были все шансы победить в холодной войне. К 1990-м годам либеральные демократии одержали верх, но теперь это кажется временной победой. В XXI веке какой-нибудь новый тоталитарный режим вполне может преуспеть там, где потерпели неудачу Гитлер и Сталин, создав всемогущую сеть, которая не позволит будущим поколениям даже попытаться разоблачить ее ложь и вымыслы. Мы не должны считать, что бредовые сети обречены на провал. Если мы хотим предотвратить их триумф, нам придется самим проделать тяжелую работу.

НАИВНЫЙ ВЗГЛЯД НА ИНФОРМАЦИЮ

Трудно оценить силу бредовых сетей из-за более широкого непонимания того, как функционируют большие информационные сети - как бредовые, так и нет. Это непонимание выражается в том, что я называю "наивным взглядом на информацию". В то время как басни вроде мифа о Фаэтоне и "Ученика колдуна" представляют слишком пессимистичный взгляд на индивидуальную психологию человека, наивный взгляд на информацию распространяет слишком оптимистичный взгляд на крупномасштабные человеческие сети.

Наивная точка зрения утверждает, что, собирая и обрабатывая гораздо больше информации, чем могут отдельные люди, большие сети достигают лучшего понимания медицины, физики, экономики и многих других областей, что делает сеть не только могущественной, но и мудрой. Например, собирая информацию о патогенах, фармацевтические компании и службы здравоохранения могут определить истинные причины многих заболеваний, что позволяет им разрабатывать более эффективные лекарства и принимать более мудрые решения об их использовании. Согласно этой точке зрения, в достаточном количестве информация ведет к истине, а истина, в свою очередь, ведет к силе и мудрости. Невежество, напротив, кажется, ни к чему не ведет. Хотя заблуждения или обман могут иногда возникать в моменты исторических кризисов, в долгосрочной перспективе они неизбежно проиграют более дальновидным и честным конкурентам. Служба здравоохранения, игнорирующая информацию о болезнетворных микроорганизмах, или фармацевтический гигант, намеренно распространяющий дезинформацию, в конечном итоге проиграют конкурентам, которые используют информацию более разумно. Наивная точка зрения, таким образом, подразумевает, что бредовые сети должны быть аберрацией и что крупным сетям обычно можно доверять разумное использование власти.

Наивный взгляд на информацию

Конечно, наивный взгляд признает, что на пути от информации к истине многое может пойти не так. Мы можем совершить честные ошибки при сборе и обработке информации. Злоумышленники, движимые жадностью или ненавистью, могут скрывать важные факты или пытаться обмануть нас. В результате информация иногда приводит не к истине, а к ошибке. Например, неполная информация, ошибочный анализ или кампания по дезинформации могут заставить даже экспертов ошибиться в определении истинной причины того или иного заболевания.

Однако наивный взгляд предполагает, что противоядием от большинства проблем, с которыми мы сталкиваемся при сборе и обработке информации, является сбор и обработка еще большего количества информации. Хотя мы никогда не можем быть полностью защищены от ошибок, в большинстве случаев больше информации означает большую точность. У одного врача, желающего определить причину эпидемии путем обследования одного пациента, меньше шансов добиться успеха, чем у тысяч врачей, собирающих данные о миллионах пациентов. А если врачи сами вступают в сговор с целью скрыть правду, то более свободный доступ к медицинской информации для общественности и журналистов-расследователей в конце концов раскроет эту аферу. Согласно этой точке зрения, чем больше информационная сеть, тем ближе она должна быть к истине.

Естественно, даже если мы точно анализируем информацию и открываем для себя важные истины, это не гарантирует, что мы будем использовать полученные возможности с умом. Мудрость обычно понимается как "принятие правильных решений", но что значит "правильных", зависит от ценностных суждений, которые различаются у разных людей, культур или идеологий. Ученые, открывшие новый патоген, могут разработать вакцину для защиты людей. Но если ученые - или их политические лидеры - верят в расистскую идеологию, утверждающую, что некоторые расы неполноценны и должны быть истреблены, новые медицинские знания могут быть использованы для разработки биологического оружия, которое убьет миллионы людей.

В этом случае наивный взгляд на информацию также считает, что дополнительная информация предлагает хотя бы частичное исправление ситуации. Наивный взгляд считает, что разногласия по поводу ценностей при ближайшем рассмотрении оказываются виной либо недостатка информации, либо намеренной дезинформации. Согласно этой точке зрения, расисты - это плохо информированные люди, которые просто не знают фактов биологии и истории. Они считают, что "раса" - это обоснованная биологическая категория, и им промыли мозги фальшивыми теориями заговора. Поэтому лекарство от расизма заключается в том, чтобы предоставить людям больше биологических и исторических фактов. Это может занять время, но в условиях свободного рынка информации рано или поздно истина восторжествует.

Наивная точка зрения, конечно, более тонкая и продуманная, чем можно объяснить в нескольких абзацах, но ее основной постулат заключается в том, что информация - это, по сути, благо, и чем больше ее у нас, тем лучше. При достаточном количестве информации и времени мы обязательно узнаем правду о самых разных вещах - от вирусных инфекций до расистских предрассудков, тем самым развивая не только свою силу, но и мудрость, необходимую для правильного использования этой силы.

Эта наивная точка зрения оправдывает стремление к созданию все более мощных информационных технологий и стала полуофициальной идеологией компьютерной эры и Интернета. В июне 1989 года, за несколько месяцев до падения Берлинской стены и железного занавеса, Рональд Рейган заявил, что "Голиаф тоталитарного контроля будет быстро повержен Давидом микрочипа" и что "самый большой из Старших Братьев становится все более беспомощным против коммуникационных технологий.... Информация - это кислород современной эпохи.... Она просачивается сквозь стены, обнесенные колючей проволокой. Она проникает через наэлектризованные, заминированные границы. Бризы электронных лучей проникают сквозь железный занавес, словно через кружева". В ноябре 2009 года Барак Обама во время визита в Шанхай высказался в том же духе, сказав своим китайским хозяевам: "Я очень верю в технологии и очень верю в открытость, когда речь идет о потоке информации. Я считаю, что чем свободнее распространяется информация, тем сильнее становится общество".

Предприниматели и корпорации часто выражали столь же радужные взгляды на информационные технологии. Уже в 1858 году в редакционной статье журнала The New Englander, посвященной изобретению телеграфа, говорилось: "Невозможно, чтобы старые предрассудки и вражда продолжали существовать, пока создан такой инструмент для обмена мыслями между всеми народами Земли". Спустя почти два века и две мировые войны Марк Цукерберг заявил, что цель Facebook - "помочь людям больше делиться информацией, чтобы сделать мир более открытым и способствовать взаимопониманию между людьми".

В своей книге "Сингулярность ближе к 2024 году" выдающийся футуролог и предприниматель Рэй Курцвейл анализирует историю развития информационных технологий и приходит к выводу, что "реальность такова, что почти все аспекты жизни становятся все лучше в результате экспоненциального совершенствования технологий". Оглядываясь на грандиозную историю человечества, он приводит такие примеры, как изобретение печатного станка, и утверждает, что по своей природе информационные технологии имеют тенденцию порождать "благотворный круг, способствующий развитию почти всех аспектов человеческого благополучия, включая грамотность, образование, богатство, санитарию, здоровье, демократизацию и снижение уровня насилия".

Наивный взгляд на информацию, пожалуй, наиболее ярко отражен в заявлении о миссии Google: "Организовать мировую информацию и сделать ее универсально доступной и полезной". Ответ Google на предостережения Гете заключается в том, что если один подмастерье, укравший тайную книгу заклинаний своего мастера, скорее всего, приведет к катастрофе, то, получив свободный доступ ко всей мировой информации, множество подмастерьев не только создадут полезные заколдованные метлы, но и научатся обращаться с ними с умом.

GOOGLE ПРОТИВ ГЕТЕ

Следует подчеркнуть, что существует множество случаев, когда наличие большей информации действительно позволяло людям лучше понимать мир и разумнее использовать свои силы. Возьмем, к примеру, резкое снижение детской смертности. Иоганн Вольфганг фон Гете был старшим из семи братьев и сестер, но только он и его сестра Корнелия смогли отпраздновать свой седьмой день рождения. Болезни унесли их брата Германа Якоба в возрасте шести лет, сестру Катарину Элизабет в возрасте четырех лет, сестру Иоганну Марию в возрасте двух лет, брата Георга Адольфа в возрасте восьми месяцев, а пятый, безымянный брат был мертворожденным. Затем Корнелия умерла от болезни в возрасте двадцати шести лет, оставив Иоганна Вольфганга единственным выжившим из их семьи.

У Иоганна Вольфганга фон Гете было пятеро детей, все из которых, кроме старшего сына Августа, умерли в течение двух недель после рождения. По всей вероятности, причиной стала несовместимость групп крови Гете и его жены Кристианы, которая после первой успешной беременности привела к выработке у матери антител к крови плода. Это состояние, известное как резус-болезнь, сегодня лечится настолько эффективно, что смертность составляет менее 2 процентов, но в 1790-х годах смертность составляла в среднем 50 процентов, и для четырех младших детей Гёте это был смертный приговор.

В целом в семье Гете - зажиточной немецкой семье конца XVIII века - выживаемость детей составляла ничтожные 25 процентов. Только трое из двенадцати детей достигали совершеннолетия. Эта ужасающая статистика не была исключительной. По оценкам, в 1797 году, когда Гете писал "Ученика колдуна", лишь около 50 процентов немецких детей достигали пятнадцатилетнего возраста, и то же самое, вероятно, происходило в большинстве других стран мира. К 2020 году 95,6 процента детей во всем мире дожили до пятнадцати лет, а в Германии этот показатель составил 99,5 процента. Это выдающееся достижение было бы невозможно без сбора, анализа и обмена огромным количеством медицинских данных о таких вещах, как группы крови. В данном случае наивный взгляд на информацию оказался верным.

Однако наивный взгляд на информацию видит лишь часть картины, и история современной эпохи была связана не только с сокращением детской смертности. За последние поколения человечество пережило величайший в истории рост как объема, так и скорости производства информации. Каждый смартфон содержит больше информации, чем древняя Александрийская библиотека, и позволяет своему владельцу мгновенно связываться с миллиардами других людей по всему миру. И все же, несмотря на то что информация распространяется с головокружительной скоростью, человечество как никогда близко к самоуничтожению.

Несмотря на накопленные нами данные, а может быть, и благодаря им, мы продолжаем выбрасывать в атмосферу парниковые газы, загрязнять реки и океаны, вырубать леса, уничтожать целые ареалы обитания, доводить до вымирания бесчисленные виды и ставить под угрозу экологические основы нашего собственного вида. Мы также производим все более мощное оружие массового уничтожения - от термоядерных бомб до вирусов Судного дня. Наши лидеры не испытывают недостатка в информации об этих опасностях, но вместо того, чтобы сотрудничать в поисках решений, они все ближе подходят к глобальной войне.

Станет ли еще больше информации лучше или хуже? Скоро мы это узнаем. Многочисленные корпорации и правительства участвуют в гонке за разработку самой мощной информационной технологии в истории - ИИ. Некоторые ведущие предприниматели, например американский инвестор Марк Андреессен, считают, что ИИ наконец-то решит все проблемы человечества. 6 июня 2023 года Андреессен опубликовал эссе под названием "Почему ИИ спасет мир", изобилующее смелыми заявлениями вроде "Я здесь, чтобы сообщить хорошие новости: ИИ не разрушит мир, а, более того, может спасти его" и "ИИ может сделать лучше все, что нас волнует". В заключение он сказал: "Развитие и распространение ИИ - далеко не тот риск, которого мы должны бояться, - это моральный долг, который мы несем перед собой, перед нашими детьми и перед нашим будущим".

Рэй Курцвейл согласен с ним, утверждая в книге "Сингулярность уже близко", что "ИИ - это ключевая технология, которая позволит нам решить стоящие перед нами насущные проблемы, включая преодоление болезней, бедности, деградации окружающей среды и всех наших человеческих слабостей. У нас есть моральный императив - реализовать это обещание новых технологий". Курцвейл прекрасно осознает потенциальные опасности технологии и подробно анализирует их, но считает, что их можно успешно смягчить.

Другие настроены более скептически. Не только философы и социологи, но и многие ведущие эксперты и предприниматели в области ИИ, такие как Йошуа Бенгио, Джеффри Хинтон, Сэм Альтман, Элон Маск и Мустафа Сулейман, предупреждают общественность о том, что ИИ может уничтожить нашу цивилизацию. В статье, опубликованной в 2024 году в соавторстве с Бенджио, Хинтоном и другими экспертами, отмечается, что "бесконтрольное развитие ИИ может привести к масштабной гибели людей и биосферы, маргинализации или даже вымиранию человечества". В опросе, проведенном в 2023 году среди 2 778 исследователей ИИ, более трети дали хотя бы 10-процентную вероятность того, что развитый ИИ приведет к таким же последствиям, как и вымирание человечества. В 2023 году около тридцати правительств, включая правительства Китая, США и Великобритании, подписали Блетчлискую декларацию по ИИ, в которой признали, что "существует потенциал для нанесения серьезного, даже катастрофического вреда, преднамеренного или непреднамеренного, исходящего от наиболее значительных возможностей этих моделей ИИ". Используя такие апокалиптические термины, эксперты и правительства не хотят вызвать в воображении голливудский образ роботов-убийц, которые бегают по улицам и расстреливают людей. Такой сценарий маловероятен, и он просто отвлекает людей от реальных опасностей. Скорее, эксперты предупреждают о двух других сценариях.

Во-первых, мощь ИИ может усилить существующие человеческие конфликты, разделив человечество против него самого. Как в двадцатом веке "железный занавес" разделял соперничающие державы в холодной войне, так и в двадцать первом веке "кремниевый занавес", сделанный из кремниевых чипов и компьютерных кодов, а не из колючей проволоки, может разделить соперничающие державы в новом глобальном конфликте. Поскольку гонка вооружений ИИ будет создавать все более разрушительное оружие, даже маленькая искра может привести к катаклизмическому взрыву.

Во-вторых, "силиконовый занавес" может отделить не одну группу людей от другой, а всех людей от наших новых владык ИИ. Где бы мы ни жили, мы можем оказаться в паутине непостижимых алгоритмов, которые управляют нашей жизнью, формируют нашу политику и культуру и даже перестраивают наши тела и сознание, в то время как мы уже не можем понять, что за силы управляют нами, не говоря уже о том, чтобы остановить их. Если тоталитарной сети XXI века удастся завоевать мир, ею может управлять не человек-диктатор, а нечеловеческий интеллект. Люди, которые выделяют Китай, Россию или постдемократические Соединенные Штаты в качестве основного источника тоталитарных кошмаров, неправильно понимают опасность. На самом деле тоталитарный потенциал нечеловеческого интеллекта угрожает и китайцам, и русским, и американцам, и всем остальным людям.

Учитывая масштабы опасности, ИИ должен интересовать всех людей. Хотя не каждый может стать экспертом в области ИИ, мы все должны помнить, что ИИ - это первая в истории технология, которая может самостоятельно принимать решения и создавать новые идеи. Все предыдущие изобретения человека расширяли его возможности, потому что, каким бы мощным ни был новый инструмент, решения о его использовании всегда оставались в наших руках. Ножи и бомбы сами не решают, кого убивать. Это тупые инструменты, не обладающие интеллектом, необходимым для обработки информации и принятия самостоятельных решений. ИИ, напротив, обладает необходимым интеллектом, чтобы самостоятельно обрабатывать информацию и, следовательно, заменить человека в принятии решений.

Овладение информацией также позволяет ИИ самостоятельно генерировать новые идеи в самых разных областях - от музыки до медицины. Граммофоны воспроизводят нашу музыку, а микроскопы раскрывают секреты наших клеток, но граммофоны не могут сочинять новые симфонии, а микроскопы - синтезировать новые лекарства. ИИ уже способен самостоятельно создавать произведения искусства и совершать научные открытия. В ближайшие несколько десятилетий он, вероятно, обретет способность даже создавать новые формы жизни, либо написав генетический код, либо придумав неорганический код, оживляющий неорганические существа.

Даже сейчас, на эмбриональной стадии революции ИИ, компьютеры уже принимают за нас решения - выдать ли нам ипотечный кредит, взять ли нас на работу, отправить ли в тюрьму. Эта тенденция будет только усиливаться и ускоряться, усложняя понимание нашей собственной жизни. Можем ли мы доверить компьютерным алгоритмам принимать мудрые решения и создавать лучший мир? Это гораздо большая авантюра, чем доверить заколдованной метле принести воду. И мы ставим на карту не только человеческие жизни. ИИ может изменить ход не только истории нашего вида, но и эволюции всех форм жизни.

ИСПОЛЬЗОВАНИЕ ИНФОРМАЦИИ В КАЧЕСТВЕ ОРУЖИЯ

В 2016 году я опубликовал книгу Homo Deus, в которой рассказал о некоторых опасностях, которые несут человечеству новые информационные технологии. В этой книге утверждалось, что настоящим героем истории всегда была информация, а не Homo sapiens, и что ученые все чаще понимают не только историю, но и биологию, политику и экономику в терминах информационных потоков. Животные, государства и рынки - все это информационные сети, поглощающие данные из окружающей среды, принимающие решения и выдающие их обратно. Книга предупреждает, что, хотя мы надеемся, что более совершенные информационные технологии дадут нам здоровье, счастье и власть, на самом деле они могут отнять у нас власть и разрушить как наше физическое, так и психическое здоровье. Homo Deus предположил, что если люди не будут осторожны, мы растворимся в потоке информации, как ком земли в стремительной реке, и в грандиозной схеме вещей человечество окажется лишь рябью в космическом потоке данных.

За годы, прошедшие с момента выхода книги Homo Deus, темпы изменений только ускорились, и власть действительно переходит от людей к алгоритмам. Многие из сценариев, которые в 2016 году казались научной фантастикой, - например, алгоритмы, способные создавать произведения искусства, маскироваться под людей, принимать за нас важнейшие жизненные решения и знать о нас больше, чем мы сами о себе, - в 2024 году станут повседневной реальностью.

С 2016 года изменилось и многое другое. Усилился экологический кризис, обострилась международная напряженность, а популистская волна подорвала сплоченность даже самых крепких демократий. Популизм также бросил радикальный вызов наивному взгляду на информацию. Популистские лидеры, такие как Дональд Трамп и Жаир Болсонару, а также популистские движения и теории заговора, такие как QAnon и антивакцинаторы, утверждают, что все традиционные институты, которые получают авторитет, заявляя, что собирают информацию и открывают истину, просто лгут. Бюрократы, судьи, врачи, журналисты и академические эксперты - это элитные кабалы, которые не заинтересованы в правде и намеренно распространяют дезинформацию, чтобы получить власть и привилегии за счет "народа". Возникновение таких политиков, как Трамп, и таких движений, как QAnon, имеет особый политический контекст, уникальный для условий США конца 2010-х годов. Но популизм как антиистеблишментское мировоззрение возник задолго до Трампа и актуален во многих других исторических контекстах сейчас и в будущем. В двух словах, популизм рассматривает информацию как оружие.

Популистский взгляд на информацию

В своих крайних версиях популизм утверждает, что объективной истины вообще не существует и что у каждого есть "своя правда", которой он пользуется для победы над соперниками. Согласно этому мировоззрению, власть - единственная реальность. Все социальные взаимодействия - это борьба за власть, потому что людей интересует только власть. Притязания на то, что их интересует что-то другое - истина или справедливость, - не более чем уловка для получения власти. Когда и где бы популизм ни преуспел в распространении взгляда на информацию как на оружие, сам язык оказывается подорванным. Такие существительные, как "факты", и такие прилагательные, как "точный" и "правдивый", становятся неуловимыми. Такие слова не воспринимаются как указание на общую объективную реальность. Напротив, любой разговор о "фактах" или "правде" неизбежно вызовет у некоторых людей вопрос: "Чьи факты и чью правду вы имеете в виду?"

Следует подчеркнуть, что такой ориентированный на власть и глубоко скептический взгляд на информацию - явление не новое, и придумали его не антивакцинаторы, не сторонники плоского Земли, не болсонаристы и не сторонники Трампа. Подобные взгляды распространялись задолго до 2016 года, в том числе некоторыми из самых ярких умов человечества. Например, в конце XX века леворадикальные интеллектуалы, такие как Мишель Фуко и Эдвард Саид, утверждали, что научные учреждения, такие как клиники и университеты, не преследуют вечные и объективные истины, а используют власть для определения того, что считать истиной, на службе у капиталистических и колониальных элит. Эти радикальные критики иногда доходили до утверждения, что "научные факты" - это не более чем капиталистический или колониальный "дискурс" и что люди, стоящие у власти, никогда не могут быть по-настоящему заинтересованы в истине, и им нельзя доверять признавать и исправлять свои собственные ошибки.

Это направление леворадикального мышления восходит к Карлу Марксу, который в середине XIX века утверждал, что власть - это единственная реальность, что информация - это оружие, а элиты, заявляющие, что служат истине и справедливости, на самом деле преследуют узкоклассовые привилегии. В "Коммунистическом манифесте" 1848 года говорится: "История всех до сих пор существовавших обществ - это история классовой борьбы. Свободный человек и раб, патриций и плебей, господин и крепостной, гильдмастер и подмастерье, одним словом, угнетатель и угнетенный постоянно противостояли друг другу, вели непрерывную, то скрытую, то открытую борьбу". Такая бинарная интерпретация истории подразумевает, что каждое человеческое взаимодействие - это борьба за власть между угнетателями и угнетенными. Соответственно, когда кто-то что-то говорит, нужно задавать не вопрос: "Что говорят? Правда ли это?", а скорее "Кто это говорит? Чьим привилегиям это служит?".

Конечно, правые популисты, такие как Трамп и Болсонаро, вряд ли читали Фуко или Маркса и, более того, представляют себя ярыми антимарксистами. Они также сильно отличаются от марксистов в своих предложениях по политике в таких областях, как налогообложение и социальное обеспечение. Но их основной взгляд на общество и информацию удивительно марксистский, рассматривающий все человеческие взаимоотношения как борьбу за власть между угнетателями и угнетенными. Например, в своей инаугурационной речи в 2017 году Трамп заявил, что "небольшая группа в столице нашей страны пожинает плоды правления, в то время как народ несет все расходы". Подобная риторика является основной чертой популизма, который политолог Кас Мадде назвал "идеологией, считающей, что общество в конечном итоге разделено на две однородные и антагонистические группы - "чистый народ" против "коррумпированной элиты". "Подобно тому, как марксисты утверждали, что СМИ функционируют как рупор капиталистического класса, а научные учреждения, такие как университеты, распространяют дезинформацию, чтобы увековечить капиталистический контроль, популисты обвиняют эти же учреждения в том, что они работают на благо "коррумпированной элиты" за счет "народа".

Современные популисты также страдают от той же несвязности, что и радикальные антиистеблишментные движения предыдущих поколений. Если власть - единственная реальность, а информация - всего лишь оружие, то что это значит о самих популистах? Не слишком ли они заинтересованы только во власти и не слишком ли они лгут нам, чтобы получить власть?

Популисты пытались выйти из этого затруднительного положения двумя разными способами. Некоторые популистские движения заявляют о приверженности идеалам современной науки и традициям скептического эмпиризма. Они говорят людям, что на самом деле никогда не следует доверять никаким институтам или авторитетным фигурам - включая самопровозглашенные популистские партии и политиков. Вместо этого вы должны "проводить собственные исследования" и доверять только тому, что можете непосредственно наблюдать сами. Эта радикальная эмпирическая позиция подразумевает, что, хотя крупным институтам, таким как политические партии, суды, газеты и университеты, доверять нельзя, люди, прилагающие усилия, все же могут найти правду самостоятельно.

Такой подход может показаться научным и понравится свободолюбивым людям, но он оставляет открытым вопрос о том, как человеческие сообщества могут сотрудничать для создания систем здравоохранения или принятия экологических норм, которые требуют масштабной институциональной организации. Способен ли один человек провести все необходимые исследования, чтобы решить, нагревается ли климат Земли и что с этим делать? Как одному человеку собрать данные о климате по всему миру, не говоря уже о получении достоверных записей за прошлые века? Доверие только к "собственным исследованиям" может показаться научным, но на практике это равносильно вере в то, что объективной истины не существует. Как мы увидим в главе 4, наука - это совместная институциональная работа, а не личный поиск.

Альтернативное популистское решение - отказаться от современного научного идеала поиска истины с помощью "исследований" и вернуться к божественному откровению или мистицизму. Традиционные религии, такие как христианство, ислам и индуизм, обычно характеризуют людей как не заслуживающих доверия властолюбивых существ, которые могут получить доступ к истине только благодаря вмешательству божественного разума. В 2010-х и начале 2020-х годов популистские партии от Бразилии до Турции и от США до Индии присоединились к таким традиционным религиям. Они выражают радикальное сомнение в современных институтах, заявляя при этом о полной вере в древние писания. Популисты утверждают, что статьи, которые вы читаете в The New York Times или в журнале Science, - это всего лишь уловка элиты, направленная на получение власти, а то, что вы читаете в Библии, Коране или Ведах, - абсолютная истина.

Вариация на эту тему призывает людей довериться харизматическим лидерам, таким как Трамп и Болсонаро, которых их сторонники изображают либо посланниками Бога, либо обладающими мистической связью с "народом". В то время как обычные политики лгут народу, чтобы добиться власти для себя, харизматический лидер является непогрешимым глашатаем народа, который разоблачает всю ложь. Один из повторяющихся парадоксов популизма заключается в том, что он начинает с предупреждения о том, что всеми человеческими элитами движет опасная жажда власти, но часто заканчивает тем, что доверяет всю власть одному амбициозному человеку.

Более подробно мы рассмотрим популизм в главе 5, но сейчас важно отметить, что популисты подрывают доверие к масштабным институтам и международному сотрудничеству именно тогда, когда человечество сталкивается с экзистенциальными проблемами экологического коллапса, глобальной войны и вышедших из-под контроля технологий. Вместо того чтобы доверять сложным человеческим институтам, популисты дают нам тот же совет, что и в мифе о Фаэтоне и "Ученике колдуна": "Доверьтесь Богу или великому волшебнику, который вмешается и снова все сделает правильно". Если мы последуем этому совету, то, скорее всего, в краткосрочной перспективе окажемся под властью худшего вида жаждущих власти людей, а в долгосрочной - под властью новых владык ИИ. Или же мы вообще окажемся нигде, поскольку Земля станет негостеприимной для жизни людей.

Если мы хотим избежать передачи власти харизматичному лидеру или непостижимому искусственному интеллекту, мы должны сначала лучше понять, что такое информация, как она помогает строить человеческие сети и как она связана с истиной и властью. Популисты правы, когда с подозрением относятся к наивному взгляду на информацию, но они ошибаются, когда думают, что власть - это единственная реальность и что информация - это всегда оружие. Информация не является сырьем для истины, но она также не является и простым оружием. Между этими крайностями есть достаточно места для более тонкого и обнадеживающего взгляда на человеческие информационные сети и на нашу способность разумно распоряжаться властью. Эта книга посвящена исследованию этой середины.

ПУТЬ ВПЕРЕД

В первой части этой книги рассматривается историческое развитие человеческих информационных сетей. В ней нет попытки представить исчерпывающее описание информационных технологий, таких как письменность, печатные станки и радио, от века к веку. Вместо этого на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались люди во все эпохи, пытаясь создать информационные сети, и анализируется, как различные ответы на эти дилеммы формировали контрастные человеческие общества. То, что мы обычно считаем идеологическими и политическими конфликтами, часто оказывается столкновениями между противоположными типами информационных сетей.

Часть 1 начинается с рассмотрения двух принципов, которые были важны для масштабных человеческих информационных сетей: мифологии и бюрократии. В главах 2 и 3 описывается, как крупные информационные сети - от древних королевств до современных государств - опирались как на мифотворцев, так и на бюрократов. Например, библейские истории были важны для христианской церкви, но Библии не было бы, если бы церковные бюрократы не курировали, не редактировали и не распространяли эти истории. Сложная дилемма для каждой человеческой сети заключается в том, что создатели мифов и бюрократы тянут в разные стороны. Институты и общества часто определяются балансом, который им удается найти между противоречивыми потребностями мифотворцев и бюрократов. Сама христианская церковь разделилась на конкурирующие церкви, такие как католическая и протестантская, которые по-разному балансировали между мифологией и бюрократией.

Глава 4 посвящена проблеме ошибочной информации, а также преимуществам и недостаткам существования механизмов самокоррекции, таких как независимые суды или рецензируемые журналы. В главе противопоставляются институты, полагающиеся на слабые механизмы самокоррекции, например католическая церковь, и институты, развившие сильные механизмы самокоррекции, например научные дисциплины. Слабые механизмы самокоррекции иногда приводят к историческим катаклизмам, таким как европейские охоты на ведьм раннего нового времени, в то время как сильные механизмы самокоррекции иногда дестабилизируют сеть изнутри. Если судить по продолжительности существования, распространению и силе, то католическая церковь была, возможно, самым успешным институтом в истории человечества, несмотря на относительную слабость механизмов самокоррекции - а может быть, и благодаря ей.

После того как в первой части были рассмотрены роли мифологии и бюрократии, а также контраст между сильными и слабыми механизмами самокоррекции, глава 5 завершает историческую дискуссию, сосредоточившись на другом контрасте - между распределенными и централизованными информационными сетями. Демократические системы позволяют информации свободно распространяться по множеству независимых каналов, в то время как тоталитарные системы стремятся сконцентрировать информацию в одном узле. У каждого варианта есть как преимущества, так и недостатки. Понимание таких политических систем, как США и СССР, с точки зрения информационных потоков может многое объяснить в их различных траекториях развития.

Эта историческая часть книги крайне важна для понимания современных событий и будущих сценариев. Возникновение ИИ - это, пожалуй, крупнейшая информационная революция в истории. Но мы не сможем понять ее, если не сравним с ее предшественниками. История - это не изучение прошлого, это изучение изменений. История учит нас тому, что остается неизменным, что меняется и как все меняется. Это относится как к информационным революциям, так и к любым другим видам исторических преобразований. Так, понимание процесса, в ходе которого якобы непогрешимая Библия была канонизирована, дает ценное представление о современных претензиях на непогрешимость ИИ. Аналогичным образом, изучение охоты на ведьм в ранние времена и сталинской коллективизации дает суровое предупреждение о том, что может пойти не так, когда мы предоставляем ИИ больший контроль над обществами XXI века. Глубокое знание истории также необходимо для того, чтобы понять, что нового в ИИ, чем он принципиально отличается от печатного станка и радиоприемника и в чем конкретно будущая диктатура ИИ может быть совершенно не похожа на то, что мы видели раньше.

В книге не утверждается, что изучение прошлого позволяет нам предсказывать будущее. Как неоднократно подчеркивается на последующих страницах, история не детерминирована, и будущее будет зависеть от того, какой выбор мы все сделаем в ближайшие годы. Смысл написания этой книги заключается в том, что, делая осознанный выбор, мы можем предотвратить худшие последствия. Если мы не можем изменить будущее, зачем тратить время на его обсуждение?

Опираясь на исторический обзор первой части, вторая часть книги - "Неорганическая сеть" - рассматривает новую информационную сеть, которую мы создаем сегодня, фокусируясь на политических последствиях развития ИИ. В главах 6-8 рассматриваются недавние примеры из разных стран мира - например, роль алгоритмов социальных сетей в разжигании этнического насилия в Мьянме в 2016-17 годах, - чтобы объяснить, чем ИИ отличается от всех предыдущих информационных технологий. Примеры взяты в основном из 2010-х, а не из 2020-х годов, поскольку мы получили небольшую историческую перспективу событий 2010-х годов.

В части 2 утверждается, что мы создаем совершенно новый тип информационной сети, не задумываясь о его последствиях. В ней подчеркивается переход от органических к неорганическим информационным сетям. Римская империя, католическая церковь и СССР - все они опирались на углеродные мозги для обработки информации и принятия решений. Компьютеры на основе кремния, которые доминируют в новой информационной сети, функционируют радикально иначе. К лучшему или худшему, кремниевые чипы свободны от многих ограничений, которые органическая биохимия накладывает на углеродные нейроны. Кремниевые чипы могут создавать шпионов, которые никогда не спят, финансистов, которые никогда не забывают, и деспотов, которые никогда не умирают. Как это изменит общество, экономику и политику?

В третьей, заключительной части книги - "Компьютерная политика" - рассматривается вопрос о том, как различные типы обществ могут справиться с угрозами и обещаниями неорганической информационной сети. Есть ли у углеродных форм жизни, таких как мы, шанс понять и контролировать новую информационную сеть? Как уже отмечалось выше, история не детерминирована, и еще как минимум несколько лет мы, сапиенсы, можем определять свое будущее.

Соответственно, в главе 9 рассматривается вопрос о том, как демократии могут справиться с неорганической сетью. Как, например, политики из плоти и крови могут принимать финансовые решения, если финансовая система все больше контролируется искусственным интеллектом, а само значение денег зависит от непостижимых алгоритмов? Как демократии смогут поддерживать общественный разговор о чем бы то ни было - будь то финансы или гендер, - если мы больше не можем знать, говорим ли мы с другим человеком или с чатботом, маскирующимся под человека?

В главе 10 рассматривается потенциальное влияние неорганической сети на тоталитаризм. Хотя диктаторы были бы рады избавиться от всех публичных разговоров, у них есть свои собственные страхи перед ИИ. Автократии основаны на терроре и цензуре своих агентов. Но как человеческий диктатор может терроризировать ИИ, подвергнуть цензуре его непостижимые процессы или помешать ему захватить власть в свои руки?

Наконец, в главе 11 рассматривается, как новая информационная сеть может повлиять на баланс сил между демократическими и тоталитарными обществами на глобальном уровне. Сможет ли ИИ склонить баланс в пользу одного из лагерей? Расколется ли мир на враждебные блоки, соперничество которых сделает всех нас легкой добычей для вышедшего из-под контроля ИИ? Или мы сможем объединиться, защищая наши общие интересы?

Но прежде чем мы изучим прошлое, настоящее и возможное будущее информационных сетей, нам нужно начать с обманчиво простого вопроса. Что именно представляет собой информация?

ЧАСТЬ

I

.

Человеческие сети

.

ГЛАВА 1.

Что такое информация?

Сложно дать определение фундаментальным понятиям. Поскольку они являются основой для всего, что за ними следует, сами они, кажется, не имеют никакой собственной основы. Физикам трудно дать определение материи и энергии, биологам - жизни, а философам - реальности.

Информация все чаще рассматривается многими философами и биологами, и даже некоторыми физиками, как самый основной строительный блок реальности, более элементарный, чем материя и энергия. Неудивительно, что существует множество споров о том, как определить информацию и как она связана с эволюцией жизни или с основными идеями физики, такими как энтропия, законы термодинамики и квантовый принцип неопределенности. Эта книга не пытается разрешить или даже объяснить эти споры, и не предлагает универсального определения информации, применимого к физике, биологии и всем другим областям знаний. Поскольку это исторический труд, изучающий прошлое и будущее развитие человеческих обществ, основное внимание в нем будет уделено определению и роли информации в истории.

В повседневном обиходе информация ассоциируется с человеческими символами, такими как устные или письменные слова. Рассмотрим, например, историю о Шер Ами и потерянном батальоне. В октябре 1918 года, когда Американские экспедиционные силы сражались за освобождение северной Франции от немцев, батальон из более чем пятисот американских солдат оказался в ловушке в тылу врага. Американская артиллерия, пытавшаяся прикрыть их огнем, неправильно определила их местоположение и обрушила шквал огня прямо на них. Командиру батальона майору Чарльзу Уиттлси срочно нужно было сообщить в штаб о своем истинном местонахождении, но ни один бегун не мог прорваться через немецкую линию. По некоторым данным, в качестве последнего средства Уиттлси обратился к Шер Ами, армейскому почтовому голубю. На крошечном клочке бумаги Уиттлси написал: "Мы находимся вдоль дороги 276. Наша артиллерия ведет заградительный огонь прямо по нам. Ради всего святого, прекратите это". Бумага была вставлена в канистру на правой ноге Шер Ами, и птица была выпущена в воздух. Один из солдат батальона, рядовой Джон Нелл, вспоминал много лет спустя: "Мы знали, что это, без сомнения, наш последний шанс. Если этот одинокий, испуганный голубь не найдет свое гнездо, наша судьба будет предрешена".

Позднее очевидцы рассказывали, как Шер Ами влетел под сильный немецкий огонь. Снаряд разорвался прямо под птицей, убив пятерых человек и тяжело ранив голубя. Осколок пробил грудь Шер Ами, а его правая нога осталась висеть на сухожилии. Но он выкарабкался. Раненый голубь пролетел сорок километров до штаба дивизии примерно за сорок пять минут, а канистра с важным сообщением была прикреплена к остатку его правой ноги. Хотя точные детали и вызывают некоторые споры, ясно, что американская артиллерия скорректировала свой обстрел, и американская контратака спасла "Потерянный батальон". Шер Ами был выхажен армейскими медиками, отправлен в США как герой и стал предметом многочисленных статей, рассказов, детских книг, стихов и даже фильмов. Голубь не знал, какую информацию он передает, но символы, начертанные на листке бумаги, который он нес, помогли спасти сотни людей от смерти и плена.

Информация, однако, не обязательно должна состоять из символов, созданных человеком. Согласно библейскому мифу о потопе, Ной узнал, что вода наконец отступила, потому что голубь, которого он послал из ковчега, вернулся с оливковой ветвью во рту. После этого Бог установил в облаках радугу как небесное свидетельство своего обещания никогда больше не затоплять землю. С тех пор голуби, оливковые ветви и радуга стали знаковыми символами мира и терпимости. Еще более отдаленные объекты, чем радуга, также могут нести информацию. Для астрономов форма и движение галактик - важнейшая информация об истории Вселенной. Для навигаторов Полярная звезда указывает, в какой стороне находится север. Для астрологов звезды - это космический сценарий, передающий информацию о будущем отдельных людей и целых обществ.

Конечно, определение понятия "информация" - это вопрос перспективы. Астроном или астролог может рассматривать созвездие Весов как "информацию", но эти далекие звезды - нечто большее, чем просто доска объявлений для человеческих наблюдателей. Возможно, там живет инопланетная цивилизация, совершенно не обращающая внимания на информацию, которую мы получаем из их дома, и на истории, которые мы о нем рассказываем. Точно так же лист бумаги, испещренный чернильными пятнами, может быть важной информацией для армейского подразделения или обедом для семьи термитов. Любой предмет может быть информацией - или не быть ею. Это затрудняет определение того, что такое информация.

Амбивалентность информации сыграла важную роль в летописи военного шпионажа, когда шпионам требовалось скрытно передавать информацию. Во время Первой мировой войны Северная Франция была не единственным крупным полем боя. С 1915 по 1918 год Британская и Османская империи боролись за контроль над Ближним Востоком. Отбив османскую атаку на Синайский полуостров и Суэцкий канал, британцы вторглись в Османскую империю, но до октября 1917 года их сдерживала укрепленная османская линия, протянувшаяся от Беершебы до Газы. Попытки британцев прорваться через нее были отбиты в Первой битве за Газу (26 марта 1917 года) и Второй битве за Газу (17-19 апреля 1917 года). Тем временем пробританские евреи, жившие в Палестине, создали шпионскую сеть под кодовым названием NILI, чтобы информировать британцев о передвижениях османских войск. Один из методов, который они разработали для связи со своими британскими операторами, - это оконные ставни. У Сары Ааронсон, командира NILI, был дом с видом на Средиземное море. Она подавала сигналы британским кораблям, закрывая или открывая определенные ставни в соответствии с заранее установленным кодом. Многие люди, включая османских солдат, могли видеть ставни, но никто, кроме агентов НИЛИ и их британских операторов, не понимал, что это жизненно важная военная информация. Итак, когда ставни - это просто ставни, а когда - информация?

Османы в конце концов поймали шпионскую сеть NILI, отчасти благодаря странному казусу. Помимо ставней, NILI использовала почтовых голубей для передачи закодированных сообщений. 3 сентября 1917 года один из голубей отклонился от курса и приземлился в доме османского офицера. Офицер нашел закодированное сообщение, но не смог его расшифровать. Тем не менее, сам голубь был важнейшей информацией. Его существование указывало османам на то, что у них под носом действует шпионская сеть. Как сказал бы Маршалл Маклюэн, голубь был сообщением. Агенты NILI, узнав о поимке голубя, немедленно убили и закопали всех оставшихся птиц, потому что само обладание почтовыми голубями теперь было инкриминирующей информацией. Но массовое уничтожение голубей не спасло NILI. Через месяц шпионская сеть была раскрыта, несколько ее членов казнены, а Сара Ааронсон покончила с собой, чтобы не разглашать секреты NILI под пытками. Когда голубь - это просто голубь, а когда - информация?

Таким образом, очевидно, что информация не может быть определена как конкретный тип материальных объектов. Любой объект - звезда, затвор, голубь - может быть информацией в правильном контексте. Так какой именно контекст определяет такие объекты как "информацию"? Наивный взгляд на информацию утверждает, что объекты определяются как информация в контексте поиска истины. Нечто является информацией, если люди используют его для того, чтобы попытаться узнать истину. Этот взгляд связывает понятие информации с понятием истины и предполагает, что главная роль информации - представлять реальность. Существует реальность "снаружи", а информация - это то, что представляет эту реальность и что мы можем использовать, чтобы узнать о ней. Например, информация, которую NILI предоставил британцам, должна была представлять реальность передвижения османских войск. Если османы сосредоточили десять тысяч солдат в Газе - центральной точке своей обороны, - то лист бумаги с символами "десять тысяч" и "Газа" был важной информацией, которая могла помочь британцам выиграть битву. С другой стороны, если в Газе на самом деле находилось двадцать тысяч османских солдат, то бумажка не совсем точно отражала реальность и могла привести британцев к катастрофической военной ошибке.

Другими словами, наивный взгляд утверждает, что информация - это попытка представить реальность, и когда эта попытка удается, мы называем ее истиной. Несмотря на то, что в этой книге много вопросов к наивной точке зрения, она согласна с тем, что истина - это точное представление реальности. Но эта книга также утверждает, что большая часть информации не является попыткой представить реальность и что то, что определяет информацию, - это нечто совершенно иное. Большая часть информации в человеческом обществе, да и в других биологических и физических системах, ничего не представляет.

Я хочу немного задержаться на этом сложном и важном аргументе, поскольку он составляет теоретическую основу книги.

ЧТО ТАКОЕ ИСТИНА?

В этой книге под "истиной" понимается то, что точно отражает определенные аспекты реальности. В основе понятия истины лежит предпосылка, что существует одна универсальная реальность. Все, что когда-либо существовало или будет существовать во Вселенной - от Полярной звезды до голубя НИЛИ и веб-страниц по астрологии, - является частью этой единой реальности. Вот почему поиск истины - это универсальный проект. Хотя разные люди, нации или культуры могут иметь противоречивые убеждения и чувства, они не могут обладать противоречивыми истинами, потому что все они разделяют универсальную реальность. Тот, кто отвергает универсализм, отвергает истину.

Истина и реальность - это все же разные вещи, потому что каким бы правдивым ни был рассказ, он никогда не сможет отразить реальность во всех ее аспектах. Если агент NILI написал, что в Газе десять тысяч османских солдат, и там действительно было десять тысяч солдат, это точно указало на определенный аспект реальности, но пренебрегло многими другими аспектами. Сам акт подсчета объектов - будь то яблоки, апельсины или солдаты - неизбежно привлекает внимание к сходству между этими объектами, отбрасывая различия. Например, говоря только о том, что в Газе десять тысяч османских солдат, вы не уточняете, были ли среди них опытные ветераны, а другие - зеленые новобранцы. Если в армии было тысяча новобранцев и девять тысяч "старых рук", то военная реальность была совсем иной, чем если бы в ней было девять тысяч новичков и тысяча закаленных в боях ветеранов.

Между солдатами было много других различий. Одни были здоровыми, другие - больными. Одни османские солдаты были этническими турками, другие - арабами, курдами или евреями. Одни были храбрыми, другие трусливыми. Действительно, каждый солдат был уникальным человеком, с разными родителями и друзьями, с индивидуальными страхами и надеждами. Поэты Первой мировой войны, такие как Уилфред Оуэн, знаменито пытались отобразить эти последние аспекты военной реальности, которые простая статистика никогда не передавала точно. Значит ли это, что слова "десять тысяч солдат" всегда искажают реальность и что для описания военной ситуации вокруг Газы в 1917 году необходимо указать уникальную историю и личность каждого солдата?

Еще одна проблема любой попытки представить реальность заключается в том, что реальность содержит множество точек зрения. Например, современные израильтяне, палестинцы, турки и британцы по-разному смотрят на британское вторжение в Османскую империю, подполье НИЛИ и деятельность Сары Ааронсон. Это, конечно, не означает, что существует несколько совершенно отдельных реальностей или что не существует исторических фактов. Есть только одна реальность, но она сложна.

Реальность включает в себя объективный уровень с объективными фактами, которые не зависят от убеждений людей; например, объективным фактом является то, что Сара Ааронсон умерла 9 октября 1917 года от самострела. Сказать, что "Сара Ааронсон погибла в авиакатастрофе 15 мая 1919 года", - ошибка.

Реальность также включает в себя субъективный уровень с субъективными фактами, такими как убеждения и чувства различных людей, но и в этом случае факты можно отделить от ошибок. Например, факт, что израильтяне склонны считать Ааронсон патриотическим героем. Через три недели после ее самоубийства информация, предоставленная НИЛИ, помогла британцам окончательно прорвать линию Османской империи в битве при Беершебе (31 октября 1917 года) и Третьей битве при Газе (1-2 ноября 1917 года). 2 ноября 1917 года министр иностранных дел Великобритании Артур Бальфур опубликовал Декларацию Бальфура, в которой объявил, что британское правительство "благосклонно относится к созданию в Палестине национального дома для еврейского народа". Израильтяне отчасти ставят это в заслугу NILI и Саре Ааронсон, которой они восхищаются за ее самопожертвование. Другое дело, что палестинцы оценивают ситуацию совершенно иначе. Вместо того чтобы восхищаться Ааронсон, они считают ее - если они вообще слышали о ней - агентом империалистов. Несмотря на то что мы имеем дело с субъективными мнениями и чувствами, мы все же можем отличить правду от лжи. Ведь взгляды и чувства - так же, как звезды и голуби, - являются частью универсальной реальности. Сказать, что "Сарой Ааронсон все восхищаются за ее роль в разгроме Османской империи", - это ошибка, не соответствующая действительности.

Национальность - не единственное, что влияет на точку зрения людей. Израильские мужчины и израильские женщины могут видеть Ааронсон по-разному, так же как и левые и правые, ортодоксальные и светские евреи. Поскольку самоубийство запрещено еврейским религиозным законом, ортодоксальным евреям трудно воспринимать самоубийство Ааронсон как героический поступок (ей фактически отказали в погребении на освященной земле еврейского кладбища). В конечном счете, у каждого человека свой взгляд на мир, сформированный пересечением различных личностей и жизненных историй. Означает ли это, что, когда мы хотим описать реальность, мы должны обязательно перечислить все различные точки зрения, которые она содержит, и что правдивая биография Сары Ааронсон, например, должна указать, как каждый израильтянин и палестинец относился к ней?

Если дойти до крайности, то стремление к точности может привести нас к попыткам представить мир в масштабе один к одному, как в знаменитом рассказе Хорхе Луиса Борхеса "О точности в науке" (1946). В этом рассказе Борхес повествует о вымышленной древней империи, которая была одержима идеей создания все более точных карт своей территории, пока в конце концов не создала карту с масштабом один к одному. Вся империя была покрыта картой империи. На этот амбициозный репрезентативный проект было потрачено так много ресурсов, что империя рухнула. После этого карта тоже начала разрушаться, и Борхес рассказывает, что только "в западных пустынях еще можно найти рваные фрагменты карты, на которых иногда укрываются звери или нищие". Карта в масштабе один к одному может выглядеть как высшее представление реальности, но, что показательно, это уже не представление, а реальность.

Дело в том, что даже самые правдивые представления о реальности никогда не могут отразить ее полностью. Всегда есть какие-то аспекты реальности, которые игнорируются или искажаются в любом представлении. Таким образом, истина - это не представление реальности один к одному. Скорее, истина - это то, что привлекает наше внимание к определенным аспектам реальности, неизбежно игнорируя при этом другие аспекты. Ни одно представление о реальности не является стопроцентно точным, но некоторые представления, тем не менее, более правдивы, чем другие.

КАКАЯ ИНФОРМАЦИЯ

Как отмечалось выше, наивный взгляд рассматривает информацию как попытку отобразить реальность. Он осознает, что некоторая информация не очень хорошо отражает реальность, но отбрасывает это как неудачные случаи "дезинформации" или "дезинформации". Дезинформация - это честная ошибка, возникающая, когда кто-то пытается представить реальность, но делает это неправильно. Дезинформация - это преднамеренная ложь, когда кто-то сознательно намерен исказить наше представление о реальности.

Наивная точка зрения также полагает, что решение проблем, вызванных дезинформацией и дезинформированием, заключается в увеличении объема информации. Эта идея, иногда называемая доктриной контрречи, связана с судьей Верховного суда США Луисом Д. Брандейсом, который в деле "Уитни против Калифорнии" (1927) писал, что средством против ложной речи является больше речи и что в долгосрочной перспективе свободная дискуссия обязательно разоблачит ложь и заблуждения. Если вся информация - это попытка отобразить реальность, то по мере роста объема информации в мире мы можем ожидать, что этот поток информации разоблачит случайную ложь и ошибки и в конечном итоге даст нам более правдивое понимание мира.

В этом важнейшем вопросе данная книга категорически не согласна с наивной точкой зрения. Конечно, существуют случаи, когда информация пытается отобразить реальность и преуспевает в этом, но это не является определяющей характеристикой информации. Несколько страниц назад я назвал звезды информацией и вскользь упомянул астрологов наряду с астрономами. Приверженцы наивного взгляда на информацию, вероятно, заерзали в своих креслах, когда прочитали это. Согласно наивному взгляду, астрономы черпают из звезд "настоящую информацию", а информация, которую астрологи воображают, будто читают в созвездиях, - это либо "дезинформация", либо "дезинформация". Если бы людям давали больше информации о Вселенной, они бы, конечно, отказались от астрологии. Но факт остается фактом: на протяжении тысячелетий астрология оказывала огромное влияние на историю, и сегодня миллионы людей по-прежнему сверяют свои звездные знаки перед принятием самых важных решений в своей жизни, например, о том, что изучать и на ком жениться. По состоянию на 2021 год мировой рынок астрологии оценивался в 12,8 миллиарда долларов8.

Что бы мы ни думали о точности астрологической информации, мы должны признать ее важную роль в истории. Она связывала влюбленных и даже целые империи. Римские императоры регулярно консультировались с астрологами перед принятием решений. Астрология пользовалась таким большим уважением, что составление гороскопа правящего императора считалось смертным преступлением. Предположительно, тот, кто составлял такой гороскоп, мог предсказать, когда и как умрет император. Правители некоторых стран до сих пор относятся к астрологии очень серьезно. В 2005 году хунта Мьянмы якобы перенесла столицу страны из Янгона в Нейпьидо, основываясь на астрологических рекомендациях. Теория информации, которая не может учесть историческое значение астрологии, явно неадекватна.

Пример астрологии показывает, что ошибки, ложь, фантазии и вымыслы - это тоже информация. Вопреки наивному представлению об информации, она не имеет никакой существенной связи с истиной, и ее роль в истории заключается не в том, чтобы представлять уже существующую реальность. Напротив, информация создает новые реальности, связывая воедино разрозненные вещи - пары или империи. Ее определяющей чертой является связь, а не представление, а информация - это то, что соединяет различные точки в сеть. Информация не обязательно сообщает нам о вещах. Скорее, она расставляет вещи по местам. Гороскопы ставят влюбленных в астрологические формации, пропагандистские передачи ставят избирателей в политические формации, а марширующие песни ставят солдат в военные формации.

В качестве парадигматического примера можно рассмотреть музыку. Большинство симфоний, мелодий и напевов ничего собой не представляют, поэтому бессмысленно спрашивать, истинны они или ложны. За многие годы люди создали много плохой музыки, но не фальшивой. Не представляя ничего, музыка, тем не менее, делает замечательную работу по объединению большого количества людей и синхронизации их эмоций и движений. Музыка может заставить солдат маршировать в строю, клабберов качаться вместе, церковные прихожане хлопать в ритм, а спортивных болельщиков скандировать в унисон.

Роль информации в соединении вещей, конечно, не уникальна для человеческой истории. Можно утверждать, что это главная роль информации и в биологии. Рассмотрим ДНК, молекулярную информацию, которая делает возможной органическую жизнь. Как и музыка, ДНК не отражает реальность. Хотя поколения зебр убегали от львов, в ДНК зебры вы не найдете ни строки нуклеобаз, обозначающих "лев", ни другой строки, обозначающей "бегство". Точно так же ДНК зебры не содержит никаких представлений о солнце, ветре, дожде или любых других внешних явлениях, с которыми зебры сталкиваются в течение своей жизни. ДНК также не представляет внутренние явления, такие как органы тела или эмоции. В ней нет комбинации нуклеобаз, которая бы обозначала сердце или страх.

Вместо того чтобы пытаться представить уже существующие вещи, ДНК помогает создавать совершенно новые. Например, различные последовательности нуклеобаз ДНК запускают клеточные химические процессы, в результате которых вырабатывается адреналин. Адреналин тоже никак не отражает реальность. Напротив, адреналин циркулирует по телу, инициируя дополнительные химические процессы, которые увеличивают частоту сердечных сокращений и направляют больше крови к мышцам. Таким образом, ДНК и адреналин помогают соединить клетки сердца, клетки мышц ног и триллионы других клеток по всему телу в функционирующую сеть, которая может делать удивительные вещи, например убегать от льва.

Если бы ДНК отражала реальность, мы могли бы задавать вопросы вроде "Отражает ли ДНК зебры реальность точнее, чем ДНК льва?" или "Говорит ли ДНК одной зебры правду о мире, в то время как другую зебру вводит в заблуждение ее поддельная ДНК?". Разумеется, это бессмысленные вопросы. Мы можем оценивать ДНК по пригодности организма, который она производит, но не по правдивости. Хотя принято говорить об "ошибках" ДНК, это относится только к мутациям в процессе копирования ДНК, а не к неспособности точно отобразить реальность. Генетическая мутация, препятствующая выработке адреналина, снижает приспособленность конкретной зебры, в конечном итоге приводя к распаду сети клеток, как это происходит, когда зебру убивает лев и триллионы ее клеток теряют связь друг с другом и распадаются. Но подобный сбой сети означает дезинтеграцию, а не дезинформацию. Это относится к странам, политическим партиям и новостным сетям в той же степени, что и к зебрам.

Важно, что ошибки при копировании ДНК не всегда снижают приспособленность. Изредка они повышают приспособленность. Без таких мутаций не было бы процесса эволюции. Все формы жизни существуют благодаря генетическим "ошибкам". Чудеса эволюции возможны потому, что ДНК не представляет никаких ранее существовавших реальностей; она создает новые реальности.

Давайте сделаем паузу, чтобы осмыслить последствия этого. Информация - это то, что создает новые реальности, соединяя различные точки в сеть. Это все еще включает в себя взгляд на информацию как на репрезентацию. Иногда правдивое отображение реальности может объединить людей, как, например, в июле 1969 года, когда 600 миллионов человек прильнули к телевизорам, наблюдая за прогулкой Нила Армстронга и Базза Олдрина по Луне. Изображения на экранах точно отображали происходящее на расстоянии 384 000 километров, и их просмотр вызывал чувства благоговения, гордости и человеческого братства, которые помогали объединить людей.

Однако такие братские чувства могут возникать и другими способами. Акцент на связи оставляет достаточно места для других типов информации, которые плохо отражают реальность. Иногда ошибочные представления реальности могут служить социальным связующим звеном, как, например, когда миллионы последователей теории заговора смотрят на YouTube видео, утверждающее, что высадки на Луну не было. Эти изображения передают ошибочное представление о реальности, но, тем не менее, они могут вызвать чувство гнева против истеблишмента или гордости за собственную мудрость, что помогает создать сплоченную новую группу.

Иногда сети могут быть соединены без какой-либо попытки представить реальность, ни точную, ни ошибочную, как, например, когда генетическая информация соединяет триллионы клеток или когда волнующее музыкальное произведение соединяет тысячи людей.

В качестве последнего примера рассмотрим видение Марком Цукербергом метавселенной. Метавселенная - это виртуальная вселенная, полностью состоящая из информации. В отличие от карты "один к одному", построенной воображаемой империей Хорхе Луиса Борхеса, Метавселенная - это не попытка представить наш мир, а скорее попытка дополнить или даже заменить его. Она не предлагает нам цифровую копию Буэнос-Айреса или Солт-Лейк-Сити; она приглашает людей создавать новые виртуальные сообщества с новыми ландшафтами и правилами. В 2024 году Metaverse кажется несбыточной мечтой, но уже через пару десятилетий миллиарды людей могут переместиться в дополненную виртуальную реальность, чтобы прожить в ней большую часть своей жизни, проводя там большую часть своей социальной и профессиональной деятельности. Люди смогут строить отношения, присоединяться к движениям, работать, переживать эмоциональные взлеты и падения в среде, состоящей из битов, а не атомов. Возможно, лишь в некоторых отдаленных пустынях еще можно будет найти потрепанные фрагменты старой реальности, где иногда можно будет найти приют для зверя или нищего.

ИНФОРМАЦИЯ В ИСТОРИИ ЧЕЛОВЕЧЕСТВА

Взгляд на информацию как на социальную связь помогает нам понять многие аспекты человеческой истории, которые ставят в тупик наивный взгляд на информацию как на репрезентацию. Это объясняет исторический успех не только астрологии, но и гораздо более важных вещей, таких как Библия. Хотя некоторые могут отвергнуть астрологию как причудливое побочное явление в истории человечества, никто не может отрицать центральную роль, которую сыграла Библия. Если бы основной задачей информации было точное отображение реальности, было бы трудно объяснить, почему Библия стала одним из самых влиятельных текстов в истории.

Библия допускает множество серьезных ошибок в описании как человеческих дел, так и природных процессов. Книга Бытия утверждает, что все человеческие группы, включая, например, народ сан в пустыне Калахари и аборигенов Австралии, происходят от одной семьи, жившей на Ближнем Востоке около четырех тысяч лет назад. Согласно Бытию, после Потопа все потомки Ноя жили вместе в Месопотамии, а после разрушения Вавилонской башни они распространились по четырем углам земли и стали предками всех живущих людей. На самом деле предки народа сан жили в Африке сотни тысяч лет, никогда не покидая континент, а предки аборигенов заселили Австралию более пятидесяти тысяч лет назад. И генетические, и археологические данные исключают версию о том, что все древнее население Южной Африки и Австралии было уничтожено около четырех тысяч лет назад потопом и что впоследствии эти территории были заселены ближневосточными иммигрантами.

Еще более серьезное искажение связано с нашим пониманием инфекционных заболеваний. Библия регулярно изображает эпидемии как божественное наказание за человеческие грехи и утверждает, что их можно остановить или предотвратить с помощью молитв и религиозных ритуалов. Однако эпидемии, конечно же, вызываются патогенами, и их можно остановить или предотвратить, соблюдая правила гигиены, используя лекарства и вакцины. Сегодня это широко признают даже религиозные лидеры, такие как Папа Римский, который во время пандемии COVID-19 советовал людям самоизолироваться, а не собираться на совместные молитвы.

И хотя Библия плохо отражает реальность происхождения человека, миграций и эпидемий, она, тем не менее, очень эффективно соединила миллиарды людей и создала иудейскую и христианскую религии. Подобно тому как ДНК инициирует химические процессы, связывающие миллиарды клеток в органические сети, Библия инициировала социальные процессы, которые связали миллиарды людей в религиозные сети. И как сеть клеток может делать то, что не могут отдельные клетки, так и религиозная сеть может делать то, что не могут отдельные люди, например строить храмы, поддерживать правовые системы, отмечать праздники и вести священные войны.

В заключение хочу сказать, что информация иногда отражает реальность, а иногда нет. Но она всегда соединяет. Это ее фундаментальная характеристика. Поэтому, изучая роль информации в истории, хотя иногда имеет смысл задавать вопрос: "Насколько хорошо она отражает реальность? Правдива она или ложна?", зачастую более важными являются вопросы "Насколько хорошо она соединяет людей? Какие новые сети она создает?".

Следует подчеркнуть, что отказ от наивного взгляда на информацию как на репрезентацию не заставляет нас отвергать понятие истины, равно как и не заставляет нас принять популистский взгляд на информацию как на оружие. Хотя информация всегда соединяет, некоторые виды информации - от научных книг до политических речей - могут стремиться соединить людей, точно представляя определенные аспекты реальности. Но это требует особых усилий, которых большинство информации не прилагает. Вот почему наивный взгляд на то, что создание более мощных информационных технологий обязательно приведет к более правдивому пониманию мира, ошибочен. Если не предпринимать никаких дополнительных шагов, чтобы склонить баланс в пользу правды, то увеличение количества и скорости распространения информации, скорее всего, приведет к тому, что относительно редкие и дорогие правдивые сведения будут вытеснены гораздо более распространенными и дешевыми видами информации.

Если посмотреть на историю информации от каменного до кремниевого века, то мы увидим постоянный рост коммуникабельности без сопутствующего роста правдивости или мудрости. Вопреки наивному мнению, Homo sapiens завоевал мир не потому, что у нас есть талант превращать информацию в точную карту реальности. Скорее, секрет нашего успеха в том, что мы талантливо используем информацию для установления контактов между множеством людей. К сожалению, эта способность часто сопровождается верой в ложь, заблуждения и фантазии. Вот почему даже такие технологически развитые общества, как нацистская Германия и Советский Союз, были склонны придерживаться бредовых идей, причем эти заблуждения не обязательно ослабляли их. Действительно, массовые заблуждения нацистской и сталинской идеологий относительно таких вещей, как раса и класс, помогли им заставить десятки миллионов людей маршировать вместе в такт.

В главах 2-5 мы подробно рассмотрим историю информационных сетей. Мы обсудим, как на протяжении десятков тысяч лет люди изобретали различные информационные технологии, которые значительно улучшали связь и сотрудничество, не обязательно приводя к более правдивому отображению мира. Эти информационные технологии, изобретенные столетия и тысячелетия назад, до сих пор формируют наш мир даже в эпоху интернета и искусственного интеллекта. Первая информационная технология, которую мы рассмотрим, и которая также является первой информационной технологией, разработанной людьми, - это история.

ГЛАВА 2.

Истории: Безграничные связи

Sapiens правят миром не потому, что мы такие мудрые, а потому, что мы - единственные животные, способные гибко сотрудничать в больших количествах. Я исследовал эту идею в своих предыдущих книгах "Сапиенс" и "Homo Deus", но краткий обзор неизбежен.

Способность сапиенсов к гибкому сотрудничеству в больших количествах имеет предшественников среди других животных. Некоторые социальные млекопитающие, такие как шимпанзе, демонстрируют значительную гибкость в способах сотрудничества, а некоторые социальные насекомые, такие как муравьи, сотрудничают в очень больших количествах. Но ни шимпанзе, ни муравьи не создают империй, религий или торговых сетей. Сапиенсы способны на такие вещи, потому что мы гораздо гибче шимпанзе и можем одновременно сотрудничать в еще больших количествах, чем муравьи. На самом деле не существует верхнего предела для количества сапиенсов, которые могут сотрудничать друг с другом. Католическая церковь насчитывает около 1,4 миллиарда членов. Население Китая составляет около 1,4 миллиарда человек. Глобальная торговая сеть объединяет около 8 миллиардов сапиенсов.

Это удивительно, учитывая, что люди не могут образовывать долгосрочные интимные связи более чем с несколькими сотнями людей. Чтобы узнать уникальный характер и историю человека, а также воспитать взаимное доверие и привязанность, требуются долгие годы и совместный опыт. Следовательно, если бы сапиенсов связывали только личные связи между людьми, наши сети оставались бы очень маленькими. Именно так обстоят дела, например, у наших двоюродных братьев шимпанзе. Их типичная община насчитывает 20-60 членов, а в редких случаях их число может увеличиваться до 150-200. Похоже, что такая ситуация была и у древних людей, таких как неандертальцы и архаичные Homo sapiens. Каждая из их групп насчитывала несколько десятков особей, и разные группы редко сотрудничали.

Около семидесяти тысяч лет назад группы Homo sapiens начали проявлять беспрецедентную способность к сотрудничеству друг с другом, о чем свидетельствует возникновение межгрупповой торговли и художественных традиций, а также быстрое распространение нашего вида с африканской родины по всему земному шару. Сотрудничество между разными группами стало возможным благодаря тому, что эволюционные изменения в структуре мозга и лингвистических способностях, по-видимому, привели к тому, что сапиенсы стали способны рассказывать вымышленные истории, верить в них и глубоко переживать их. Вместо того чтобы строить сеть из цепочек "человек-человек", как это делали, например, неандертальцы, истории предоставили Homo sapiens новый тип цепочек: "человек-история". Для того чтобы сотрудничать, сапиенсам больше не нужно было знать друг друга лично; они просто должны были знать одну и ту же историю. А одна и та же история может быть знакома миллиардам людей. Таким образом, история может служить центральным разъемом с неограниченным количеством розеток, к которым может подключаться неограниченное количество людей. Например, 1,4 миллиарда членов католической церкви связаны Библией и другими ключевыми христианскими историями; 1,4 миллиарда граждан Китая связаны историями коммунистической идеологии и китайского национализма; а 8 миллиардов членов глобальной торговой сети связаны историями о валютах, корпорациях и брендах.

Даже харизматические лидеры, у которых миллионы последователей, являются скорее примером этого правила, чем исключением. Может показаться, что в случае с древними китайскими императорами, средневековыми католическими папами или современными корпоративными титанами именно один человек из плоти и крови, а не история, служил связующим звеном для миллионов последователей. Но, конечно, во всех этих случаях почти никто из последователей не имел личной связи с лидером. Вместо этого они связывали себя с тщательно разработанной историей о лидере, и именно в эту историю они верили.

Иосиф Сталин, стоявший у истоков одного из самых больших культов личности в истории, хорошо понимал это. Когда его беспокойный сын Василий использовал свое знаменитое имя для устрашения и устрашения людей, Сталин отругал его. "Но я же тоже Сталин", - возразил Василий. "Нет, ты не Сталин", - ответил Сталин. "Ты не Сталин, и я не Сталин. Сталин - это советская власть. Сталин - это тот, кто он есть в газетах и на портретах, а не вы, не я даже!"

Современные влиятельные люди и знаменитости согласятся с этим. У некоторых из них сотни миллионов онлайн-последователей, с которыми они ежедневно общаются через социальные сети. Но в них очень мало подлинной личной связи. Аккаунты в социальных сетях обычно ведет команда экспертов, и каждое изображение и слово профессионально создается и курируется для производства того, что сегодня называется брендом.

Бренд - это особый тип истории. Брендировать продукт - значит рассказывать о нем историю, которая может иметь мало общего с реальными качествами продукта, но которую потребители, тем не менее, учатся ассоциировать с ним. Например, за десятилетия корпорация Coca-Cola вложила десятки миллиардов долларов в рекламу, которая рассказывает и пересказывает историю напитка Coca-Cola. Люди видели и слышали эту историю так часто, что многие стали ассоциировать определенный состав ароматизированной воды с весельем, счастьем и молодостью (в противовес кариесу, ожирению и пластиковым отходам). Это и есть брендинг.

Как знал Сталин, клеймить можно не только товары, но и людей. Коррумпированного миллиардера можно заклеймить как защитника бедных, неуклюжего имбецила - как непогрешимого гения, а гуру, совершающего сексуальное насилие над своими последователями, - как целомудренного святого. Люди думают, что они связаны с человеком, но на самом деле они связаны с историей, рассказанной о нем, и между ними часто лежит огромная пропасть.

Даже история о Шер Ами, героическом голубе, была отчасти продуктом рекламной кампании, направленной на укрепление общественного имиджа голубиной службы армии США. Ревизионистское исследование 2021 года, проведенное историком Фрэнком Блазичем, показало, что, хотя нет никаких сомнений в том, что Шер Ами получил тяжелые ранения, перевозя сообщение где-то в Северной Франции, несколько ключевых моментов этой истории сомнительны или неточны. Во-первых, опираясь на современные военные записи, Блазич показал, что штаб узнал о точном местонахождении "Потерянного батальона" примерно за двадцать минут до прибытия голубя. Не голубь остановил шквал дружественного огня, уничтожившего потерянный батальон. Что еще более важно, нет никаких доказательств того, что голубь, принесший сообщение майора Уиттлси, был Шер Ами. Это вполне могла быть другая птица, а Шер Ами мог получить свои раны пару недель спустя, во время совсем другого сражения.

По словам Блазича, сомнения и несоответствия в истории Шер Ами были заслонены ее пропагандистской ценностью для армии и привлекательностью для публики. За годы история была пересказана столько раз, что факты безнадежно переплелись с вымыслом. Журналисты, поэты и кинематографисты добавляли в нее причудливые детали, например, что голубь потерял не только лапку, но и глаз, и что он был награжден крестом "За выдающиеся заслуги". В 1920-1930-е годы Шер Ами стал самой известной птицей в мире. Когда он умер, его тщательно сохраняемый труп был выставлен в Смитсоновском музее, где он стал местом паломничества американских патриотов и ветеранов Первой мировой войны. По мере того как история обрастала подробностями, она захватила даже воспоминания выживших членов Потерянного батальона, которые стали принимать популярную версию за чистую монету. Блазич рассказывает о Шермане Игере, офицере из Потерянного батальона, который спустя десятилетия после войны привел своих детей посмотреть на Шер Ами в Смитсоновском музее и сказал им: "Вы все обязаны своими жизнями этому голубю". Какими бы ни были факты, история о самоотверженном крылатом спасителе оказалась неотразимой.

В качестве более экстремального примера можно привести Иисуса. Два тысячелетия повествования заключили Иисуса в такой плотный кокон историй, что восстановить историческую личность невозможно. Более того, для миллионов набожных христиан простое упоминание о том, что реальная личность отличалась от истории, является кощунством. Насколько мы можем судить, реальный Иисус был обычным еврейским проповедником, который собрал небольшое число поклонников, читая проповеди и исцеляя больных. Однако после смерти Иисус стал объектом одной из самых выдающихся брендинговых кампаний в истории. Этот малоизвестный провинциальный гуру, который за свою короткую карьеру собрал всего несколько учеников и был казнен как обычный преступник, после смерти был переименован в воплощение космического бога, создавшего Вселенную.9 Хотя не сохранилось ни одного современного портрета Иисуса, и хотя Библия никогда не описывает, как он выглядел, его воображаемые образы стали одними из самых узнаваемых икон в мире.

Следует подчеркнуть, что создание истории Иисуса не было преднамеренной ложью. Такие люди, как Святой Павел, Тертуллиан, Святой Августин и Мартин Лютер, не ставили перед собой цель кого-то обмануть. Они проецировали свои глубокие надежды и чувства на фигуру Иисуса, точно так же, как все мы регулярно проецируем свои чувства на своих родителей, возлюбленных и лидеров. В то время как брендинговые кампании иногда являются циничным упражнением по дезинформации, большинство действительно значимых историй в истории были результатом эмоциональных проекций и принятия желаемого за действительное. Истинно верующие играют ключевую роль в становлении каждой крупной религии и идеологии, а история Иисуса изменила историю, потому что обрела огромное количество истинно верующих.

Завоевав всех этих верующих, история Иисуса смогла оказать гораздо большее влияние на историю, чем сама личность Иисуса. Личность Иисуса ходила от деревни к деревне на своих двух ногах, разговаривала с людьми, ела и пила с ними, возлагала руки на их больные тела. Он изменил жизнь, возможно, нескольких тысяч человек, живших в одной небольшой римской провинции. В отличие от этого, история Иисуса облетела весь мир, сначала на крыльях сплетен, анекдотов и слухов, затем в виде пергаментных текстов, картин и статуй, а в итоге - в виде фильмов-блокбастеров и интернет-мемов. Миллиарды людей не только услышали историю Иисуса, но и поверили в нее, что привело к созданию одной из самых больших и влиятельных сетей в мире.

Истории, подобные истории об Иисусе, можно рассматривать как способ растянуть ранее существовавшие биологические связи. Семья - самая крепкая связь, известная людям. Один из способов, которым истории укрепляют доверие между незнакомыми людьми, - заставить их заново представить друг друга как семью. История Иисуса представила его как небесного отца всех людей, побудила сотни миллионов христиан воспринимать друг друга как братьев и сестер и создала общий фонд семейных воспоминаний. Хотя большинство христиан физически не присутствовали на Тайной вечере, они слышали эту историю так много раз и видели так много изображений этого события, что "помнят" его ярче, чем большинство семейных обедов, в которых они действительно участвовали.

Интересно, что последним ужином Иисуса была еврейская пасхальная трапеза, которую, согласно евангельским рассказам, Иисус разделил со своими учениками незадолго до распятия. В еврейской традиции вся цель пасхальной трапезы заключается в создании и повторении искусственных воспоминаний. Каждый год еврейские семьи собираются вместе накануне Песаха, чтобы поесть и вспомнить об "их" исходе из Египта. Предполагается, что они не только рассказывают историю о том, как потомки Иакова спаслись от рабства в Египте, но и вспоминают, как они лично пострадали от рук египтян, как они лично видели, как расступилось море, и как они лично получили десять заповедей от Иеговы на горе Синай.

Еврейская традиция не скупится на слова. Текст пасхального ритуала (Хаггада) настаивает на том, что "в каждом поколении человек обязан относиться к себе так, как будто он лично вышел из Египта". Если кто-то возразит, что это выдумка и что он лично не выходил из Египта, у еврейских мудрецов есть готовый ответ. Они утверждают, что души всех евреев на протяжении всей истории были созданы Иеговой задолго до их рождения, и все эти души присутствовали на горе Синай. Как объяснил своим подписчикам в Интернете в 2018 году Сальвадор Литвак, еврейский активист в социальных сетях: "Мы с вами были там вместе.... Когда мы выполняем обязательство видеть себя так, как будто мы лично вышли из Египта, это не метафора. Мы не воображаем Исход, мы его вспоминаем".

Поэтому каждый год, во время самого важного праздника еврейского календаря, миллионы евреев устраивают представление, что они помнят вещи, свидетелями которых они не были и которые, по всей вероятности, вообще никогда не происходили. Как показывают многочисленные современные исследования, многократный пересказ фальшивых воспоминаний в конце концов заставляет человека принять их за подлинные. Когда два еврея впервые встречаются друг с другом, они сразу же чувствуют, что принадлежат к одной семье, что они вместе были рабами в Египте и что они вместе были на горе Синай. Это мощная связь, которая поддерживала еврейскую сеть на протяжении многих веков и континентов.

ИНТЕРСУБЪЕКТИВНЫЕ СУЩНОСТИ

Еврейская история о Пасхе создает большую сеть, беря существующие биологические родственные связи и растягивая их за пределы биологических границ. Но есть еще более революционный способ создания сетей с помощью историй. Подобно ДНК, истории могут создавать совершенно новые сущности. Более того, истории могут даже создать совершенно новый уровень реальности. Насколько нам известно, до появления историй во вселенной существовало всего два уровня реальности. Истории добавили третий.

Два уровня реальности, которые предшествовали рассказам, - это объективная реальность и субъективная реальность. Объективная реальность состоит из таких вещей, как камни, горы и астероиды, которые существуют независимо от того, знаем мы о них или нет. Например, астероид, мчащийся к планете Земля, существует, даже если никто не знает о его существовании. Затем существует субъективная реальность: такие вещи, как боль, удовольствие и любовь, которые находятся не "там", а скорее "здесь". Субъективные вещи существуют в нашем осознании их. Непрочувствованная боль - это оксюморон.

Но некоторые истории способны создать третий уровень реальности: интерсубъективную реальность. Если субъективные вещи, такие как боль, существуют в отдельно взятом разуме, то интерсубъективные вещи, такие как законы, боги, нации, корпорации и валюты, существуют в связке между большим количеством разумов. Точнее, они существуют в историях, которые люди рассказывают друг другу. Информация, которой люди обмениваются о межсубъективных вещах, не представляет собой ничего, что уже существовало до обмена информацией; скорее, обмен информацией создает эти вещи.

Когда я говорю вам, что мне больно, рассказ об этом не порождает боль. И если я перестану говорить о боли, это не приведет к ее исчезновению. Точно так же, когда я говорю вам, что видел астероид, это не создает астероид. Астероид существует независимо от того, говорят о нем люди или нет. Но когда множество людей рассказывают друг другу истории о законах, богах или валютах, это и создает эти законы, богов или валюты. Если люди перестают о них говорить, они исчезают. Интерсубъективные вещи существуют в обмене информацией.

Давайте посмотрим внимательнее. Калорийность пиццы не зависит от наших убеждений. Типичная пицца содержит от пятнадцатисот до двадцати пятисот калорий. Напротив, финансовая ценность денег и пиццы полностью зависит от наших убеждений. Сколько пицц вы можете купить за доллар или за биткойн? В 2010 году Ласло Ханеч купил две пиццы за 10 000 биткоинов. Это была первая известная коммерческая сделка с использованием биткоина - и, оглядываясь назад, также самая дорогая пицца в истории. К ноябрю 2021 года один биткоин стоил более 69 000 долларов, поэтому биткоины, которые Ханеч заплатил за две пиццы, стоили 690 миллионов долларов, которых хватило бы на покупку миллионов пицц. Если калорийность пиццы - это объективная реальность, которая оставалась неизменной с 2010 по 2021 год, то финансовая стоимость биткоина - это интерсубъективная реальность, которая резко изменилась за тот же период в зависимости от того, какие истории люди рассказывали о биткоине и во что верили.

Другой пример. Предположим, я спрашиваю: "Существует ли Лохнесское чудовище?". Это вопрос об объективном уровне реальности. Некоторые люди верят, что динозавроподобные животные действительно обитают в Лох-Нессе. Другие отвергают эту идею как фантазию или мистификацию. За прошедшие годы было предпринято множество попыток раз и навсегда разрешить разногласия, используя такие научные методы, как гидролокационное сканирование и анализ ДНК. Если в озере обитают огромные животные, они должны быть видны на гидролокаторе и оставлять следы ДНК. На основании имеющихся данных научный консенсус заключается в том, что Лох-Несского чудовища не существует. (Исследование ДНК, проведенное в 2019 году, обнаружило генетический материал трех тысяч видов, но никакого чудовища нет. Максимум, что может быть в Лох-Нессе, - это несколько пятикилограммовых угрей). Многие люди, тем не менее, могут продолжать верить в существование Лохнесского чудовища, но вера в это не меняет объективной реальности.

В отличие от животных, существование которых можно подтвердить или опровергнуть с помощью объективных тестов, государства - это интерсубъективные сущности. Обычно мы этого не замечаем, потому что все воспринимают существование Соединенных Штатов, Китая, России или Бразилии как должное. Но бывают случаи, когда люди расходятся во мнениях относительно существования тех или иных государств, и тогда проявляется их интерсубъективный статус. Например, израильско-палестинский конфликт вращается вокруг этого вопроса, потому что одни люди и правительства отказываются признавать существование Израиля, а другие - существование Палестины. По состоянию на 2024 год, правительства Бразилии и Китая, например, утверждают, что существуют и Израиль, и Палестина; правительства США и Камеруна признают только существование Израиля; в то время как правительства Алжира и Ирана признают только Палестину. Другие примеры - от Косово, которое на 2024 год признают как государство около половины из 193 членов ООН, до Абхазии, которую почти все правительства рассматривают как суверенную территорию Грузии, но которую признают как государство Россия, Венесуэла, Никарагуа, Науру и Сирия.

Действительно, почти все государства, борясь за независимость, хотя бы на время проходят через этап, когда их существование оспаривается. Появились ли Соединенные Штаты 4 июля 1776 года или только тогда, когда другие государства, такие как Франция и, наконец, Великобритания, признали их? В период между провозглашением независимости США 4 июля 1776 года и подписанием Парижского договора 3 сентября 1783 года одни люди, например Джордж Вашингтон, верили в существование Соединенных Штатов, а другие, например король Георг III, решительно отвергали эту идею.

Разногласия по поводу существования государств не могут быть разрешены объективным тестом, таким как исследование ДНК или сонарное сканирование. В отличие от животных, состояния не являются объективной реальностью. Когда мы спрашиваем, существует ли то или иное государство, мы ставим вопрос об интерсубъективной реальности. Если достаточно людей согласны с тем, что государство существует, значит, оно существует. Тогда оно может делать такие вещи, как подписывать юридически обязывающие договоры с другими правительствами, а также с неправительственными организациями и частными корпорациями.

Из всех жанров историй те, что создают интерсубъективные реальности, были наиболее важны для развития масштабных человеческих сетей. Насаждение фальшивых семейных воспоминаний, конечно, полезно, но ни одна религия или империя не смогла долго просуществовать без твердой веры в существование бога, нации, свода законов или валюты. Например, для формирования христианской церкви было важно, чтобы люди вспомнили слова Иисуса на Тайной вечере, но решающим шагом было заставить людей поверить в то, что Иисус был богом, а не просто вдохновляющим раввином. Для формирования еврейской религии было полезно, чтобы евреи "вспомнили", как они вместе спаслись от рабства в Египте, но действительно решающим шагом было заставить всех евреев придерживаться одного и того же свода религиозных законов, Галахи.

Такие интерсубъективные вещи, как законы, боги и валюты, чрезвычайно могущественны в рамках определенной информационной сети и совершенно бессмысленны вне ее. Предположим, миллиардер разбивает свой частный самолет на необитаемом острове и оказывается один с чемоданом, полным банкнот и облигаций. Когда он находился в Сан-Паулу или Мумбаи, он мог использовать эти бумаги, чтобы заставить людей кормить его, одевать, защищать и строить ему личный самолет. Но как только он оказывается отрезанным от других членов нашей информационной сети, его банкноты и облигации тут же становятся бесполезными. Он не может использовать их, чтобы заставить обезьян на острове снабжать его едой или построить плот.

СИЛА ИСТОРИЙ

Вживляя фальшивые воспоминания, формируя вымышленные отношения или создавая интерсубъективные реальности, истории порождали масштабные человеческие сети. Эти сети, в свою очередь, полностью изменили баланс сил в мире. Сюжетные сети сделали Homo sapiens самым могущественным из всех животных, дав ему решающее преимущество не только над львами и мамонтами, но и над другими видами древних людей, такими как неандертальцы.

Неандертальцы жили небольшими изолированными группами, и, насколько нам известно, разные группы сотрудничали друг с другом лишь изредка и слабо, если вообще сотрудничали. Сапиенсы каменного века тоже жили небольшими группами по несколько десятков особей. Но с появлением повествования группы сапиенсов перестали жить изолированно. Группы были связаны между собой историями о таких вещах, как почитаемые предки, тотемные животные и духи-хранители. Группы, которые разделяли истории и интерсубъективные реальности, составляли племя. Каждое племя представляло собой сеть, объединяющую сотни или даже тысячи людей.

Принадлежность к большому племени давала очевидное преимущество во время конфликтов. Пятьсот сапиенсов могли легко победить пятьдесят неандертальцев. Но у племенных сетей было много дополнительных преимуществ. Если мы живем в изолированной группе из пятидесяти человек и на нашу территорию обрушивается сильная засуха, многие из нас могут умереть от голода. Если мы попытаемся мигрировать в другое место, то, скорее всего, столкнемся с враждебными группами, и нам будет трудно добывать пищу, воду и кремень (для изготовления инструментов) на незнакомой территории. Однако если наша группа является частью племенной сети, то в трудные времена хотя бы некоторые из нас могут отправиться жить к своим далеким друзьям. Если наша общая племенная идентичность достаточно сильна, они примут нас и расскажут о местных опасностях и возможностях. Через десяток-другой лет мы могли бы ответить им взаимностью. Таким образом, племенная сеть действовала как страховой полис. Она минимизировала риск, распределяя его на гораздо большее количество людей.

Даже в спокойные времена сапиенсы могли извлечь огромную пользу, обмениваясь информацией не только с несколькими десятками членов небольшой группы, но и с целой сетью племен. Если одна из групп племени открывала лучший способ изготовления острия копья, училась лечить раны с помощью редкой лекарственной травы или изобретала иглу для шитья одежды, эти знания могли быть быстро переданы другим группам. Даже если по отдельности сапиенсы могли быть не умнее неандертальцев, пятьсот сапиенсов вместе были гораздо умнее пятидесяти неандертальцев.

Все это стало возможным благодаря историям. Сила историй часто упускается или отрицается материалистическими интерпретациями истории. В частности, марксисты склонны рассматривать истории лишь как дымовую завесу для скрытия глубинных властных отношений и материальных интересов. Согласно марксистским теориям, люди всегда руководствуются объективными материальными интересами и используют истории только для того, чтобы замаскировать эти интересы и сбить с толку своих соперников. Например, в этом прочтении крестовые походы, Первая мировая война и война в Ираке велись за экономические интересы влиятельных элит, а не за религиозные, националистические или либеральные идеалы. Понимание этих войн означает отбросить все мифологические фиговые листья - о Боге, патриотизме или демократии - и увидеть властные отношения в их обнаженном виде.

Однако такой марксистский взгляд не только циничен, но и ошибочен. Хотя материалистические интересы, безусловно, сыграли свою роль в крестовых походах, Первой мировой войне, войне в Ираке и большинстве других человеческих конфликтов, это не означает, что религиозные, национальные и либеральные идеалы не сыграли никакой роли. Более того, сами по себе материалистические интересы не могут объяснить идентичность противоборствующих лагерей. Почему в XII веке землевладельцы и купцы из Франции, Германии и Италии объединились для завоевания территорий и торговых путей в Леванте, а не землевладельцы и купцы из Франции и Северной Африки объединились для завоевания Италии? И почему в 2003 году Соединенные Штаты и Великобритания стремились завоевать нефтяные месторождения Ирака, а не газовые месторождения Норвегии? Неужели это можно объяснить чисто материалистическими соображениями, не обращаясь к религиозным и идеологическим убеждениям людей?

На самом деле, все отношения между крупными человеческими группами формируются на основе историй, потому что идентичность этих групп сама определяется историями. Не существует объективных определений того, кто является британцем, американцем, норвежцем или иракцем; все эти идентичности формируются национальными и религиозными мифами, которые постоянно оспариваются и пересматриваются. Марксисты могут утверждать, что масштабные группы имеют объективные идентичности и интересы, не зависящие от историй. Если это так, то как объяснить, что только у людей есть такие масштабные группы, как племена, нации и религии, а у шимпанзе они отсутствуют? Ведь шимпанзе разделяют с человеком все наши объективные материальные интересы: им тоже нужно пить, есть и защищаться от болезней. Им тоже нужен секс и социальная власть. Но шимпанзе не могут поддерживать масштабные группы, потому что они не способны создавать истории, которые связывают эти группы и определяют их идентичность и интересы. Вопреки марксистскому мышлению, масштабные идентичности и интересы в истории всегда интерсубъективны; они никогда не бывают объективными.

Это хорошая новость. Если бы история формировалась исключительно материальными интересами и борьбой за власть, не было бы смысла разговаривать с людьми, которые с нами не согласны. Любой конфликт в конечном итоге был бы результатом объективных властных отношений, которые нельзя изменить простым разговором. В частности, если привилегированные люди видят и верят только в то, что закрепляет их привилегии, то как, кроме насилия, можно убедить их отказаться от этих привилегий и изменить свои убеждения? К счастью, поскольку историю формируют интерсубъективные истории, иногда мы можем предотвратить конфликт и установить мир, поговорив с людьми, изменив истории, в которые верят они и мы, или придумав новую историю, которую все смогут принять.

Возьмем, к примеру, подъем нацизма. Безусловно, существовали материальные интересы, которые подтолкнули миллионы немцев к поддержке Гитлера. Нацисты, вероятно, никогда бы не пришли к власти, если бы не экономический кризис начала 1930-х годов. Однако неверно думать, что Третий рейх был неизбежным результатом лежащих в основе отношений власти и материальных интересов. Гитлер победил на выборах 1933 года, потому что во время экономического кризиса миллионы немцев поверили в историю нацизма, а не в одну из предлагаемых альтернативных историй. Это не было неизбежным результатом того, что немцы преследовали свои материальные интересы и защищали свои привилегии; это была трагическая ошибка. Мы можем с уверенностью сказать, что это была ошибка и что немцы могли бы выбрать лучшую историю, потому что мы знаем, что произошло дальше. Двенадцать лет нацистского правления не способствовали укреплению материальных интересов немцев. Нацизм привел к разрушению Германии и гибели миллионов людей. Позже, когда немцы приняли либеральную демократию, это действительно привело к долгосрочному улучшению их жизни. Разве немцы не могли пропустить неудачный нацистский эксперимент и довериться либеральной демократии уже в начале 1930-х годов? Позиция этой книги заключается в том, что они могли. История часто формируется не детерминированными отношениями власти, а трагическими ошибками, которые являются результатом веры в завораживающие, но пагубные истории.

БЛАГОРОДНАЯ ЛОЖЬ

Центральная роль историй раскрывает нечто фундаментальное о силе нашего вида и объясняет, почему власть не всегда идет рука об руку с мудростью. Наивный взгляд на информацию гласит, что информация ведет к истине, а знание истины помогает людям обрести и власть, и мудрость. Это звучит обнадеживающе. Она подразумевает, что люди, игнорирующие правду, вряд ли будут обладать большой властью, в то время как люди, уважающие правду, могут обрести большую власть, но эта власть будет сдержана мудростью. Например, люди, игнорирующие правду о биологии человека, могут верить в расистские мифы, но не смогут производить мощные лекарства и биооружие, тогда как люди, понимающие биологию, будут обладать такой силой, но не станут использовать ее на благо расистских идеологий. Если бы это действительно было так, мы могли бы спать спокойно, доверяя мудрость и честность наших президентов, первосвященников и руководителей компаний. Политик, движение или страна могут, конечно, продвигаться вперед то тут, то там с помощью лжи и обмана, но в долгосрочной перспективе это будет саморазрушительная стратегия.

К сожалению, это не тот мир, в котором мы живем. В истории власть лишь частично зависит от знания правды. Она также обусловлена способностью поддерживать социальный порядок среди большого количества людей. Предположим, вы хотите создать атомную бомбу. Чтобы добиться успеха, вам, безусловно, нужны точные знания физики. Но вам также нужно много людей, чтобы добывать урановую руду, строить ядерные реакторы и обеспечивать пищей строителей, шахтеров и физиков. В Манхэттенском проекте было непосредственно занято около 130 000 человек, и еще миллионы работали на их содержание. Роберт Оппенгеймер мог посвятить себя своим уравнениям, потому что ему помогали тысячи шахтеров, добывавших уран на руднике Эльдорадо на севере Канады и на руднике Шинколобве в Бельгийском Конго - не говоря уже о фермерах, выращивавших картофель для его обедов. Если вы хотите сделать атомную бомбу, вы должны найти способ заставить миллионы людей сотрудничать.

То же самое происходит со всеми амбициозными проектами, за которые берутся люди. Группа каменного века, собиравшаяся поохотиться на мамонта, очевидно, должна была знать несколько достоверных фактов о мамонтах. Если бы они верили, что смогут убить мамонта с помощью заклинаний, их охотничья экспедиция провалилась бы. Но просто знать факты о мамонтах тоже было недостаточно. Охотники также должны были быть уверены, что все они согласны с одним и тем же планом и смело выполняют свой долг даже перед лицом смертельной опасности. Если они верили, что, произнеся заклинание, смогут гарантировать мертвым охотникам хорошую загробную жизнь, то шансы на успех у их охотничьих экспедиций были гораздо выше. Даже если объективно заклинание было бессильно и не приносило никакой пользы мертвым охотникам, укрепляя мужество и солидарность живых охотников, оно все же вносило решающий вклад в успех охоты.

Хотя власть зависит как от правды, так и от порядка, в большинстве случаев именно люди, знающие, как поддерживать порядок, делают выстрелы, давая указания тем, кто просто знает правду о таких вещах, как мамонты или ядерная физика. Роберт Оппенгеймер подчинялся Франклину Делано Рузвельту, а не наоборот. Точно так же Вернер Гейзенберг подчинялся Адольфу Гитлеру, Игорь Курчатов - Иосифу Сталину, а в современном Иране специалисты по ядерной физике выполняют приказы экспертов по шиитскому богословию.

Что знают люди на вершине, чего не всегда понимают физики-ядерщики, так это то, что говорить правду о Вселенной - едва ли самый эффективный способ добиться порядка среди большого количества людей. Это правда, что E = mc², и это объясняет многое из того, что происходит во Вселенной, но знание того, что E = mc², обычно не разрешает политических разногласий и не вдохновляет людей на жертвы ради общего дела. Вместо этого человеческие сети объединяют вымышленные истории, особенно истории о таких интерсубъективных вещах, как боги, деньги и нации. Когда речь идет об объединении людей, вымысел имеет два неотъемлемых преимущества перед правдой. Во-первых, вымысел можно сделать сколь угодно простым, в то время как правда, как правило, сложна, потому что сложна реальность, которую она должна представлять. Возьмем, к примеру, правду о нациях. Трудно понять, что нация, к которой человек принадлежит, - это интерсубъективная сущность, существующая только в нашем коллективном воображении. Политики редко говорят об этом в своих политических речах. Гораздо проще поверить в то, что наша нация - это избранный Богом народ, на который Создатель возложил некую особую миссию. Эту простую историю неоднократно рассказывали бесчисленные политики от Израиля до Ирана и от США до России.

Во-вторых, правда часто бывает болезненной и тревожной, и если мы попытаемся сделать ее более утешительной и лестной, она перестанет быть правдой. В отличие от этого, вымысел очень податлив. В истории каждого народа есть мрачные эпизоды, которые граждане не любят признавать и вспоминать. Израильский политик, который в своих предвыборных речах подробно рассказывает о страданиях, причиненных израильской оккупацией палестинским мирным жителям, вряд ли получит много голосов. Напротив, политик, который строит национальный миф, игнорируя неудобные факты, делая акцент на славных моментах еврейского прошлого и приукрашивая реальность там, где это необходимо, вполне может прийти к власти. Так обстоит дело не только в Израиле, но и во всех странах. Много ли итальянцев или индийцев хотят услышать чистую правду о своих народах? Бескомпромиссное следование истине необходимо для научного прогресса, это также достойная восхищения духовная практика, но это не выигрышная политическая стратегия.

Уже в "Республике" Платон представил, что конституция его утопического государства будет основана на "благородной лжи" - вымышленной истории о происхождении общественного строя, которая обеспечит лояльность граждан и не позволит им усомниться в конституции. Гражданам следует говорить, писал Платон, что все они рождены из земли, что земля - их мать и что поэтому они обязаны хранить сыновнюю преданность родине. Кроме того, им следует рассказать, что при зачатии боги смешали в них различные металлы - золото, серебро, бронзу и железо, что оправдывает естественную иерархию между золотыми правителями и бронзовыми слугами. Хотя утопия Платона так и не была реализована на практике, многочисленные государства на протяжении веков рассказывали своим жителям вариации этой благородной лжи.

Несмотря на благородную ложь Платона, мы не должны делать вывод, что все политики - лжецы или что все национальные истории - обман. Выбор не сводится к тому, чтобы говорить правду или лгать. Есть и третий вариант. Рассказывая вымышленную историю, вы лжете только тогда, когда притворяетесь, что эта история правдиво отражает реальность. Рассказывая вымышленную историю, вы не лжете, если избегаете такого притворства и признаете, что пытаетесь создать новую интерсубъективную реальность, а не представить уже существующую объективную реальность.

Например, 17 сентября 1787 года Конституционный конвент подписал Конституцию США, которая вступила в силу в 1789 году. Конституция не раскрывала никакой заранее существующей истины о мире, но, что очень важно, она также не была ложью. Отказавшись от рекомендации Платона, авторы текста не стали никого обманывать относительно его происхождения. Они не притворялись, что текст сошел с небес или что он был вдохновлен каким-то богом. Скорее, они признали, что это чрезвычайно творческая юридическая фикция, созданная ошибочными человеческими существами.

"Мы, народ Соединенных Штатов, - говорится в Конституции о ее происхождении, - в целях создания более совершенного Союза... постановляем и учреждаем настоящую Конституцию". Несмотря на признание того, что она является созданной человеком юридической фикцией, Конституции США действительно удалось сформировать мощный союз. Более двух столетий она поддерживала удивительный порядок среди многих миллионов людей, принадлежащих к самым разным религиозным, этническим и культурным группам. Таким образом, Конституция США действовала как мелодия, которая, не претендуя на то, чтобы представлять что-либо, тем не менее заставляла множество людей действовать сообща, соблюдая порядок.

Важно отметить, что "порядок" не следует путать с честностью или справедливостью. Порядок, созданный и поддерживаемый Конституцией США, допускал рабство, подчинение женщин, экспроприацию коренных народов и крайнее экономическое неравенство. Гениальность Конституции США заключается в том, что, признавая, что она является юридической фикцией, созданной людьми, она смогла предоставить механизмы для достижения соглашения о внесении поправок и устранении собственной несправедливости (что более подробно рассматривается в главе 5). Статья V Конституции подробно описывает, как люди могут предлагать и ратифицировать такие поправки, которые "имеют силу во всех намерениях и целях, как часть настоящей Конституции". Менее чем через столетие после написания Конституции Тринадцатая поправка отменила рабство.

В этом Конституция США принципиально отличалась от историй, отрицавших свою вымышленную природу и претендовавших на божественное происхождение, таких как Десять заповедей. Как и Конституция США, Десять заповедей одобряли рабство. Десятая заповедь гласит: "Не желай дома ближнего твоего. Не желай жены ближнего твоего, ни раба-мужчины, ни рабыни-женщины" (Исход 20:17). Это означает, что Бог совершенно не против того, чтобы люди держали рабов, и возражает только против желания иметь рабов, принадлежащих кому-то другому. Но в отличие от Конституции США, Десять заповедей не предусматривают никакого механизма внесения поправок. Нет одиннадцатой заповеди, которая гласила бы: "Вы можете изменять заповеди большинством в две трети голосов".

Это принципиальное различие между двумя текстами ясно из их вступительных гамбитов. Конституция США открывается словами "Мы, народ". Признавая свое человеческое происхождение, она наделяет людей правом вносить в нее поправки. Десять заповедей открываются словами "Я Господь, Бог твой". Заявляя о своем божественном происхождении, они не позволяют людям изменять их. В результате библейский текст и сегодня одобряет рабство.

Все политические системы человечества основаны на вымыслах, но некоторые признают это, а некоторые нет. Правдивое представление о происхождении нашего общественного устройства облегчает внесение в него изменений. Если его придумали такие же люди, как мы, мы можем его изменить. Но за такую правдивость приходится платить. Признавая человеческое происхождение социального порядка, труднее убедить всех согласиться с ним. Если его придумали такие же люди, как мы, почему мы должны его принимать? Как мы увидим в главе 5, до конца XVIII века отсутствие технологий массовой коммуникации делало крайне затруднительным открытое обсуждение правил общественного устройства между миллионами людей. Поэтому для поддержания порядка русские цари, мусульманские халифы и китайские сыны неба утверждали, что основополагающие правила общества спустились с небес и не подлежат человеческим поправкам. В начале XXI века многие политические системы по-прежнему претендуют на сверхчеловеческий авторитет и выступают против открытых дебатов, которые могут привести к нежелательным изменениям.

ВЕЧНАЯ ДИЛЕММА

После того как мы поняли ключевую роль вымысла в истории, наконец-то появилась возможность представить более полную модель информационных сетей, которая выходит за рамки как наивного взгляда на информацию, так и популистской критики этого взгляда. Вопреки наивному взгляду, информация не является сырьем для истины, а человеческие информационные сети не предназначены только для того, чтобы открывать истину. Но и вопреки популистскому мнению, информация - это не просто оружие. Скорее, чтобы выжить и процветать, любая человеческая информационная сеть должна делать две вещи одновременно: открывать истину и создавать порядок. Соответственно, по мере развития истории человеческие информационные сети развивали два разных набора навыков. С одной стороны, как и ожидает наивный взгляд, сети научились обрабатывать информацию, чтобы получить более точное представление о таких вещах, как медицина, мамонты и ядерная физика. В то же время сети научились использовать информацию для поддержания более прочного социального порядка среди больших популяций, используя не только правдивую информацию, но и вымыслы, фантазии, пропаганду и - иногда - откровенную ложь.

Наивный взгляд на информацию

Более полное историческое представление информации

Наличие большого количества информации само по себе не гарантирует ни истины, ни порядка. Это сложный процесс - использовать информацию для поиска истины и одновременно поддерживать порядок. Усугубляет ситуацию то, что эти два процесса часто противоречат друг другу, потому что зачастую легче поддерживать порядок с помощью фикций. Иногда - как в случае с Конституцией США - вымышленные истории могут признавать свою вымышленность, но чаще всего они ее отрицают. Религии, например, всегда претендуют на объективную и вечную истину, а не на вымышленную историю, придуманную людьми. В таких случаях поиск истины угрожает основам социального порядка. Многие общества требуют, чтобы их население не знало о своем истинном происхождении: невежество - сила. Что же происходит, когда люди неуютно приближаются к истине? Что происходит, когда один и тот же кусочек информации открывает важный факт о мире и одновременно подрывает благородную ложь, на которой держится общество? В таких случаях общество может попытаться сохранить порядок, наложив ограничения на поиск истины.

Один из очевидных примеров - теория эволюции Дарвина. Понимание эволюции значительно продвигает наше понимание происхождения и биологии видов, включая Homo sapiens, но оно также подрывает центральные мифы, поддерживающие порядок в многочисленных обществах. Неудивительно, что различные правительства и церкви запрещают или ограничивают преподавание эволюции, предпочитая жертвовать истиной ради порядка26.

Связанная с этим проблема заключается в том, что информационная сеть может позволять и даже поощрять людей к поиску истины, но только в определенных областях, которые помогают генерировать власть, не угрожая социальному порядку. В результате может получиться очень мощная сеть, которой не хватает мудрости. Например, нацистская Германия вырастила многих ведущих мировых экспертов в области химии, оптики, машиностроения и ракетостроения. Именно нацистская ракетная наука впоследствии привела американцев на Луну.27 Эта научная доблесть помогла нацистам создать чрезвычайно мощную военную машину, которая затем была поставлена на службу безумной и убийственной мифологии. Во времена нацистского правления немцев поощряли развивать ракетостроение, но они не имели права подвергать сомнению расистские теории о биологии и истории.

Это одна из главных причин, по которой история человеческих информационных сетей не является триумфальным шествием прогресса. Хотя на протяжении многих поколений человеческие сети становились все более мощными, они не обязательно становились все более мудрыми. Если сеть отдает предпочтение порядку, а не истине, она может стать очень мощной, но использовать эту мощь неразумно.

Вместо марша прогресса история человеческих информационных сетей - это хождение по натянутому канату в попытках найти баланс между правдой и порядком. В XXI веке мы не намного лучше умеем находить правильный баланс, чем наши предки в каменном веке. Вопреки заявлениям о миссии таких корпораций, как Google и Facebook, простое увеличение скорости и эффективности наших информационных технологий не обязательно сделает мир лучше. Это лишь делает необходимость баланса между правдой и порядком более насущной. Изобретение истории преподало нам этот урок уже десятки тысяч лет назад. И этот же урок будет преподан снова, когда люди придумают свою вторую великую информационную технологию - письменный документ.

ГЛАВА 3.

Документы: Укус бумажных тигров

Истории были первой важнейшей информационной технологией, разработанной человеком. Они заложили основу всего масштабного человеческого сотрудничества и сделали людей самыми могущественными животными на земле. Но как информационная технология, истории имеют свои ограничения.

Чтобы понять это, вспомните, какую роль играет история в формировании наций. Многие нации зародились в воображении поэтов. Современный израильтянин помнит Сару Ааронсон и подпольщиков NILI как одних из первых сионистов, рисковавших жизнью в 1910-х годах ради создания еврейского государства в Палестине, но откуда у членов NILI появилась эта идея? Их вдохновляло предыдущее поколение поэтов, мыслителей и провидцев, таких как Теодор Герцль и Хаим Нахман Бялик.

В 1890-х годах и в первом десятилетии двадцатого века Бялик, украинский еврей, опубликовал множество стихов и рассказов, в которых оплакивал преследования и слабость европейских евреев и призывал их взять свою судьбу в руки - защищаться силой оружия, иммигрировать в Палестину и там основать собственное государство. Одно из его самых волнующих стихотворений было написано после Кишиневского погрома 1903 года, во время которого были убиты сорок девять евреев и еще десятки получили ранения. "В городе резни" осуждает антисемитскую толпу, совершившую эти злодеяния, но также критикует самих евреев за их пацифизм и беспомощность.

В одной душераздирающей сцене Бялик описывает, как еврейских женщин подвергали групповому изнасилованию, а их мужья и братья прятались поблизости, боясь вмешаться. В стихотворении еврейские мужчины сравниваются с испуганными мышами и представляют, как они тихо молили Бога совершить какое-нибудь чудо, которое так и не свершилось. Далее в поэме рассказывается о том, что даже после окончания погрома выжившие не думали вооружаться и вместо этого вступали в талмудические споры о том, стали ли изнасилованные женщины ритуально "оскверненными" или же они по-прежнему "чисты". Сегодня эта поэма является обязательным чтением во многих израильских школах. Она также обязательна к прочтению для всех, кто хочет понять, как после двух тысячелетий, в течение которых евреи были одной из самых пацифистских групп в истории, они создали одну из самых грозных армий в мире. Не зря Бялик был назван национальным поэтом Израиля.

Тот факт, что Бялик жил в Украине и был близко знаком с преследованиями евреев-ашкенази в Восточной Европе, но мало понимал условия в Палестине, способствовал последующему конфликту между евреями и арабами. Стихи Бялика вдохновляли евреев видеть себя жертвами, которым крайне необходимо развивать свою военную мощь и строить собственную страну, но почти не задумывались о катастрофических последствиях для арабских жителей Палестины или, более того, для еврейских общин Мизрахи, проживающих на Ближнем Востоке. Когда в конце 1940-х годов разразился арабо-израильский конфликт, сотни тысяч палестинцев и сотни тысяч евреев-мизрахи были изгнаны из домов своих предков на Ближнем Востоке, отчасти благодаря стихам, написанным за полвека до этого в Украине.

Пока Бялик писал в Украине, венгерский еврей Теодор Герцль занимался организацией сионистского движения в 1890-е и первые годы двадцатого века. В рамках своей политической деятельности Герцль опубликовал две книги. Еврейское государство" (1896) - манифест, в котором излагалась идея Герцля о создании еврейского государства в Палестине, и "Старая новая земля" (1902) - утопический роман, действие которого происходит в 1923 году и описывает процветающее еврейское государство, которое представлял себе Герцль. Эти две книги, в которых, к сожалению, не учитывались реальные условия жизни в Палестине, оказали огромное влияние на формирование сионистского движения. Книга "Старая новая земля" вышла на иврите под названием "Тель-Авив" (вольный перевод с иврита "Старая новая земля"). Город Тель-Авив, основанный через семь лет после выхода книги, получил свое название от нее. В то время как Бялик является национальным поэтом Израиля, Герцль известен как провидец государства.

Пряжа, которую плели Бялик и Герцль, игнорировала многие важные факты современной действительности, в частности то, что в 1900 году евреи Палестины составляли всего 6-9 процентов от общего населения региона, насчитывавшего около 600 000 человек. Пренебрегая такими демографическими фактами, Бялик и Герцль придавали огромное значение мифологии, в первую очередь библейским историям, без которых немыслим современный сионизм. На Бялика и Герцля также повлияли националистические мифы, созданные в XIX веке почти всеми другими этническими группами Европы. Украинский еврей Бялик и венгерский еврей Герцль сделали для сионизма то, что ранее сделали поэты Тарас Шевченко для украинского национализма, Шандор Петёфи для венгерского национализма, и Адам Мицкевич для польского национализма. Наблюдая за ростом других национальных движений вокруг, Герцль писал, что нации возникают "из снов, песен, фантазий ".

Но мечты, песни и фантазии, какими бы вдохновляющими они ни были, недостаточны для создания функционирующего национального государства. Бялик вдохновлял поколения еврейских бойцов, но для оснащения и содержания армии необходимо также собирать налоги и покупать оружие. Утопическая книга Герцля заложила основы города Тель-Авива, но для поддержания города в рабочем состоянии необходимо также проложить канализационную систему. Когда все сказано и сделано, суть патриотизма заключается не в чтении волнующих стихов о красоте родины и уж точно не в ненавистных речах против иностранцев и меньшинств. Скорее, патриотизм заключается в том, чтобы платить налоги, чтобы люди на другом конце страны также пользовались благами канализации, безопасности, образования и здравоохранения.

Чтобы управлять всеми этими службами и собирать необходимые налоги, нужно собирать, хранить и обрабатывать огромные объемы информации: сведения о собственности, платежах, льготах, скидках, долгах, инвентаризациях, поставках, бюджетах, счетах и зарплатах. Однако это не та информация, которую можно превратить в запоминающееся стихотворение или увлекательный миф. Вместо этого налоговая отчетность представляется в виде различных типов списков, начиная от простых записей по каждому пункту и заканчивая более сложными таблицами и электронными таблицами. Какими бы замысловатыми ни были эти наборы данных, они избегают повествования, сухо перечисляя суммы задолженностей и выплат. Поэты могут позволить себе игнорировать такие обыденные факты, но сборщики налогов - нет.

Списки имеют решающее значение не только для национальных налоговых систем, но и для почти всех других сложных финансовых институтов. Корпорации, банки и фондовые рынки не могут существовать без них. Церковь, университет или библиотека, желающие сбалансировать свой бюджет, вскоре понимают, что помимо священников и поэтов, умеющих завораживать людей рассказами, им нужны бухгалтеры, разбирающиеся в различных видах списков.

Списки и истории дополняют друг друга. Национальные мифы легитимизируют налоговые списки, а налоговые списки помогают превратить желаемые истории в конкретные школы и больницы. Нечто подобное происходит и в сфере финансов. Доллар, фунт стерлингов и биткоин - все они появляются на свет, убеждая людей поверить в ту или иную историю, а сказки, рассказываемые банкирами, министрами финансов и инвестиционными гуру, повышают или понижают их стоимость. Когда председатель Федеральной резервной системы хочет обуздать инфляцию, когда министр финансов хочет принять новый бюджет, когда технологический предприниматель хочет привлечь инвесторов, все они обращаются к рассказам. Но чтобы реально управлять банком, бюджетом или стартапом, списки просто необходимы.

Большая проблема со списками и важнейшее различие между списками и историями заключается в том, что списки, как правило, гораздо скучнее историй, а это значит, что если истории мы запоминаем легко, то списки - с трудом. Это важный факт о том, как человеческий мозг обрабатывает информацию. Эволюция приспособила наш мозг к тому, чтобы он хорошо усваивал, запоминал и обрабатывал даже очень большие объемы информации, если они оформлены в виде истории. Рамаяна", одно из основополагающих сказаний индуистской мифологии, насчитывает двадцать четыре тысячи стихов и занимает около семнадцатисот страниц в современных изданиях, однако, несмотря на ее огромный объем, поколения индусов успешно запоминали и декламировали ее наизусть.

В двадцатом и двадцать первом веках "Рамаяна" неоднократно адаптировалась для кино и телевидения. В 1987-88 годах семидесятивосьмисерийная версия (продолжительностью около 2730 часов) стала самым просматриваемым телесериалом в мире, собрав более 650 миллионов зрителей. Согласно репортажу BBC, во время показа эпизодов "улицы становились пустынными, магазины закрывались, а люди купались и украшали свои телевизоры". Во время блокировки "КОВИД-19" в 2020 году сериал был повторно показан и снова стал самым просматриваемым в мире. Хотя современным телезрителям не нужно заучивать тексты наизусть, примечательно, с какой легкостью они следят за запутанными сюжетами эпических драм, детективных триллеров и мыльных опер, запоминая, кто каждый персонаж и как он связан с множеством других. Мы настолько привыкли к подобным подвигам памяти, что редко задумываемся о том, насколько они необычны.

То, что мы так хорошо запоминаем эпические поэмы и долгоиграющие телесериалы, объясняется тем, что долговременная человеческая память особенно приспособлена к запоминанию историй. Как пишет Кендалл Хейвен в своей книге 2007 года Story Proof: The Science Behind the Startling Power of Story: "Человеческий разум... полагается на истории и на архитектуру историй как на основную дорожную карту для понимания, осмысления, запоминания и планирования нашей жизни.... Жизнь похожа на историю, потому что мы мыслим в терминах истории". Хейвен ссылается на более чем 120 научных исследований и приходит к выводу, что "исследования в подавляющем большинстве случаев убедительно и без возражений доказывают", что истории являются высокоэффективным "средством передачи фактической, концептуальной, эмоциональной и неявной информации".

Напротив, большинству людей трудно запомнить списки наизусть, и мало кому будет интересно смотреть по телевизору декламацию налоговых деклараций или годового бюджета Индии. Мнемонические методы, используемые для запоминания списков предметов, часто работают за счет вплетения этих предметов в сюжет, превращая тем самым список в историю. Но даже с помощью таких мнемонических устройств кто сможет запомнить налоговые отчеты или бюджет своей страны? Эта информация может быть жизненно важной - определять качество здравоохранения, образования и социального обеспечения граждан, - но наш мозг не приспособлен к запоминанию таких вещей. В отличие от национальных поэм и мифов, которые могут храниться в нашем мозгу, сложные национальные системы налогообложения и управления требуют для своего функционирования уникальной неорганической информационной технологии. Такой технологией является письменный документ.

УБИТЬ ЗАЕМЩИКА

Письменный документ был изобретен много раз и во многих местах. Одни из самых ранних примеров происходят из древней Месопотамии. На клинописной глиняной табличке, датированной двадцать восьмым днем десятого месяца сорок первого года правления царя Шульги из Ура (ок. 2053/4 г. до н. э.), записаны ежемесячные поставки овец и коз. На второй день месяца было доставлено 15 овец, на третий - 7, на четвертый - 11, на пятый - 219, на шестой - 47 и так далее, пока на двадцать восьмой не было доставлено 3 овцы. В общей сложности, говорится в глиняной табличке, в том месяце было получено 896 животных. Запомнить все эти поставки было важно для царской администрации, чтобы контролировать послушание людей и следить за имеющимися ресурсами. Если в голове это было непростой задачей, то для ученого писца не составляло труда записать их на глиняной табличке.

Как и истории, как и все другие информационные технологии в истории, письменные документы не всегда точно отражали реальность. Например, табличка из Ура содержит ошибку. В документе говорится, что всего за этот месяц было получено 896 животных, но когда современные ученые суммировали все отдельные записи, получилось 898. Писец, написавший документ, очевидно, ошибся при подсчете общего количества, и табличка сохранила эту ошибку для потомков.

Но независимо от того, правда это или ложь, письменные документы создавали новые реалии. Записывая списки имущества, налогов и платежей, они значительно облегчали создание административных систем, королевств, религиозных организаций и торговых сетей. Более того, документы изменили метод создания интерсубъективных реальностей. В устных культурах интерсубъективные реальности создавались путем рассказа истории, которую многие люди повторяли ртом и запоминали в своем мозгу. Объем мозга, следовательно, накладывал ограничение на виды межсубъективных реальностей, которые создавали люди. Люди не могли создать интерсубъективную реальность, которую их мозг не мог запомнить.

Однако это ограничение можно было преодолеть, написав документы. Документы не представляли объективную эмпирическую реальность; реальностью были сами документы. Как мы увидим в последующих главах, письменные документы таким образом создавали прецеденты и модели, которые в конечном итоге будут использоваться компьютерами. Способность компьютеров создавать интерсубъективные реальности - это продолжение силы глиняных табличек и листов бумаги.

В качестве примера можно привести право собственности. В устных сообществах, где не было письменных документов, право собственности было интерсубъективной реальностью, созданной словами и поведением членов сообщества. Владение полем означало, что ваши соседи соглашались с тем, что это поле принадлежит вам, и вели себя соответствующим образом. Они не строили на этом поле хижину, не пасли там свой скот и не собирали фрукты, не спросив предварительно вашего разрешения. Право собственности создавалось и поддерживалось людьми, которые постоянно что-то говорили или сигнализировали друг другу. Это делало право собственности делом местной общины и ограничивало возможности далекой центральной власти контролировать все землевладения. Ни один король, министр или священник не мог запомнить, кому принадлежит каждое поле в сотнях отдаленных деревень. Это также ограничивало возможности отдельных людей требовать и осуществлять абсолютные права собственности, а вместо этого благоприятствовало различным формам общинных прав собственности. Например, соседи могли признать ваше право возделывать поле, но не право продавать его иностранцам.

В грамотном государстве владение полем все чаще означало, что на какой-нибудь глиняной табличке, бамбуковой полоске, листке бумаги или кремниевом чипе написано, что вы владеете этим полем. Если ваши соседи годами пасут овец на участке земли, и никто из них никогда не говорил, что он принадлежит вам, но вы можете каким-то образом предъявить официальный документ, в котором говорится, что он ваш, у вас есть все шансы отстоять свои права. И наоборот, если все соседи согласны с тем, что это ваше поле, но у вас нет официального документа, подтверждающего это, вам не повезло. Право собственности по-прежнему является интерсубъективной реальностью, созданной путем обмена информацией, но теперь эта информация принимает форму письменного документа (или компьютерного файла), а не разговоров людей и жестов друг друга. Это означает, что право собственности теперь может быть определено центральным органом, который создает и хранит соответствующие документы. Это также означает, что вы можете продать свое поле, не спрашивая разрешения соседей, просто передав решающий документ другому лицу.

Способность документов создавать интерсубъективные реальности прекрасно проявилась в древнеассирийском диалекте, где к документам относились как к живым существам, которых также можно было убить. Договоры займа "убивали" (duākum), когда долг был погашен. Для этого табличку уничтожали, добавляли на нее какой-нибудь знак или ломали печать. Договор займа не отражал реальность, он был реальностью. Если кто-то погашал кредит, но не "убивал документ", долг оставался. И наоборот, если кто-то не вернул заем, но документ "умер" каким-то другим способом - возможно, его съела собака, - долга больше не было. То же самое происходит и с деньгами. Если ваша собака съест стодолларовую купюру, эти сто долларов перестанут существовать.

В Уре Шульги, в древней Ассирии и во многих последующих государствах социальные, экономические и политические отношения опирались на документы, которые создавали реальность, а не просто отображали ее. При написании конституций, мирных договоров и коммерческих контрактов юристы, политики и бизнесмены неделями и даже месяцами бьются над каждым словом, потому что знают, что эти листы бумаги могут обладать огромной силой.

БЮРОКРАТИЯ

Каждая новая информационная технология имеет свои неожиданные "узкие места". Она решает некоторые старые проблемы, но создает новые. В начале 1730-х годов до н. э. Нарамтани, жрица месопотамского города Сиппар, написала письмо (на глиняной табличке) своему родственнику, попросив его прислать ей несколько глиняных табличек, которые он хранил у себя дома. Она объяснила, что ее претензии на наследство оспариваются и без этих документов она не сможет доказать свою правоту в суде. Она закончила свое послание мольбой: "Не оставляй меня без внимания!"

Мы не знаем, что произошло дальше, но представьте себе ситуацию, если бы родственник обыскал свой дом, но не смог найти пропавшие планшеты. По мере того как люди создавали все больше и больше документов, найти их оказалось далеко не так просто. Особую сложность это представляло для королей, священников, купцов и всех остальных, кто накапливал тысячи документов в своих архивах. Как найти нужную налоговую запись, платежную квитанцию или деловой контракт в нужный момент? Письменные документы гораздо лучше человеческого мозга фиксировали определенные виды информации. Но они создали новую и очень сложную проблему: поиск информации.

Мозг удивительно эффективно извлекает любую информацию, хранящуюся в его сети из десятков миллиардов нейронов и триллионов синапсов. Хотя наш мозг хранит бесчисленное множество сложных историй о нашей личной жизни, национальной истории и религиозной мифологии, здоровые люди могут получить информацию о любой из них менее чем за секунду. Что вы ели на завтрак? Кто был вашей первой влюбленностью? Когда ваша страна обрела независимость? Какой первый стих в Библии?

Как вы извлекли все эти кусочки информации? Какой механизм активирует нужные нейроны и синапсы, чтобы быстро вызвать необходимую информацию? Хотя неврологи добились определенных успехов в изучении памяти, никто пока не понимает, что такое воспоминания и как именно они хранятся и извлекаются. Что мы знаем, так это то, что миллионы лет эволюции упорядочили процессы извлечения информации из мозга. Однако после того как люди перенесли воспоминания из органических мозгов в неорганические документы, извлечение информации уже не могло опираться на эту отлаженную биологическую систему. Он также не мог опираться на способности к добыче пищи, которые развивались у человека на протяжении миллионов лет. Эволюция приспособила человека к поиску фруктов и грибов в лесу, но не к поиску документов в архиве.

Кормильцы находят фрукты и грибы в лесу, потому что эволюция организовала леса в соответствии с заметным органическим порядком. Фруктовые деревья фотосинтезируют, поэтому им необходим солнечный свет. Грибы питаются мертвой органической материей, которую обычно можно найти в земле. Поэтому грибы обычно находятся на уровне почвы, в то время как фрукты растут дальше. Еще одно общее правило: яблоки растут на яблонях, а инжир - на инжирных деревьях. Поэтому, если вы ищете яблоко, вам нужно сначала найти яблоню, а потом посмотреть вверх. Живя в лесу, человек усваивает этот органический порядок.

С архивами дело обстоит совсем иначе. Поскольку документы - это не организмы, они не подчиняются никаким биологическим законам, и эволюция не организовала их для нас. Налоговые отчеты не растут на полке для налоговых отчетов. Их нужно туда положить. Для этого кто-то должен придумать, как разложить информацию по полочкам, и решить, какие документы должны лежать на той или иной полке. В отличие от фуражиров, которым нужно просто обнаружить существующий порядок в лесу, архивариусам приходится придумывать новый порядок для мира. Этот порядок называется бюрократией.

Бюрократия - это способ, с помощью которого люди в крупных организациях решили проблему поиска информации и тем самым создали более крупные и мощные информационные сети. Но, как и мифология, бюрократия тоже склонна жертвовать истиной ради порядка. Изобретая новый порядок и навязывая его миру, бюрократия исказила понимание мира уникальными способами. Многие из проблем информационных сетей XXI века - например, предвзятые алгоритмы, неправильно определяющие людей, или жесткие протоколы, игнорирующие человеческие потребности и чувства, - не являются новыми проблемами компьютерного века. Это квинтэссенция бюрократических проблем, которые существовали задолго до того, как кто-то даже мечтал о компьютерах.

БЮРОКРАТИЯ И ПОИСК ИСТИНЫ

Бюрократия буквально означает "правление через письменный стол". Этот термин был придуман во Франции XVIII века, когда типичный чиновник сидел рядом с письменным столом с ящиками - бюро. В основе бюрократического порядка, таким образом, лежит ящик. Бюрократия стремится решить проблему поиска информации, разделив мир на ящики и зная, какой документ в какой ящик попадает.

Принцип остается неизменным независимо от того, куда помещается документ - в ящик, на полку, в корзину, в банку, в компьютерную папку или в любую другую емкость: разделяй и властвуй. Разделите мир на контейнеры и держите их отдельно, чтобы документы не перепутались. Однако за этот принцип приходится платить. Вместо того чтобы сосредоточиться на понимании мира как он есть, бюрократия часто занята навязыванием миру нового, искусственного порядка. Бюрократы начинают с изобретения различных ящиков - интерсубъективных реальностей, которые не обязательно соответствуют какому-либо объективному разделению мира. Затем бюрократы пытаются заставить мир поместиться в эти ящики, а если поместиться не удается, бюрократы нажимают еще сильнее. Любой, кто когда-либо заполнял официальную форму, знает это слишком хорошо. Когда вы заполняете форму, и ни один из перечисленных вариантов не подходит к вашим обстоятельствам, вы должны приспособить себя к форме, а не форма приспосабливается к вам. Сведение беспорядочной реальности к ограниченному числу фиксированных ящиков помогает бюрократам поддерживать порядок, но это происходит за счет истины. Поскольку они зациклены на своих ящиках, даже если реальность гораздо сложнее, у бюрократов часто формируется искаженное понимание мира.

Стремление разделить реальность на жесткие ящики также заставляет бюрократов преследовать узкие цели, не считаясь с более широкими последствиями своих действий. Бюрократ, которому поручено увеличить промышленное производство, скорее всего, проигнорирует экологические соображения, не входящие в его компетенцию, и, возможно, сбросит токсичные отходы в близлежащую реку, что приведет к экологической катастрофе в нижнем течении. Если правительство создаст новый департамент по борьбе с загрязнением, его бюрократы, скорее всего, будут настаивать на введении все более жестких норм, даже если это приведет к экономическому разорению населенных пунктов выше по течению. В идеале кто-то должен уметь принимать во внимание все различные соображения и аспекты, но такой целостный подход требует преодоления или отмены бюрократического разделения.

Искажения, создаваемые бюрократией, затрагивают не только государственные учреждения и частные корпорации, но и научные дисциплины. Рассмотрим, например, как университеты делятся на различные факультеты и отделения. История отделена от биологии и математики. Почему? Конечно, такое деление не отражает объективной реальности. Это интерсубъективное изобретение академических бюрократов. Например, пандемия COVID-19 была одновременно и историческим, и биологическим, и математическим событием. Но академическое изучение пандемий разделено между отдельными факультетами истории, биологии и математики (среди прочих). Студенты, получающие академическую степень, обычно должны решить, к какому из этих факультетов они относятся. Это решение ограничивает их выбор курсов, что, в свою очередь, формирует их понимание мира. Студенты-математики учатся предсказывать будущий уровень заболеваемости на основе нынешних показателей инфекции; студенты-биологи изучают, как вирусы мутируют с течением времени; а студенты-историки - как религиозные и политические убеждения влияют на готовность людей следовать указаниям правительства. Чтобы полностью понять COVID-19, необходимо учитывать математические, биологические и исторические явления, но академическая бюрократия не поощряет такой целостный подход.

По мере того как вы поднимаетесь по академической лестнице, давление, связанное со специализацией, только усиливается. В академическом мире действует закон "опубликуй или погибни". Если вы хотите получить работу, вы должны публиковаться в рецензируемых журналах. Но журналы делятся по дисциплинам, и публикация статьи о мутациях вирусов в биологическом журнале требует соблюдения иных конвенций, чем публикация статьи о политике пандемий в историческом журнале. Там разные жаргоны, разные правила цитирования и разные ожидания. Историки должны глубоко понимать культуру и уметь читать и интерпретировать исторические документы. Биологи должны глубоко понимать эволюцию и знать, как читать и интерпретировать молекулы ДНК. То, что попадает в промежуточные категории - например, взаимодействие между человеческими политическими идеологиями и эволюцией вирусов, - часто остается без внимания.

Чтобы понять, как ученые принуждают беспорядочный и изменчивый мир к жестким бюрократическим категориям, давайте немного углубимся в конкретную дисциплину - биологию. Прежде чем Дарвин смог объяснить происхождение видов, ученые, такие как Карл Линней, сначала должны были определить, что такое вид, и классифицировать все живые организмы по видам. Чтобы утверждать, что львы и тигры произошли от общего кошачьего предка, нужно сначала дать определение "львам" и "тиграм". Это оказалось сложной и бесконечной работой, потому что животные, растения и другие организмы часто нарушают границы отведенных им ящиков.

Эволюцию невозможно вместить в какую-либо бюрократическую схему. Суть эволюции в том, что виды постоянно меняются, а значит, помещение каждого вида в один неизменный ящик искажает биологическую реальность. Например, вопрос о том, когда закончился вид Homo erectus и начался вид Homo sapiens, остается открытым. Были ли когда-то два родителя Erectus, чей ребенок стал первым сапиенсом? Виды также продолжают смешиваться, и животные, принадлежащие, казалось бы, к разным видам, не только занимаются сексом, но даже дают плодовитое потомство. Большинство современных сапиенсов имеют около 1-3 процентов неандертальской ДНК, что указывает на то, что когда-то был ребенок, чей отец был неандертальцем, а мать - сапиенсом (или наоборот). Так сапиенсы и неандертальцы - это один и тот же вид или разные виды? И является ли "вид" объективной реальностью, которую открывают биологи, или это интерсубъективная реальность, которую навязывают биологи?

Существует множество других примеров того, как животные выходят из своих ящиков, поэтому аккуратное бюрократическое деление не позволяет точно классифицировать кольцевые виды, виды слияния и гибриды. От медведей гризли и белых медведей иногда появляются медведи-пизли и медведи-гролары. От львов и тигров появляются лигры и тигоны.

Когда мы переносим свое внимание с млекопитающих и других многоклеточных организмов на мир одноклеточных бактерий и архей, то обнаруживаем, что там царит анархия. В процессе, известном как горизонтальный перенос генов, одноклеточные организмы регулярно обмениваются генетическим материалом не только с организмами из родственных видов, но и с организмами из совершенно других родов, царств, порядков и даже доменов. Бактериологам очень трудно следить за этими химерами.

А когда мы добираемся до самого края жизни и рассматриваем такие вирусы, как SARS-CoV-2 (ответственный за COVID-19), все становится еще сложнее. Вирусы пересекают предполагаемую жесткую границу между живыми существами и безжизненной материей - между биологией и химией. В отличие от бактерий, вирусы не являются одноклеточными организмами. Они вообще не являются клетками и не обладают собственным клеточным механизмом. Вирусы не питаются, не участвуют в обмене веществ и не могут размножаться самостоятельно. Они представляют собой крошечные пакеты генетического кода, которые способны проникать в клетки, захватывать их клеточные механизмы и инструктировать их производить больше копий этого чужеродного генетического кода. Новые копии вырываются из клетки, чтобы заразить и захватить другие клетки, и так чужеродный код превращается в вирус. Ученые бесконечно спорят о том, следует ли считать вирусы формами жизни или они выходят за границы жизни. Но эта граница не является объективной реальностью, это межсубъективная конвенция. Даже если биологи придут к единому мнению, что вирусы - это формы жизни, это ничего не изменит в поведении вирусов; изменится только то, как люди думают о них.

Конечно, интерсубъективные конвенции сами по себе являются частью реальности. По мере того как мы, люди, становимся все более могущественными, наши интерсубъективные убеждения становятся все более значимыми для мира за пределами наших информационных сетей. Например, ученые и законодатели классифицируют виды животных в зависимости от угрозы их вымирания по шкале от "наименее опасного" до "уязвимого" и от "находящегося под угрозой" до "вымирающего". Определение конкретной популяции животных как "исчезающего вида" - это интерсубъективная человеческая конвенция, но она может иметь далеко идущие последствия, например, ввести законодательные ограничения на охоту на этих животных или уничтожить их среду обитания. Бюрократическое решение о том, относится ли то или иное животное к "исчезающим видам" или к "уязвимым видам", может стать разницей между жизнью и смертью. Как мы еще не раз увидим в последующих главах, когда бюрократия навешивает на вас ярлык, даже если этот ярлык может быть чистой условностью, он все равно может определить вашу судьбу. И неважно, кто этот бюрократ - эксперт по животным из плоти и крови, эксперт по людям из плоти и крови или неорганический ИИ.

ГЛУБИННОЕ ГОСУДАРСТВО

В защиту бюрократии следует отметить, что, хотя она иногда жертвует истиной и искажает наше понимание мира, часто она делает это ради порядка, без которого трудно поддерживать любую масштабную человеческую сеть. Хотя бюрократия никогда не бывает идеальной, есть ли лучший способ управлять большими сетями? Например, если бы мы решили упразднить все традиционные деления в академическом мире, все кафедры, факультеты и специализированные журналы, то каждый будущий врач должен был бы посвятить несколько лет изучению истории, а люди, изучавшие влияние Черной смерти на христианскую теологию, считались бы экспертами-вирусологами? Приведет ли это к улучшению систем здравоохранения?

Всем, кто фантазирует об упразднении всех бюрократий в пользу более целостного подхода к миру, стоит задуматься о том, что больницы тоже являются бюрократическими учреждениями. Они разделены на различные отделения, имеют иерархию, протоколы и множество форм для заполнения. Они страдают от многих бюрократических болезней, но им все же удается излечить нас от многих биологических недугов. То же самое касается и почти всех других служб, которые делают нашу жизнь лучше, - от школ до канализации.

Когда вы спускаете воду в туалете, куда деваются отходы? В "глубинное государство". Под нашими домами проложена сложная подземная сеть труб, насосов и туннелей, которая собирает наши отходы, отделяет их от питьевой воды и либо перерабатывает, либо безопасно утилизирует. Кто-то должен проектировать, строить и обслуживать эту глубокую сеть, затыкать в ней дыры, следить за уровнем загрязнения и платить рабочим. Это тоже бюрократическая работа, и мы столкнемся с большим количеством неудобств и даже смертей, если упраздним этот отдел. Сточные воды и питьевая вода всегда находятся в опасности смешения, но, к счастью для нас, есть бюрократы, которые держат их отдельно.

До создания современных канализационных систем инфекционные заболевания, передающиеся через воду, такие как дизентерия и холера, уносили жизни миллионов людей по всему миру. В 1854 году сотни жителей Лондона начали умирать от холеры. Это была относительно небольшая вспышка, но она стала поворотным пунктом в истории холеры, эпидемий в целом и канализации. Ведущая медицинская теория того времени утверждала, что эпидемии холеры вызываются "плохим воздухом". Но врач Джон Сноу подозревал, что причина кроется в водоснабжении. Он кропотливо отслеживал и перечислял всех известных больных холерой, их место жительства и источник воды. Полученные данные позволили ему определить водокачку на Брод-стрит в Сохо как эпицентр вспышки.

Это была утомительная бюрократическая работа - сбор данных, их категоризация и нанесение на карту, - но она спасала жизни. Сноу объяснил свои выводы местным чиновникам и убедил их отключить насос на Брод-стрит, что фактически положило конец вспышке заболевания. Последующие исследования показали, что колодец, подающий воду в насос на Брод-стрит, был вырыт менее чем в метре от зараженной холерой выгребной ямы.

Открытие Сноу и работа многих последующих ученых, инженеров, юристов и чиновников привели к появлению разросшейся бюрократической системы, регулирующей работу выгребных ям, водяных насосов и канализационных линий. В современной Англии рытье колодцев и строительство выгребных ям требует заполнения форм и получения лицензий, которые гарантируют, что питьевая вода не будет поступать из колодца, который кто-то вырыл рядом с выгребной ямой.

Об этой системе легко забыть, когда она хорошо работает, но с 1854 года она спасла миллионы жизней, и это одна из самых важных услуг, предоставляемых современными государствами. В 2014 году премьер-министр Индии Нарендра Моди назвал отсутствие туалетов одной из главных проблем страны. Открытая дефекация является одной из основных причин распространения таких заболеваний, как холера, дизентерия и диарея, а также подвергает женщин и девочек сексуальному насилию. В рамках своей флагманской миссии "Чистая Индия" Моди пообещал обеспечить всех граждан Индии доступом к туалетам, и с 2014 по 2020 год индийское государство инвестировало в проект около десяти миллиардов долларов, построив более 100 миллионов новых туалетов. Канализация - это не предмет эпических поэм, но это проверка хорошо функционирующего государства.

БИОЛОГИЧЕСКИЕ ДРАМЫ

Мифология и бюрократия - близнецы-столпы любого крупного общества. Но если мифология, как правило, вызывает восхищение, то бюрократия, как правило, внушает подозрение. Несмотря на услуги, которые они оказывают, даже полезные бюрократические структуры часто не могут завоевать доверие общества. Для многих людей само слово "бюрократия" несет в себе негативный оттенок. Это связано с тем, что по своей сути трудно определить, является ли бюрократическая система полезной или вредоносной. У всех бюрократий - хороших или плохих - есть одна общая черта: человеку трудно их понять.

Любой ребенок может отличить друга от хулигана. Вы знаете, делится ли кто-то с вами своим обедом или забирает ваш. Но когда сборщик налогов приходит, чтобы взять часть ваших доходов, как вы можете сказать, пойдут ли они на строительство новой общественной канализации или новой частной дачи для президента? Трудно получить всю необходимую информацию, а еще труднее ее интерпретировать. Точно так же гражданам трудно разобраться в бюрократических процедурах, определяющих, как принимают учеников в школы, как лечат пациентов в больницах или как собирают и перерабатывают мусор. Чтобы написать в твиттере обвинения в предвзятости, мошенничестве или коррупции, требуется минута, а чтобы доказать или опровергнуть их - многие недели кропотливой работы.

Документы, архивы, формы, лицензии, регламенты и прочие бюрократические процедуры изменили способ передачи информации в обществе, а вместе с ним и способ работы власти. Это значительно усложнило понимание власти. Что происходит за закрытыми дверями офисов и архивов, где анонимные чиновники анализируют и систематизируют кипы документов и определяют нашу судьбу росчерком пера или щелчком мыши?

В племенных обществах, где нет письменных документов и бюрократии, человеческая сеть состоит только из цепочек "человек-человек" и "человек-история". Власть принадлежит тем, кто контролирует узлы, соединяющие различные цепи. Эти узлы - основополагающие мифы племени. Харизматичные лидеры, ораторы и создатели мифов знают, как использовать эти истории для формирования идентичности, создания альянсов и воздействия на эмоции.

В человеческих сетях, связанных письменными документами и бюрократическими процедурами - от древнего Ура до современной Индии, - общество отчасти зависит от взаимодействия между людьми и документами. Помимо цепочек "человек-человек" и "человек-история", такие общества удерживаются вместе цепочками "человек-документ". Наблюдая за работой бюрократического общества, мы по-прежнему видим людей, рассказывающих истории другим людям, как, например, когда миллионы индийцев смотрят сериал "Рамаяна", но мы также видим людей, передающих документы другим людям, как, например, когда телевизионные сети должны подавать заявки на получение лицензий на вещание и заполнять налоговые отчеты. Если посмотреть на это с другой стороны, то мы видим, что документы заставляют людей взаимодействовать с другими документами.

Это привело к изменению авторитета. Поскольку документы стали важнейшим звеном, связывающим множество социальных цепочек, в них стала вкладываться значительная власть, а эксперты в заумной логике документов превратились в новых авторитетных фигур. Администраторы, бухгалтеры и юристы овладевали не только чтением и письмом, но и навыками составления бланков, разделения ящиков и управления архивами. В бюрократических системах власть часто приходит благодаря умению манипулировать непонятными бюджетными лазейками и знанию путей в лабиринтах офисов, комитетов и подкомитетов.

Это смещение власти изменило баланс сил в мире. К лучшему или худшему, но грамотные бюрократии, как правило, укрепляли центральную власть за счет простых граждан. Дело не только в том, что с помощью документов и архивов центру было проще облагать всех налогами, судить и призывать в армию. Сложность понимания бюрократической власти одновременно затрудняла влияние масс на центральную власть, их сопротивление или уклонение от нее. Даже когда бюрократия была благотворной силой, обеспечивая людей канализацией, образованием и безопасностью, она все равно увеличивала разрыв между правителями и управляемыми. Система позволяла центру собирать и записывать гораздо больше информации о людях, которыми он управлял, в то время как последним было гораздо сложнее понять, как работает сама система.

Искусство, которое помогает нам понять многие другие аспекты жизни, в данном случае оказало лишь ограниченную помощь. Поэты, драматурги и кинематографисты время от времени обращали внимание на динамику бюрократической власти. Однако это оказалось очень сложной для передачи историей. Художники обычно работают с ограниченным набором сюжетных линий, уходящих корнями в нашу биологию, но ни одна из этих биологических драм не проливает свет на работу бюрократии, потому что все они были написаны эволюцией за миллионы лет до появления документов и архивов. Чтобы понять, что такое "биологические драмы" и почему они являются плохим руководством для понимания бюрократии, давайте подробно рассмотрим сюжет одного из величайших художественных шедевров человечества - "Рамаяны".

Одна из важных сюжетных линий "Рамаяны" касается отношений между одноименным принцем Рамой, его отцом, царем Дашаратхой, и мачехой, царицей Кайкейи. Хотя Рама, будучи старшим сыном, является законным наследником царства, Кайкейи убеждает царя изгнать Раму в пустыню и передать наследство своему сыну Бхарате. В основе этой сюжетной линии лежат несколько биологических драм, уходящих на сотни миллионов лет назад в эволюцию млекопитающих и птиц.

Все детеныши млекопитающих и птиц зависят от своих родителей на первом этапе жизни, ищут родительской заботы и боятся родительского пренебрежения или враждебности. Жизнь и смерть висят на волоске. Детенышу или птенцу, слишком рано выпорхнувшему из гнезда, грозит смерть от голода или хищничества. Среди людей страх быть обделенным вниманием или брошенным родителями является шаблоном не только для таких детских сказок, как "Белоснежка", "Золушка" и "Гарри Поттер", но и для некоторых из наших самых влиятельных национальных и религиозных мифов. Рамаяна - далеко не единственный пример. В христианской теологии проклятие понимается как потеря связи с матерью-церковью и небесным отцом. Ад - это потерянный ребенок, плачущий о своих пропавших родителях.

Связанная с этим биологическая драма, знакомая и человеческим детям, и детенышам млекопитающих, и птенцам птиц, звучит так: "Отец любит меня больше, чем тебя". Биологи и генетики считают соперничество между братьями и сестрами одним из ключевых процессов эволюции. Братья и сестры постоянно конкурируют за пищу и родительское внимание, а у некоторых видов убийство одного брата другим - обычное дело. Около четверти детенышей пятнистой гиены убивают их братья и сестры, которые в результате обычно получают больше родительской заботы. У песчаных тигровых акул самки держат в матке множество эмбрионов. Первый эмбрион, достигший в длину около десяти сантиметров, съедает всех остальных. Динамика соперничества братьев и сестер проявляется не только в "Рамаяне", но и в многочисленных мифах, например, в историях о Каине и Авеле, короле Лире и телесериале "Наследство". Целые народы, например еврейский, могут основывать свою идентичность на утверждении, что "мы - любимые дети отца".

Вторая основная сюжетная линия "Рамаяны" сосредоточена на романтическом треугольнике, образованном принцем Рамой, его возлюбленной Ситой и царем демонов Раваной, который похищает Ситу. "Мальчик встречает девочку" и "мальчик борется с мальчиком за девочку" - это также биологические драмы, которые разыгрываются бесчисленными млекопитающими, птицами, рептилиями и рыбами на протяжении сотен миллионов лет. Нас завораживают эти истории, потому что их понимание было необходимо для выживания наших предков. Такие сказочники, как Гомер, Шекспир и Вальмики - предполагаемый автор "Рамаяны", - проявили удивительную способность к детализации биологических драм, но даже самые великие поэтические повествования обычно копируют свою основную сюжетную линию из справочника по эволюции.

Третья тема, повторяющаяся в "Рамаяне", - это напряжение между чистотой и нечистотой, причем Сита является образцом чистоты в индуистской культуре. Культурная одержимость чистотой берет свое начало в эволюционной борьбе за то, чтобы избежать загрязнения. Все животные разрываются между потребностью попробовать новую пищу и страхом быть отравленными. Поэтому эволюция наделила животных как любопытством, так и способностью испытывать отвращение при контакте с чем-то токсичным или опасным. Политики и пророки научились манипулировать этими механизмами отвращения. В националистических и религиозных мифах страны или церкви изображаются как биологический организм, которому угрожает опасность быть загрязненным нечистыми нарушителями. На протяжении веков фанатики часто говорили, что этнические и религиозные меньшинства распространяют болезни, что ЛГБТК являются источником загрязнения, или что женщины нечисты. Во время геноцида в Руанде в 1994 году пропаганда хуту называла тутси тараканами. Нацисты сравнивали евреев с крысами. Эксперименты показали, что шимпанзе тоже реагируют с отвращением на изображения незнакомых шимпанзе из другой группы.

Пожалуй, ни в одной другой культуре биологическая драма "чистота против нечистоты" не была доведена до такой крайности, как в традиционном индуизме. В нем была создана интерсубъективная система каст, ранжированных по предполагаемому уровню чистоты, с чистыми браминами на вершине и якобы нечистыми далитами (ранее известными как неприкасаемые) в самом низу. Профессии, инструменты и повседневная деятельность также классифицировались по степени чистоты, а строгие правила запрещали "нечистым" людям вступать в брак с "чистыми", прикасаться к ним, готовить для них еду или даже приближаться к ним.

Современное государство Индия до сих пор борется с этим наследием, которое влияет практически на все аспекты жизни. Например, страх перед нечистотой создавал различные сложности для вышеупомянутой миссии "Чистая Индия", поскольку якобы "чистые" люди не желали участвовать в "нечистой" деятельности, такой как строительство, обслуживание и чистка туалетов, или делить общественные уборные с якобы "нечистыми" людьми. 25 сентября 2019 года двое детей далитов - двенадцатилетняя Рошни Валмики и ее десятилетний племянник Авинаш - были линчеваны в индийской деревне Бхакхеди за то, что испражнялись возле дома семьи из высшей касты Ядав. Они были вынуждены испражняться у всех на виду, потому что в их домах не было туалетов. Позже местный чиновник объяснил, что их семья, хотя и была одной из самых бедных в деревне, тем не менее была исключена из списка семей, имеющих право на получение государственной помощи для строительства туалетов. Дети регулярно страдали от других видов дискриминации по кастовому признаку, например, их заставляли приносить в школу отдельные коврики и посуду и сидеть отдельно от других учеников, чтобы не "загрязнять" их.

В список биологических драм, которые нажимают на наши эмоциональные кнопки, входит еще несколько классических, таких как "Кто будет альфа?". "Мы против них" и "Добро против зла". Эти драмы также занимают видное место в "Рамаяне", и все они хорошо известны волчьим стаям и группам шимпанзе, а также человеческим обществам. Вместе эти биологические драмы составляют основу почти всего человеческого искусства и мифологии. Но зависимость искусства от биологических драм затрудняет объяснение художниками механизмов бюрократии. Действие "Рамаяны" происходит в контексте крупных аграрных королевств, но она не проявляет особого интереса к тому, как в таких королевствах регистрируется собственность, собираются налоги, каталогизируются архивы или финансируются войны. Соперничество братьев и сестер и романтические треугольники - не лучший ориентир для динамики документов, в которых нет ни братьев, ни сестер, ни романтической жизни.

Такие сказочники, как Франц Кафка, сосредоточившийся на зачастую сюрреалистических способах, которыми бюрократия формирует человеческие жизни, стали первопроходцами в создании новых небиологических сюжетов. В "Испытании" Кафки банковский клерк К. арестован неизвестными чиновниками непонятного ведомства за неназванное преступление. Несмотря на все усилия, он так и не понимает, что с ним происходит, и не раскрывает целей ведомства, которое его преследует. Хотя иногда этот рассказ воспринимается как экзистенциальная или теологическая ссылка на положение человека во Вселенной и непостижимость Бога, на более обыденном уровне он подчеркивает потенциально кошмарный характер бюрократии, которую Кафка, будучи страховым юристом, знал слишком хорошо.

В бюрократических обществах жизнь обычных людей часто нарушается неизвестными чиновниками из непонятного ведомства по непонятным причинам. В то время как истории о героях, противостоящих монстрам, - от Рамаяны до Человека-паука - повторяют биологические драмы противостояния хищникам и романтическим соперникам, уникальный ужас кафкианских историй проистекает из непостижимости угрозы. Эволюция подготовила наш разум к восприятию смерти от тигра. Нам гораздо сложнее понять смерть от документа.

Некоторые изображения бюрократии носят сатирический характер. В культовом романе Джозефа Хеллера "Уловка-22" 1961 года показана центральная роль бюрократии на войне. Бывший рядовой первого класса Уинтергрин в почтовом отделении, который решает, какие письма пересылать, - фигура более влиятельная, чем любой генерал. Британские ситкомы 1980-х годов "Да, министр" и "Да, премьер-министр" показали, как государственные служащие используют запутанные правила, непонятные подкомитеты и кипы документов, чтобы манипулировать и контролировать своих политических боссов. Комедийная драма 2015 года "Большой куш" (The Big Short), основанная на книге Майкла Льюиса (Michael Lewis) 2010 года, исследует бюрократические корни финансового кризиса 2007-8 годов. Главные злодеи фильма - не люди, а залоговые долговые обязательства (CDO) - финансовые устройства, придуманные инвестиционными банкирами и не понятные никому в мире. Эти бюрократические Годзиллы дремали незамеченными в глубинах банковских портфелей, пока внезапно не появились в 2007 году, чтобы посеять хаос в жизни миллиардов людей, спровоцировав масштабный финансовый кризис.

Подобные произведения искусства добились определенного успеха в формировании представлений о том, как работает бюрократическая власть, но это нелегкая битва, поскольку еще с каменного века наше сознание было настроено на биологические драмы, а не на бюрократические. Большинство голливудских и болливудских блокбастеров - не о CDO. Скорее, даже в XXI веке большинство блокбастеров - это, по сути, истории каменного века о герое, который сражается с чудовищем, чтобы завоевать девушку. Точно так же, изображая динамику политической власти, такие сериалы, как "Игра престолов", "Корона" и "Наследство", фокусируются на семейных интригах династического двора, а не на бюрократических лабиринтах, которые поддерживают - а иногда и ограничивают - власть династии.

ДАВАЙТЕ УБЬЕМ ВСЕХ АДВОКАТОВ

Сложность изображения и понимания бюрократической реальности приводит к печальным результатам. С одной стороны, это заставляет людей чувствовать себя беспомощными перед лицом непонятных им вредных сил, подобно герою "Испытания" Кафки. С другой стороны, у людей создается впечатление, что бюрократия - это злой заговор, даже в тех случаях, когда на самом деле она является благотворной силой, обеспечивающей нам здравоохранение, безопасность и правосудие.

В XVI веке Людовико Ариосто описал аллегорическую фигуру Раздора как женщину, которая ходит в облаке "снопов повесток и предписаний, перекрестных допросов и доверенностей, огромных куч глосс, адвокатских заключений и прецедентов - все это усугубляло незащищенность обедневших людей. Спереди, сзади и по обе стороны ее теснили нотариусы, адвокаты и барристеры".

В описании восстания Джека Кейда (1450) в книге "Генрих VI, часть 2" Шекспир доводит до логического конца антипатию к бюрократии, которую испытывает простолюдин-бунтарь по имени Дик Мясник. У Дика есть план по установлению лучшего общественного порядка. "Первым делом, - советует Дик, - давайте убьем всех адвокатов". Лидер повстанцев Джек Кейд сопровождает предложение Дика мощной атакой на бюрократию и, в частности, на письменные документы: "Разве не прискорбно, что из шкуры невинного ягненка делают пергамент? Что пергамент, будучи исписанным, должен разлучить человека? Некоторые говорят, что пчела жалит, а я говорю, что это пчелиный воск; ибо я лишь однажды припечатался к вещи, и с тех пор я никогда не был самим собой". Как раз в это время повстанцы захватывают клерка и обвиняют его в том, что он умеет писать и читать. После короткого допроса, в ходе которого выясняется его "преступление", Кейд приказывает своим людям: "Повесить его с пером и чернильницей на шее".

За семьдесят лет до восстания Джека Кейда, во время еще более масштабного Крестьянского восстания 1381 года, повстанцы обрушили свой гнев не только на бюрократов из плоти и крови, но и на их документы, уничтожив множество архивов, сжигая судебные протоколы, хартии, административные и юридические записи. В одном случае они сожгли архивы Кембриджского университета. Пожилая женщина по имени Марджери Старр развеяла пепел по ветру с криками: "Прочь ученость клерков, прочь!". Томас Уолсингем, монах аббатства Сент-Олбанс, который был непосредственным свидетелем уничтожения архива аббатства, описывал, как мятежники "подожгли все судебные протоколы и мунименты, чтобы после того, как они избавятся от этих записей об их древней службе, их лорды не смогли бы предъявить им никаких прав в будущем".

Подобные нападения на архивы были характерны для многих других повстанческих движений на протяжении всей истории. Например, во время Великого еврейского восстания в 66 году н. э. одним из первых действий повстанцев после захвата Иерусалима был поджог центрального архива, чтобы уничтожить записи о долгах и тем самым заручиться поддержкой населения. Во время Французской революции 1789 года по аналогичным причинам были уничтожены многочисленные местные и региональные архивы. Многие повстанцы могли быть неграмотными, но они знали, что без документов бюрократическая машина не сможет функционировать.

Я с пониманием отношусь к подозрительности правительственных бюрократий и власти официальных документов, потому что они сыграли важную роль в моей собственной семье. Жизнь моего деда по материнской линии перевернула государственная перепись населения и невозможность найти важнейший документ. Мой дед Бруно Люттингер родился в 1913 году в Черновцах. Сегодня этот город находится в Украине, но в 1913 году он был частью империи Габсбургов. Отец Бруно пропал без вести во время Первой мировой войны, и его воспитывала мать, Хая-Перл. Когда война закончилась, Черновцы были присоединены к Румынии. В конце 1930-х годов, когда Румыния превратилась в фашистскую диктатуру, важным планом ее новой антисемитской политики стало проведение переписи евреев.

В 1936 году, согласно официальной статистике, в Румынии проживало 758 000 евреев, что составляло 4,2 процента населения. По той же официальной статистике, общее число беженцев из СССР, евреев и неевреев, составляло около 11 000 человек. В 1937 году к власти пришло новое фашистское правительство, которое возглавил премьер-министр Октавиан Гога. Гога был известным поэтом, а также политиком, но от патриотической поэзии он быстро перешел к фальшивой статистике и деспотичной бюрократии. Он и его коллеги игнорировали официальную статистику и утверждали, что в Румынию хлынули сотни тысяч еврейских беженцев. В нескольких интервью Гога утверждал, что полмиллиона евреев въехали в Румынию нелегально и что общее число евреев в стране составляет 1,5 миллиона. Правительственные органы, ультраправые статистики и популярные газеты регулярно называли еще более высокие цифры. Румынское посольство в Париже, например, утверждало, что в Румынии находится миллион еврейских беженцев. Румыны-христиане были охвачены массовой истерией по поводу того, что их скоро заменят или они станут меньшинством в стране, возглавляемой евреями.

Правительство Гоги вмешалось, чтобы предложить решение воображаемой проблемы, придуманной его собственной пропагандой. 22 января 1938 года правительство издало закон, предписывающий всем евреям в Румынии предоставить документальное подтверждение того, что они родились на территории Румынии и имеют право на румынское гражданство. Евреи, не предоставившие доказательств, теряли гражданство, а также все права на проживание и работу.

Внезапно евреи Румынии оказались в бюрократическом аду. Многим пришлось отправиться на родину в поисках соответствующих документов, чтобы обнаружить, что муниципальные архивы были уничтожены во время Первой мировой войны. Евреи, родившиеся на территориях, присоединенных к Румынии только после 1918 года, как Черновцы, столкнулись с особыми трудностями, поскольку у них не было румынских свидетельств о рождении, а многие другие документы об их семьях хранились не в Бухаресте, а в бывших габсбургских столицах - Вене и Будапеште. Евреи часто даже не знали, какие документы им следует искать, поскольку в законе о переписи не было указано, какие документы считаются достаточным "доказательством".

Клерки и архивариусы получили новый и прибыльный источник дохода, поскольку неистовые евреи предлагали большие взятки, чтобы получить в свои руки нужный документ. Даже если взятки не было, процесс был чрезвычайно затратным: любой запрос документов, равно как и подача заявления о гражданстве в органы власти, требовали уплаты пошлины. Поиск и подача нужного документа не гарантировали успеха. Разницы в одной букве между написанием имени в свидетельстве о рождении и в документах на гражданство было достаточно, чтобы власти лишили гражданства.

Многие евреи не смогли преодолеть эти бюрократические препоны и даже не подали заявление на получение гражданства. Из тех, кто подал, только 63 % получили разрешение на получение гражданства. В общей сложности из 758 000 румынских евреев 367 000 потеряли свое гражданство. Среди них был и мой дедушка Бруно. Когда в Бухаресте был принят новый закон о переписи населения, Бруно не стал долго раздумывать. Он родился в Черновцах и прожил там всю свою жизнь. Мысль о том, что ему нужно доказывать какому-то бюрократу, что он не иностранец, показалась ему нелепой. К тому же в начале 1938 года заболела и умерла его мать, и Бруно почувствовал, что у него есть куда более важные заботы, чем погоня за документами.

В декабре 1938 года из Бухареста пришло официальное письмо, аннулирующее гражданство Бруно, и его, как иностранца, немедленно уволили с работы в черновицком радиомагазине. Теперь Бруно был не только одинок и безработен, но и лишен гражданства, и у него не было особых перспектив найти другую работу. Девять месяцев спустя началась Вторая мировая война, и опасность для безбумажных евреев возрастала. Из румынских евреев, потерявших гражданство в 1938 году, подавляющее большинство было убито в течение следующих нескольких лет румынскими фашистами и их союзниками-нацистами (у евреев, сохранивших гражданство, процент выживания был гораздо выше).

Мой дед неоднократно пытался сбежать из затягивающейся петли, но без нужных документов это было сложно. Несколько раз он тайно пробирался на поезда и корабли, но его ловили и арестовывали. В 1940 году ему наконец удалось сесть на один из последних кораблей, направлявшихся в Палестину, прежде чем врата ада захлопнулись. Когда он прибыл в Палестину, его сразу же заключили в тюрьму британцы как нелегального иммигранта. После двух месяцев заключения британцы предложили ему сделку: остаться в тюрьме и подвергнуться риску депортации или поступить на службу в британскую армию и получить палестинское гражданство. Мой дед ухватился за это предложение обеими руками и с 1941 по 1945 год служил в британской армии в Североафриканской и Итальянской кампаниях. В обмен он получил свои документы.

В нашей семье сохранение документов стало священным долгом. Банковские выписки, счета за электричество, студенческие билеты с истекшим сроком действия, письма из муниципалитета - если на них стояла официальная печать, они отправлялись в одну из многочисленных папок в нашем шкафу. Никогда не знаешь, какой из этих документов в один прекрасный день может спасти тебе жизнь.

ЧУДОДЕЙСТВЕННЫЙ ДОКУМЕНТ

Должны ли мы любить бюрократическую информационную сеть или ненавидеть ее? Истории, подобные той, что произошла с моим дедом, указывают на опасности, присущие бюрократической власти. Истории, подобные лондонской эпидемии холеры, указывают на ее потенциальную благотворность. Все мощные информационные сети могут приносить как пользу, так и вред, в зависимости от того, как они спроектированы и используются. Простое увеличение количества информации в сети не гарантирует ее благотворности и не облегчает поиск правильного баланса между правдой и порядком. Это ключевой исторический урок для разработчиков и пользователей новых информационных сетей XXI века.

Информационные сети будущего, особенно основанные на ИИ, будут во многом отличаться от прежних. Если в первой части мы рассматривали, как мифология и бюрократия были важны для крупномасштабных информационных сетей, то во второй части мы увидим, как ИИ берет на себя роль и бюрократов, и мифотворцев. Инструменты ИИ умеют находить и обрабатывать данные лучше, чем бюрократы из плоти и крови, и ИИ также приобретает способность сочинять истории лучше, чем большинство людей.

Но прежде чем мы изучим новые информационные сети XXI века, основанные на ИИ, и рассмотрим угрозы и обещания мифотворцев и бюрократов от ИИ, нам нужно понять еще одну вещь, касающуюся долгосрочной истории информационных сетей. Мы уже убедились, что информационные сети не максимизируют истину, а скорее пытаются найти баланс между истиной и порядком. И бюрократия, и мифология необходимы для поддержания порядка, и обе они с удовольствием жертвуют истиной ради порядка. Какие же механизмы позволяют бюрократии и мифологии не терять связь с истиной, какие механизмы позволяют информационным сетям выявлять и исправлять собственные ошибки, даже ценой некоторого беспорядка?

То, как человеческие информационные сети справлялись с проблемой ошибок, станет главной темой следующих двух глав. Для начала мы рассмотрим изобретение другой информационной технологии - священной книги. Священные книги, такие как Библия и Коран, представляют собой информационную технологию, которая призвана одновременно содержать всю жизненно важную информацию, необходимую обществу, и быть свободной от любой возможности ошибки. Что происходит, когда информационная сеть считает себя абсолютно неспособной на ошибку? История якобы непогрешимых священных книг подчеркивает некоторые ограничения всех информационных сетей и содержит важные уроки для попыток создания непогрешимых ИИ в XXI веке.

ГЛАВА 4.

Ошибки: Фантазия о непогрешимости

Святой Августин знаменито сказал: "Ошибаться - это человеческое, а упорствовать в ошибках - дьявольское". Заблуждения людей и необходимость исправления человеческих ошибок играют ключевую роль в любой мифологии. Согласно христианской мифологии, вся история - это попытка исправить первородный грех Адама и Евы. Согласно марксистско-ленинскому мышлению, даже рабочий класс может быть одурачен своими угнетателями и неверно определить свои собственные интересы, поэтому он нуждается в руководстве мудрого партийного авангарда. Бюрократия тоже постоянно находится в поиске ошибок - от неправильно оформленных документов до неэффективных процедур. Сложные бюрократические системы обычно содержат органы самодисциплины, и когда происходит крупная катастрофа - военное поражение или финансовый крах, - создаются комиссии по расследованию, чтобы понять, что пошло не так, и убедиться, что подобная ошибка не повторится.

Для того чтобы функционировать, механизмы самокоррекции нуждаются в легитимности. Если люди склонны к ошибкам, как мы можем доверять самокорректирующимся механизмам, что они свободны от ошибок? Чтобы избежать этого кажущегося бесконечным цикла, люди часто фантазировали о каком-то сверхчеловеческом механизме, свободном от всех ошибок, на который они могли бы положиться, чтобы выявить и исправить свои собственные ошибки. Сегодня можно надеяться, что ИИ сможет обеспечить такой механизм, как в апреле 2023 года, когда Элон Маск объявил: "Я собираюсь запустить нечто, что я называю TruthGPT или максимально правдоподобный ИИ, который попытается понять природу Вселенной". В последующих главах мы увидим, почему это опасная фантазия. В предыдущие эпохи подобные фантазии принимали другую форму - религии.

В нашей личной жизни религия может выполнять множество различных функций, например, давать утешение или объяснять тайны жизни. Но исторически наиболее важной функцией религии было обеспечение сверхчеловеческой легитимности социального порядка. Такие религии, как иудаизм, христианство, ислам и индуизм, утверждают, что их идеи и правила были установлены непогрешимым сверхчеловеческим авторитетом, поэтому они свободны от любой возможности ошибки и никогда не должны подвергаться сомнению или изменению со стороны непогрешимых людей.

ИСКЛЮЧИТЬ ЛЮДЕЙ ИЗ ПРОЦЕССА

В основе каждой религии лежит фантазия о связи со сверхчеловеческим и непогрешимым интеллектом. Именно поэтому, как мы рассмотрим в главе 8, изучение истории религии имеет огромное значение для современных дебатов об ИИ. В истории религии постоянно возникает проблема, как убедить людей в том, что определенная догма действительно произошла из непогрешимого сверхчеловеческого источника. Даже если в принципе я готов подчиниться воле богов, откуда мне знать, чего на самом деле хотят боги?

На протяжении всей истории человечества многие люди утверждали, что им переданы послания от богов, но эти послания часто противоречили друг другу. Один человек говорил, что бог явился к ней во сне; другой - что ее посетил ангел; третий рассказывал, как встретил в лесу духа, и каждый из них проповедовал свое послание. Антрополог Харви Уайтхаус рассказывает, как в конце 1980-х годов, когда он проводил полевые исследования среди народа бейнинг в Новой Британии, молодой человек по имени Танотка заболел и в лихорадочном бреду начал делать загадочные заявления вроде "Я - Вутка" и "Я - пост". Большинство из этих заявлений слышал только старший брат Танотки, Банинге, который начал рассказывать о них другим людям и интерпретировать их в творческом ключе. Банинге говорил, что в его брата вселился дух предков по имени Вутка и что он был избран Богом, чтобы стать главной опорой общины, подобно тому как местные дома поддерживаются центральным столбом.

После выздоровления Танотка продолжал передавать загадочные послания от Вутки, которые Банинге интерпретировал все более замысловатыми способами. Банинге также начал видеть собственные сны, в которых якобы содержались дополнительные божественные послания. Он утверждал, что конец света неминуем, и убедил многих местных жителей наделить его диктаторскими полномочиями, чтобы он мог подготовить общину к грядущему апокалипсису. Банинге начал тратить почти все ресурсы общины на экстравагантные пиры и ритуалы. Когда апокалипсис не наступил, а община практически умерла от голода, власть Банинге рухнула. Хотя некоторые местные жители продолжали верить, что он и Танотка были божественными посланниками, многие другие пришли к выводу, что эти двое были шарлатанами или, возможно, слугами дьявола.

Как люди могли отличить истинную волю богов от выдумок или фантазий слабоумных людей? Если у вас не было личного божественного откровения, то знать, что сказали боги, означало доверять тому, что утверждали ошибочные люди, такие как Танотка и Банинге. Но как вы можете доверять этим людям, особенно если не знаете их лично? Религия хочет вывести из-под контроля непогрешимых людей и дать людям доступ к непогрешимым сверхчеловеческим законам, но религия неоднократно сводилась к доверию тому или иному человеку.

Одним из способов решения этой проблемы было создание религиозных институтов, которые проверяли предполагаемых божественных посланников. Уже в племенных обществах общение со сверхчеловеческими сущностями, такими как племенные духи, часто было уделом религиозных экспертов. Среди народа бейнинг специализированные медиумы, известные как агунгарага, традиционно отвечали за общение с духами и тем самым узнавали скрытые причины несчастий - от болезней до неурожая. Их принадлежность к авторитетному институту делала агунгарагу более надежными, чем танотка и банинге, и делала их власть более стабильной и широко признанной. Среди бразильского племени калапало религиозные ритуалы организовывали наследственные служители ритуала, известные как анетау. В древних кельтских и индуистских обществах аналогичные обязанности выполняли друиды и брамины. По мере того как человеческие общества росли и усложнялись, менялись и их религиозные институты. Жрецы и оракулы должны были долго и упорно тренироваться для выполнения важной задачи - представлять богов, поэтому людям больше не нужно было доверять простому обывателю, который утверждал, что встретил ангела или несет божественное послание. Например, в Древней Греции, если вы хотели узнать, что говорят боги, вы обращались к аккредитованному эксперту, такому как пифия - верховная жрица в храме Аполлона в Дельфах.

Но до тех пор, пока в религиозных институтах, таких как храмы прорицаний, работали ошибочные люди, они тоже были открыты для ошибок и коррупции. Геродот рассказывает, что, когда Афинами правил тиран Гиппий, сторонники демократии подкупили пифию, чтобы она помогала им. Всякий раз, когда спартанец приходил к пифии, чтобы посоветоваться с богами по официальным или частным вопросам, пифия неизменно отвечала, что спартанцы должны сначала освободить Афины от тирана. Спартанцы, которые были союзниками Гиппия, в конце концов подчинились предполагаемой воле богов и послали в Афины армию, которая свергла Гиппия в 510 году до н. э., что привело к установлению афинской демократии.

Если человеческий пророк мог фальсифицировать слова бога, то ключевая проблема религии не была решена созданием религиозных институтов, таких как храмы и священнические ордена. Люди по-прежнему должны были доверять непогрешимым людям, чтобы получить доступ к якобы непогрешимым богам. Можно ли как-то обойтись без людей?

НЕПОГРЕШИМАЯ ТЕХНОЛОГИЯ

Священные книги, такие как Библия и Коран, - это технология, позволяющая обойти человеческие ошибки, и религии книги - иудаизм, христианство и ислам - были построены вокруг этого технологического артефакта. Чтобы понять, как должна работать эта технология, нам следует начать с объяснения того, что такое книга и чем она отличается от других видов письменных текстов. Книга - это фиксированный блок текстов, таких как главы, рассказы, рецепты или послания, которые всегда идут вместе и имеют множество идентичных копий. Этим книга отличается от устных рассказов, от бюрократических документов и от архивов. Когда мы рассказываем историю устно, каждый раз она может быть немного другой, а если ее рассказывают многие люди в течение долгого времени, то в нее обязательно вкрадутся существенные изменения. В отличие от этого, все экземпляры книги должны быть идентичны. Что касается бюрократических документов, то они, как правило, относительно короткие и часто существуют только в единственном экземпляре в одном архиве. Если же длинный документ имеет множество копий, хранящихся в многочисленных архивах, мы обычно называем его книгой. Наконец, книга, содержащая множество текстов, также отличается от архива, поскольку каждый архив содержит свою коллекцию текстов, в то время как все экземпляры книги содержат одни и те же главы, одни и те же истории или одни и те же рецепты. Таким образом, книга обеспечивает доступ к одной и той же базе данных многим людям в разное время и в разных местах.

Книга стала важной религиозной технологией в первом тысячелетии до нашей эры. После десятков тысяч лет, в течение которых боги говорили с людьми через шаманов, жрецов, пророков, оракулов и других человеческих посланников, такие религиозные течения, как иудаизм, стали утверждать, что боги говорят через эту новую технологию - книгу. Существует одна конкретная книга, в многочисленных главах которой якобы содержатся все божественные слова обо всем - от сотворения Вселенной до правил питания. Очень важно, что ни один священник, пророк или человеческий институт не может забыть или изменить эти божественные слова, потому что вы всегда можете сравнить то, что говорят вам ошибочные люди, с тем, что записано в непогрешимой книге.

Но у книжных религий был свой набор проблем. Самая очевидная: кто решает, что включать в священную книгу? Первый экземпляр не спустился с небес. Его должны были составить люди. И все же верующие надеялись, что эту сложную проблему можно будет решить с помощью раз и навсегда задуманной высшей силы. Если бы удалось собрать самых мудрых и достойных доверия людей, и все они пришли бы к согласию относительно содержания священной книги, то с этого момента можно было бы исключить людей из этого цикла, и божественные слова навсегда были бы защищены от человеческого вмешательства.

Против этой процедуры можно выдвинуть множество возражений: Кто выбирает самых мудрых людей? На основании каких критериев? Что, если они не смогут прийти к консенсусу? А если они потом передумают? Тем не менее, именно такая процедура использовалась для составления священных книг, таких как еврейская Библия.

СОЗДАНИЕ ЕВРЕЙСКОЙ БИБЛИИ

В первом тысячелетии до нашей эры еврейские пророки, священники и ученые создали обширную коллекцию историй, документов, пророчеств, стихов, молитв и хроник. Библии как единой священной книги в библейские времена не существовало. Царь Давид или пророк Исайя никогда не видели экземпляра Библии.

Иногда ошибочно утверждают, что самая древняя из сохранившихся копий Библии происходит из Свитков Мертвого моря. Эти свитки представляют собой собрание около девятисот различных документов, написанных в основном в последние два века до нашей эры и найденных в различных пещерах в окрестностях Кумрана, деревни, расположенной недалеко от Мертвого моря.8 Большинство ученых считают, что они представляли собой архив еврейской секты, жившей неподалеку.

Примечательно, что ни один из свитков не содержит копию Библии, и ни один свиток не указывает на то, что двадцать четыре книги Ветхого Завета считались единой и полной базой данных. Некоторые из свитков, безусловно, содержат тексты, которые сегодня являются частью канонической Библии. Например, девятнадцать свитков и фрагментарных рукописей сохранили части книги Бытия. Но во многих свитках записаны тексты, которые позже были исключены из Библии. Например, более двадцати свитков и фрагментов сохранили части книги Еноха - книги, предположительно написанной патриархом Енохом, прадедом Ноя, и содержащей историю ангелов и демонов, а также пророчество о пришествии Мессии. Кумранские евреи, очевидно, придавали большое значение и Бытию, и Еноху, и не считали Бытие каноническим, а Еноха - апокрифическим. Действительно, до сих пор некоторые эфиопские иудейские и христианские секты считают Еноха частью своего канона.

Даже свитки, на которых записаны будущие канонические тексты, иногда отличаются от современной канонической версии. Например, в каноническом тексте Второзакония 32:8 говорится, что Бог разделил народы земли по "числу сынов Израилевых". В версии, записанной в свитках Мертвого моря, вместо этого написано "число сынов Божьих", что подразумевает довольно удивительную идею о том, что у Бога несколько сыновей. Во Второзаконии 8:6 канонический текст требует от верующих бояться Бога, тогда как версия Мертвого моря требует от них любить Бога. Некоторые различия гораздо более существенны, чем просто одно слово здесь или там. Свитки Псалтири содержат несколько целых псалмов, отсутствующих в канонической Библии (в частности, Псалмы 151, 154, 155).

Аналогичным образом, древнейший перевод Библии - греческая Септуагинта, созданная между III и I веками до н. э., - во многом отличается от более поздней канонической версии.17 В нее входят, например, книги Товита, Юдифи, Сираха, Маккавеев, Премудрости Соломона, Псалмы Соломона и Псалом 151. В ней также есть более длинные версии Даниила и Эсфири. Книга Иеремии на 15 процентов короче канонической версии. Наконец, во Второзаконии 32:8 большинство рукописей Септуагинты содержат либо "сыны Божьи", либо "ангелы Божьи", а не "сыны Израиля".

Потребовались столетия щепетильных споров между учеными еврейскими мудрецами, известными как раввины, чтобы упорядочить каноническую базу данных и решить, какие из многочисленных текстов, находящихся в обращении, войдут в Библию как официальное слово Иеговы, а какие будут исключены. Ко времени Иисуса, вероятно, было достигнуто соглашение по большинству текстов, но даже столетие спустя раввины все еще спорили, должна ли Песнь Песней быть частью канона или нет. Некоторые раввины осуждали этот текст как светскую любовную поэзию, в то время как рабби Акива (ум. 135 г. н. э.) защищал его как боговдохновенное творение царя Соломона. Акива знаменито сказал, что "Песнь Песней - это Святая Святых". К концу II века н. э. среди еврейских раввинов, по-видимому, был достигнут широкий консенсус относительно того, какие тексты являются частью библейского канона, а какие нет, но споры по этому вопросу, а также относительно точных формулировок, написания и произношения каждого текста были окончательно разрешены только в масоретскую эпоху (VII-X вв. н. э.).

В процессе канонизации было решено, что Бытие - это слово Иеговы, а книга Еноха, Жизнь Адама и Евы и Завет Авраама - человеческие выдумки. Псалмы царя Давида были канонизированы (за вычетом псалмов 151-55), а псалмы царя Соломона - нет. Книга Малахии получила печать одобрения, а книга Варуха - нет. Хроники - да; Маккавеи - нет.

Интересно, что некоторые книги, упоминаемые в самой Библии, не попали в канон. Например, книги Иисуса Навина и Самуила ссылаются на очень древний священный текст, известный как книга Иашера (Иисуса Навина 10:13, 2 Царств 1:18). Книга Чисел ссылается на "Книгу войн Господних" (Числа 21:14). А когда во 2-й книге Хроник описывается правление царя Соломона, в конце говорится, что "остальные деяния Соломона, первые и последние, записаны в летописях Нафана пророка, и в пророчестве Ахии Шилонитянина, и в видениях Иддо пророка" (2 Паралипоменон 9:29). Книги Иддо, Ахии и Нафана, а также книги Яшера и Войны Господней не вошли в каноническую Библию. Очевидно, они не были исключены специально, а просто затерялись.

После того как канон был утвержден, большинство евреев постепенно забыли о роли человеческих институтов в нелегком процессе составления Библии. Иудейская ортодоксия утверждала, что Бог лично передал Моисею на горе Синай всю первую часть Библии, Тору. Многие раввины утверждали, что Бог создал Тору на заре времен, так что даже библейские персонажи, жившие до Моисея, такие как Ной и Адам, читали и изучали ее. Остальные части Библии также стали рассматриваться как божественно созданный или боговдохновенный текст, совершенно отличный от обычных человеческих компиляций. После того как священная книга была запечатана, можно было надеяться, что теперь у евреев есть прямой доступ к точным словам Иеговы, которые не сможет стереть или изменить ни один слабоумный человек или коррумпированное учреждение.

Предвосхитив идею блокчейна на две тысячи лет, евреи начали делать многочисленные копии священного кодекса, и каждая еврейская община должна была иметь хотя бы одну в своей синагоге или бет-мидраше (доме обучения). Это должно было решить две задачи. Во-первых, распространение множества копий священной книги обещало демократизировать религию и наложить строгие ограничения на власть потенциальных автократов. Если архивы египетских фараонов и ассирийских царей расширяли возможности непостижимой царской бюрократии за счет народных масс, то еврейская священная книга, казалось, давала власть массам, которые теперь могли заставить даже самого дерзкого лидера отвечать за соблюдение Божьих законов.

Во-вторых, что еще важнее, наличие множества копий одной и той же книги предотвращало любое вмешательство в текст. При наличии тысяч одинаковых копий во многих местах любая попытка изменить хоть одну букву в священном кодексе могла быть легко разоблачена как мошенничество. Имея множество Библий в самых разных местах, евреи заменили человеческий деспотизм божественным суверенитетом. Теперь социальный порядок гарантировался непогрешимой технологией книги. Так казалось.

УЧРЕЖДЕНИЕ НАНОСИТ ОТВЕТНЫЙ УДАР

Еще до того, как процесс канонизации Библии был завершен, библейский проект столкнулся с новыми трудностями. Согласование точного содержания священной книги было не единственной проблемой этой якобы непогрешимой технологии. Другая очевидная проблема касалась копирования текста. Чтобы священная книга действовала магически, евреи должны были иметь множество копий, где бы они ни жили. С учетом того, что еврейские центры возникали не только в Палестине, но и в Месопотамии и Египте, а новые еврейские общины распространялись от Центральной Азии до Атлантики, как сделать так, чтобы переписчики, работающие за тысячи километров друг от друга, не изменили священную книгу ни намеренно, ни по ошибке?

Чтобы избежать подобных проблем, раввины, канонизировавшие Библию, разработали кропотливые правила копирования священной книги. Например, переписчику не разрешалось делать паузы в определенные критические моменты процесса копирования. Когда писец пишет имя Бога, он "не может ответить, даже если царь приветствует его". Если же он собирался написать последовательно два или три божественных имени, он мог сделать паузу между ними и ответить". Рабби Ишмаэль (II век н. э.) сказал одному переписчику: "Ты делаешь работу Небес, и если ты уберешь одну букву или добавишь одну букву, ты разрушишь весь мир". На самом деле ошибки в копировании вкрадывались и без разрушения всего мира, и не было двух одинаковых древних Библий.

Вторая и гораздо более серьезная проблема связана с толкованием. Даже если люди согласны со святостью книги и ее точными формулировками, они все равно могут по-разному интерпретировать одни и те же слова. Библия говорит, что в субботу нельзя работать. Но она не уточняет, что считать "работой". Можно ли поливать поле в субботу? А как насчет полива цветочного горшка или стада коз? Можно ли читать книгу в субботу? А писать книгу? Как насчет того, чтобы разорвать лист бумаги? Раввины постановили, что чтение книги - это не работа, а разрывание бумаги - работа, поэтому сегодня ортодоксальные евреи готовят стопку уже разорванной туалетной бумаги, чтобы использовать ее в субботу.

В Священной книге также сказано, что нельзя варить молодого козленка в молоке его матери (Исход 23:19). Некоторые люди истолковывают это совершенно буквально: если вы зарезали молодого козленка, не варите его в молоке его собственной матери. Но можно приготовить его в молоке неродного козленка или в молоке коровы. Другие люди трактуют этот запрет гораздо шире, подразумевая, что мясные и молочные продукты никогда не должны смешиваться, так что вам не разрешается пить молочный коктейль после жареной курицы. Как бы неправдоподобно это ни звучало, большинство раввинов постановили, что правильным является второе толкование, даже несмотря на то, что у кур не бывает лактации.

Еще больше проблем возникало из-за того, что даже если технологиям книги удавалось ограничить изменения священных слов, мир за пределами книги продолжал вращаться, и было непонятно, как соотнести старые правила с новыми ситуациями. Большинство библейских текстов было посвящено жизни еврейских пастухов и земледельцев в горной Палестине и священном городе Иерусалиме. Но ко второму веку нашей эры большинство евреев жили в других местах. Особенно большая еврейская община выросла в порту Александрии, одной из самых богатых метрополий Римской империи. Еврейский судоходный магнат, живший в Александрии, мог обнаружить, что многие библейские законы не имеют отношения к его жизни, а многие насущные вопросы не имеют четких ответов в священном тексте. Он не мог исполнять заповеди о поклонении в Иерусалимском храме, потому что не только не жил рядом с Иерусалимом, но и храма уже не существовало. Напротив, когда он размышлял о том, кошерно ли ему отплывать в субботу на своих кораблях с зерном, направлявшихся в Рим, оказалось, что дальние морские путешествия не рассматривались авторами Левит и Второзаконие.

Священная книга неизбежно порождала множество толкований, которые имели гораздо большее значение, чем сама книга. По мере того как евреи все чаще спорили о толковании Библии, раввины приобретали все большую власть и престиж. Запись слова Иеговы должна была ограничить власть старого института священников, но она породила власть нового института раввинов. Раввины стали еврейской технократической элитой, развивая свои рациональные и риторические навыки годами философских дебатов и юридических диспутов. Попытка обойти нестабильные человеческие институты, полагаясь на новую информационную технологию, обернулась неудачей, поскольку для толкования священной книги требовался человеческий институт.

Когда раввины в конце концов достигли определенного консенсуса относительно того, как толковать Библию, евреи увидели еще один шанс избавиться от ошибочного человеческого института. Они подумали, что если записать согласованное толкование в новой священной книге и сделать множество копий, то это устранит необходимость в дальнейшем человеческом вмешательстве между ними и божественным кодексом. Так после долгих споров о том, какие мнения раввинов следует включить, а какие проигнорировать, в III веке н. э. была канонизирована новая священная книга - Мишна.

По мере того как Мишна становилась более авторитетной, чем открытый текст Библии, евреи начали верить, что Мишна не могла быть создана людьми. Она тоже должна была быть вдохновлена Иеговой, а возможно, даже составлена непогрешимым божеством лично. Сегодня многие ортодоксальные евреи твердо верят, что Мишна была передана Моисею Иеговой на горе Синай, передавалась устно из поколения в поколение, пока не была записана в третьем веке нашей эры.

Увы, не успели Мишну канонизировать и переписать, как евреи начали спорить о правильном толковании Мишны. А когда был достигнут консенсус по поводу толкования Мишны и в пятом-шестом веках она была канонизирована в качестве третьей священной книги - Талмуда, - евреи начали расходиться во мнениях относительно толкования Талмуда.

Мечта обойти непогрешимые человеческие институты с помощью технологии священной книги так и не осуществилась. С каждой итерацией власть раввинского института только усиливалась. "Доверие к непогрешимой книге" превратилось в "доверие к людям, которые толкуют эту книгу". Иудаизм формировался под влиянием Талмуда гораздо больше, чем Библии, а раввинские споры о толковании Талмуда стали даже более важными, чем сам Талмуд.

Это неизбежно, ведь мир постоянно меняется. Мишна и Талмуд решали вопросы, поднятые еврейскими судоходными магнатами второго века, на которые не было четкого ответа в Библии. Современность также породила множество новых вопросов, на которые нет прямых ответов в Мишне и Талмуде. Например, когда в двадцатом веке появились электрические приборы, евреи столкнулись с множеством беспрецедентных вопросов, таких как: можно ли нажимать на электрические кнопки лифта в субботу?

Ортодоксальный ответ - нет. Как уже отмечалось, Библия запрещает работать в субботу, и раввины утверждали, что нажатие электрической кнопки - это "работа", потому что электричество сродни огню, а разжигание огня - это "работа". Значит ли это, что пожилые евреи, живущие в бруклинской многоэтажке, должны преодолевать сто ступенек до своей квартиры, чтобы не работать в субботу? Ортодоксальные евреи изобрели "субботний лифт", который непрерывно поднимается и спускается по зданиям, останавливаясь на каждом этаже, и при этом вам не нужно выполнять никакой "работы", нажимая на электрическую кнопку. Изобретение искусственного интеллекта придает еще один поворот этой старой истории. Благодаря распознаванию лиц искусственный интеллект может быстро направить лифт на ваш этаж, не заставляя вас осквернять шаббат.

Такое обилие текстов и толкований со временем привело к глубоким изменениям в иудаизме. Изначально это была религия священников и храмов, сосредоточенная на ритуалах и жертвоприношениях. В библейские времена квинтэссенцией иудаизма был священник в забрызганных кровью одеждах, приносящий в жертву ягненка на алтаре Иеговы. Однако с течением веков иудаизм превратился в "информационную религию", одержимую текстами и толкованиями. От Александрии второго века до Бруклина двадцать первого века квинтэссенцией иудаизма стала группа раввинов, спорящих о толковании того или иного текста.

Это изменение было крайне удивительным, учитывая, что почти нигде в самой Библии вы не найдете споров о толковании того или иного текста. Такие споры не были частью самой библейской культуры. Например, когда Корах и его последователи оспаривали право Моисея руководить народом Израиля и требовали более справедливого разделения власти, Моисей отреагировал не тем, что вступил в заученную дискуссию или процитировал какой-то отрывок из Писания. Вместо этого Моисей призвал Бога совершить чудо, и в тот момент, когда он закончил говорить, земля раскололась, "и земля разверзла уста свои и поглотила их и все семейство их" (Числа 16:31-32). Когда 450 пророков Ваала и 400 пророков Ашеры вызвали Илию на публичное испытание перед народом Израиля, он доказал превосходство Иеговы над Ваалом и Ашерой, сначала чудесным образом вызвав огонь с неба, а затем расправившись с языческими пророками. Никто не читал никакого текста и не вступал в рациональные дебаты (1 Царств 18).

По мере того как иудаизм заменял жертвоприношения текстами, он тяготел к взгляду на информацию как на самый фундаментальный строительный блок реальности, предвосхищая современные идеи в физике и информатике. Поток текстов, создаваемых раввинами, все чаще воспринимался как более важный и даже более реальный, чем вспашка поля, выпечка хлеба или принесение в жертву ягненка в храме. После того как Иерусалимский храм был разрушен римлянами и все храмовые ритуалы прекратились, раввины, тем не менее, посвятили огромные усилия написанию текстов о том, как правильно проводить храмовые ритуалы, а затем спорили о правильной интерпретации этих текстов. Спустя столетия после того, как Храма больше не было, количество информации, касающейся этих виртуальных ритуалов, продолжало расти. Раввины не забывали об этом кажущемся разрыве между текстом и реальностью. Скорее, они считали, что написание текстов о ритуалах и споры по поводу этих текстов гораздо важнее, чем реальное исполнение ритуалов.

В итоге раввины пришли к убеждению, что вся Вселенная - это информационная сфера, состоящая из слов и работающая по алфавитному коду ивритских букв. Далее они утверждали, что эта информационная вселенная была создана для того, чтобы евреи могли читать тексты и спорить об их интерпретации, и что если евреи когда-нибудь перестанут читать эти тексты и спорить о них, то вселенная перестанет существовать. В повседневной жизни это мнение означало, что для раввинов слова в текстах зачастую были важнее фактов в мире. Или, точнее, слова, встречающиеся в священных текстах, становились одними из самых важных фактов о мире, определяя жизнь отдельных людей и целых общин.

РАСКОЛОТАЯ БИБЛИЯ

Приведенное выше описание канонизации Библии и создания Мишны и Талмуда игнорирует один очень важный факт. Процесс канонизации слова Иеговы создал не одну цепочку текстов, а несколько конкурирующих цепочек. Были люди, которые верили в Иегову, но не верили в раввинов. Большинство из этих несогласных все же приняли первый блок библейской цепи, который они назвали Ветхим Заветом. Но уже до того, как раввины запечатали этот блок, раскольники отвергли авторитет всего раввинского института, что привело к тому, что они впоследствии отвергли также Мишну и Талмуд. Этими раскольниками были христиане.

Когда в I веке н. э. возникло христианство, оно не было единой религией, а скорее представляло собой множество иудейских течений, которые мало в чем сходились друг с другом, за исключением того, что все они считали Иисуса Христа, а не раввинский институт, высшим авторитетом в отношении слов Иеговы. Христиане признавали божественность таких текстов, как Бытие, Самуил и Исайя, но утверждали, что раввины неправильно понимали эти тексты, и только Иисус и его ученики знали истинное значение таких отрывков, как "Сам Господь даст вам знамение: Алма зачнет и родит сына, и нарекут имя ему: Иммануил" (Ис. 7:14). Раввины говорили, что "альма" означает "молодая женщина", "Иммануил" - "Бог с нами" (на иврите immanu означает "с нами", а el - "Бог"), а весь отрывок интерпретировался как божественное обещание помочь еврейскому народу в его борьбе с угнетающими иностранными империями. В противоположность этому христиане утверждали, что almah означает "девственница", что Immanuel означает, что Бог буквально родится среди людей, и что это пророчество о рождении божественного Иисуса на земле от Девы Марии.

Однако, отвергнув институт раввинов и одновременно признав возможность новых божественных откровений, христиане открыли дверь хаосу. В I веке н. э., а тем более во II и III веках н. э. разные христиане предлагали радикально новые толкования таких книг, как Бытие и Исайя, а также множество новых посланий от Бога. Поскольку они отвергали авторитет раввинов, поскольку Иисус был мертв и не мог рассуждать между ними, и поскольку единой христианской церкви еще не существовало, кто мог решить, какое из всех этих толкований и посланий является боговдохновенным?

Таким образом, не только Иоанн описал конец света в своем Апокалипсисе (книге Откровения). У нас есть множество других апокалипсисов той эпохи, например Апокалипсис Петра, Апокалипсис Иакова и даже Апокалипсис Авраама. Что касается жизни и учения Иисуса, то помимо четырех Евангелий от Матфея, Марка, Луки и Иоанна, у ранних христиан были Евангелие Петра, Евангелие Марии, Евангелие Истины, Евангелие Спасителя и многие другие. Кроме Деяний апостолов, существовало не менее дюжины других Деяний, таких как Деяния Петра и Деяния Андрея. Письма были еще более плодовиты. Большинство современных христианских Библий содержат четырнадцать посланий, приписываемых Павлу, три - Иоанну, два - Петру и по одному - Иакову и Иуде. Древние христиане были знакомы не только с дополнительными посланиями Павла (например, Посланием к Лаодикийцам), но и с множеством других посланий, предположительно написанных другими учениками и святыми.

По мере того как христиане создавали все больше Евангелий, Посланий, пророчеств, притч, молитв и других текстов, становилось все труднее понять, на какие из них обращать внимание. Христианам понадобился институт кураторства. Так был создан Новый Завет. Примерно в то же время, когда в результате споров между еврейскими раввинами появились Мишна и Талмуд, в результате споров между христианскими священниками, епископами и теологами был создан Новый Завет.

В письме от 367 года н. э. епископ Афанасий Александрийский рекомендовал верующим христианам читать двадцать семь текстов - довольно эклектичное собрание историй, писем и пророчеств, написанных разными людьми в разное время и в разных местах. Афанасий рекомендовал Апокалипсис Иоанна, но не Петра или Авраама. Он одобрял Послание Павла к галатам, но не Послание Павла к лаодикийцам. Он одобрял Евангелия от Матфея, Марка, Луки и Иоанна, но отвергал Евангелие от Фомы и Евангелие Истины.

Поколение спустя, на соборах в Гиппоне (393) и Карфагене (397), собрание епископов и богословов официально канонизировало этот список рекомендаций, который стал известен как Новый Завет. Когда христиане говорят о "Библии", они подразумевают Ветхий Завет вместе с Новым Заветом. Иудаизм, напротив, никогда не принимал Новый Завет, и когда евреи говорят о "Библии", они имеют в виду только Ветхий Завет, дополненный Мишной и Талмудом. Интересно, что в иврите и по сей день нет слова для обозначения христианской священной книги, которая содержит и Ветхий, и Новый Завет. Еврейская мысль рассматривает их как две совершенно несвязанные книги и просто отказывается признать, что может существовать единая книга, включающая в себя обе, хотя это, вероятно, самая распространенная книга в мире.

Важно отметить, что люди, создавшие Новый Завет, не были авторами двадцати семи содержащихся в нем текстов; они были их кураторами. Из-за скудости свидетельств того периода мы не знаем, отражал ли список текстов Афанасия его личные суждения, или же он был составлен более ранними христианскими мыслителями. Мы знаем только, что до Иппонского и Карфагенского соборов существовали конкурирующие списки рекомендаций для христиан. Самый ранний такой список был составлен Маркионом из Синопы в середине II века. В канон Маркиона входили только Евангелие от Луки и десять посланий Павла. Даже эти одиннадцать текстов несколько отличались от версий, канонизированных позднее в Гиппоне и Карфагене. Либо Маркион не знал о других текстах, таких как Евангелие от Иоанна и Откровение, либо не очень высоко о них думал.

Отец церкви святой Иоанн Златоуст, современник епископа Афанасия, рекомендовал только двадцать две книги, исключив из своего списка 2 Петра, 2 Иоанна, 3 Иоанна, Иуду и Откровение. Некоторые христианские церкви на Ближнем Востоке и по сей день следуют сокращенному списку Златоуста. Армянской церкви потребовалось около тысячи лет, чтобы определиться с Откровением, и она включила в свой канон Третье послание к Коринфянам, которое другие церкви, например католическая и протестантская, считают подделкой. Эфиопская церковь полностью одобрила список Афанасия, но добавила еще четыре книги: Синодос, книгу Климента, книгу Завета и Дидаскалию. Другие списки одобрили два послания Климента, видения Пастыря Гермы, Послание Варнавы, Апокалипсис Петра и различные другие тексты, которые не попали в выборку Афанасия.

Мы не знаем точных причин, по которым те или иные тексты были одобрены или отвергнуты различными церквями, церковными соборами и отцами церкви. Но последствия были далеко идущими. В то время как церкви принимали решения относительно текстов, сами тексты формировали церкви. В качестве примера можно привести роль женщин в церкви. Некоторые раннехристианские лидеры считали женщин интеллектуально и этически более низкими, чем мужчины, и утверждали, что женщины должны играть подчиненную роль в обществе и в христианской общине. Эти взгляды нашли отражение в таких текстах, как Первое послание к Тимофею.

В одном из отрывков этого текста, приписываемого святому Павлу, говорится: "Женщина должна учиться в тишине и полной покорности. Я не позволяю женщине учить или брать на себя власть над мужчиной; она должна быть тихой. Ибо сначала был создан Адам, а потом Ева. И не Адам был обманут, а женщина была обманута и стала грешницей. Но женщины спасутся через деторождение, если будут пребывать в вере, любви и святости с благопристойностью" (2:11-15). Однако современные ученые, а также некоторые древние христианские лидеры, такие как Маркион, считают это письмо подделкой второго века, приписываемой святому Павлу, но на самом деле написанной кем-то другим.

В противовес 1 Тимофею, во втором, третьем и четвертом веках нашей эры существовали важные христианские тексты, которые рассматривали женщин как равных мужчинам и даже разрешали им занимать руководящие должности, например, Евангелие от Марии или Деяния Павла и Феклы. Последний текст был написан примерно в то же время, что и 1-е Тимофею, и некоторое время был чрезвычайно популярен. Он повествует о приключениях святого Павла и его ученицы Феклы, описывая, как Фекла не только совершала многочисленные чудеса, но и крестилась собственными руками и часто проповедовала. На протяжении веков Фекла была одной из самых почитаемых христианских святых и рассматривалась как доказательство того, что женщины могут крестить, проповедовать и возглавлять христианские общины.

До соборов в Гиппоне и Карфагене не было ясно, что 1-е Тимофея является более авторитетным, чем Деяния Павла и Феклы. Решив включить 1-е Тимофея в список рекомендаций и отвергнув Деяния Павла и Феклы, собравшиеся епископы и богословы сформировали христианское отношение к женщинам вплоть до сегодняшнего дня. Мы можем только предполагать, как могло бы выглядеть христианство, если бы в Новый Завет вместо 1 Тимофея были включены Деяния Павла и Феклы. Возможно, помимо таких отцов церкви, как Афанасий, у церкви были бы матери, а женоненавистничество было бы названо опасной ересью, извращающей послание Иисуса о всеобщей любви.

Как большинство евреев забыли, что Ветхий Завет курировали раввины, так и большинство христиан забыли, что Новый Завет курировали церковные соборы, и стали воспринимать его просто как непогрешимое слово Божье. Но хотя священная книга рассматривалась как высший источник авторитета, процесс курирования книги передавал реальную власть в руки курирующего учреждения. В иудаизме канонизация Ветхого Завета и Мишны шла рука об руку с созданием института раввината. В христианстве канонизация Нового Завета шла рука об руку с созданием единой христианской церкви. Христиане доверяли церковным чиновникам, таким как епископ Афанасий, из-за того, что они читали в Новом Завете, но они верили в Новый Завет, потому что именно это епископы говорили им читать. Попытка вложить всю власть в непогрешимую сверхчеловеческую технологию привела к возникновению нового и чрезвычайно могущественного человеческого института - церкви.

ЭХО-КАМЕРА

С течением времени проблемы толкования все больше смещали баланс сил между священной книгой и церковью в пользу института. Как необходимость толкования еврейских священных книг наделяла властью раввинат, так и необходимость толкования христианских священных книг наделяла властью церковь. Одно и то же изречение Иисуса или одно и то же послание Павла можно было понимать по-разному, и именно институт решал, какое прочтение правильное. Этот институт, в свою очередь, неоднократно сотрясался от борьбы за право толковать священную книгу, что приводило к институциональным расколам, таким как раскол между западной католической и восточной православной церквями.

Все христиане читали Нагорную проповедь в Евангелии от Матфея и узнали, что мы должны любить своих врагов, подставлять другую щеку и что кроткие наследуют землю. Но что это означает на самом деле? Христиане могли понимать это как призыв отказаться от любого применения военной силы, или отвергнуть все социальные иерархии. Католическая церковь, однако, рассматривала подобные пацифистские и эгалитарные толкования как ересь. Она истолковала слова Иисуса таким образом, что позволила церкви стать самым богатым землевладельцем в Европе, начать жестокие крестовые походы и учредить убийственные инквизиции. Католическая теология признавала, что Иисус велел нам любить врагов, но объясняла, что сожжение еретиков - это акт любви, потому что оно удерживает других людей от принятия еретических взглядов, тем самым спасая их от адского пламени. Французский инквизитор Жак Фурнье в начале XIV века написал целый трактат о Нагорной проповеди, в котором объяснял, как этот текст оправдывает охоту на еретиков. Мнение Фурнье не было чем-то из ряда вон выходящим. Впоследствии он стал Папой Бенедиктом XII (1334-42).

Задачей Фурнье как инквизитора, а затем и как папы римского было добиться того, чтобы толкование священной книги, данное католической церковью, возобладало. Для этого Фурнье и его коллеги по церкви использовали не только насильственное принуждение, но и контроль над производством книг. До появления буквенной печати в Европе в XV веке изготовление большого количества экземпляров книг было непосильным делом для всех, кроме самых богатых людей и учреждений. Католическая церковь использовала свою власть и богатство для распространения копий своих благосклонных текстов, запрещая производство и распространение тех, которые она считала ошибочными.

Конечно, церковь не могла помешать случайному вольнодумцу излагать еретические идеи. Но поскольку она контролировала ключевые узлы средневековой информационной сети - копировальные мастерские, архивы и библиотеки, - она могла помешать такому еретику изготовить и распространить сотню экземпляров своей книги. Чтобы понять, с какими трудностями сталкивается автор-еретик, стремящийся распространить свои взгляды, вспомним, что когда в 1050 году Леофрик стал епископом Эксетера, в библиотеке собора он обнаружил всего пять книг. Он немедленно основал в соборе копировальную мастерскую, но за двадцать два года до своей смерти в 1072 году его переписчики выпустили только шестьдесят шесть дополнительных томов. В тринадцатом веке библиотека Оксфордского университета состояла из нескольких книг, хранившихся в сундуке под церковью Святой Марии. В 1424 году библиотека Кембриджского университета насчитывала всего 122 книги. Декрет Оксфордского университета от 1409 года гласил, что "все новейшие тексты", изучаемые в университете, должны быть единогласно одобрены "коллегией из двенадцати теологов, назначенных архиепископом".

Церковь стремилась запереть общество в эхо-камере, позволяя распространять только те книги, которые ее поддерживали, и люди верили церкви, потому что почти все книги ее поддерживали. Даже неграмотные миряне, которые не читали книг, все равно были потрясены пересказом этих драгоценных текстов или изложением их содержания. Так вера в якобы непогрешимую сверхчеловеческую технологию, такую как Новый Завет, привела к возникновению чрезвычайно могущественного, но ошибочного человеческого института, такого как католическая церковь, которая подавляла все противоположные мнения как "ошибочные", не позволяя никому подвергать сомнению свои собственные взгляды.

Католические информационные эксперты, такие как Жак Фурнье, проводили дни, читая толкования Фомы Аквинского на толкования Августина на послания святого Павла и составляя дополнительные интерпретации на свой лад. Все эти взаимосвязанные тексты не отражали реальность, они создавали новую информационную сферу, еще более масштабную и мощную, чем та, что была создана еврейскими раввинами. Средневековые европейцы оказались в этой информационной сфере, их повседневная деятельность, мысли и эмоции формировались текстами о текстах о текстах.

ПЕЧАТЬ, НАУКА И ВЕДЬМЫ

Попытка обойти человеческое заблуждение, вложив авторитет в непогрешимый текст, так и не увенчалась успехом. Если кто-то думал, что это связано с какими-то уникальными недостатками еврейских раввинов или католических священников, то протестантская Реформация повторяла этот эксперимент снова и снова - и всегда получала те же результаты. Лютер, Кальвин и их последователи утверждали, что нет никакой необходимости в том, чтобы какие-то ошибочные человеческие институты вставали между обычными людьми и священной книгой. Христиане должны отказаться от всех паразитических бюрократий, которые выросли вокруг Библии, и воссоединиться с изначальным Словом Божьим. Но Слово Божье никогда не толковало само себя, поэтому не только лютеране и кальвинисты, но и многие другие протестантские секты со временем создали свои собственные церковные институты и наделили их полномочиями толковать текст и преследовать еретиков.

Если непогрешимые тексты приводят лишь к появлению непогрешимых и деспотичных церквей, как тогда решать проблему человеческих ошибок? Наивный взгляд на информацию предполагает, что проблема может быть решена путем создания противоположности церкви, а именно свободного рынка информации. Наивный взгляд ожидает, что если снять все ограничения на свободный поток информации, то ошибка неизбежно будет разоблачена и вытеснена истиной. Как уже отмечалось в прологе, это - принятие желаемого за действительное. Давайте немного углубимся, чтобы понять, почему. В качестве примера рассмотрим, что происходило в одну из самых знаменитых эпох в истории информационных сетей: европейскую печатную революцию. Появление печатного станка в Европе в середине XV века сделало возможным массовое производство текстов относительно быстро, дешево и тайно, даже если католическая церковь их не одобряла. Подсчитано, что за сорок шесть лет с 1454 по 1500 год в Европе было напечатано более двенадцати миллионов томов. Для сравнения, за предыдущую тысячу лет вручную было переписано лишь около одиннадцати миллионов томов. К 1600 году всевозможные люди с периферии - еретики, революционеры, протоученые - могли распространять свои труды гораздо быстрее, шире и проще, чем когда-либо прежде.

В истории информационных сетей печатная революция в Европе раннего Нового времени обычно приветствуется как момент триумфа, когда католическая церковь разрушила удушающий контроль над европейской информационной сетью. Утверждается, что, позволив людям обмениваться информацией гораздо свободнее, чем раньше, она привела к научной революции. В этом есть доля правды. Без печати Копернику, Галилею и их коллегам было бы гораздо сложнее развивать и распространять свои идеи.

Но печать не была первопричиной научной революции. Единственное, что делал печатный станок, - это точно воспроизводил тексты. Машина не была способна выдвигать какие-либо новые идеи. Те, кто связывает печать с наукой, полагают, что сам факт производства и распространения информации неизбежно приведет людей к истине. На самом деле печать позволяла быстро распространять не только научные факты, но и религиозные фантазии, фальшивые новости и теории заговора. Возможно, самым известным примером последних была вера во всемирный заговор сатанинских ведьм, которая привела к охоте на ведьм, охватившей Европу раннего нового времени.

Вера в магию и ведьм была характерна для человеческих обществ на всех континентах и во все эпохи, но разные общества представляли себе ведьм и реагировали на них совершенно по-разному. В одних обществах верили, что ведьмы управляют духами, разговаривают с мертвыми и предсказывают будущее; в других - что ведьмы крадут скот и находят спрятанные сокровища. В одном обществе считалось, что ведьмы вызывают болезни, портят кукурузные поля и готовят любовные зелья, а в другом они якобы проникали в дома по ночам, выполняли работу по дому и воровали молоко. В некоторых местностях ведьмы считались преимущественно женщинами, в то время как в других они, как правило, представлялись мужчинами. В одних культурах ведьм боялись и жестоко преследовали, в других - терпели или даже почитали. Наконец, на каждом континенте и в каждую эпоху существовали общества, которые не придавали ведьмам особого значения.

На протяжении большей части Средневековья большинство европейских обществ относились к последней категории и не слишком беспокоились о ведьмах. Средневековая католическая церковь не считала их серьезной угрозой для человечества, а некоторые церковники активно поощряли охоту на ведьм. Согласно влиятельному тексту X века "Canon Episcopi-", который определял средневековую церковную доктрину по этому вопросу, колдовство было в основном иллюзией, а вера в реальность колдовства была нехристианским суеверием. Европейская охота на ведьм была скорее современным, чем средневековым явлением.

В 1420-1430-х годах церковники и ученые, работавшие в основном в регионе Альп, взяли элементы из христианской религии, местного фольклора и греко-римского наследия и объединили их в новую теорию колдовства. Ранее, даже когда ведьм боялись, их считали сугубо местной проблемой - изолированными преступниками, которые, вдохновленные личной злобой, использовали магические средства для совершения краж и убийств. В отличие от этого, новая научная модель утверждала, что ведьмы представляли собой гораздо более грозную угрозу для общества. Якобы существовал всемирный заговор ведьм, возглавляемый Сатаной, который представлял собой институционализированную антихристианскую религию. Его целью было не что иное, как полное уничтожение социального порядка и всего человечества. Считалось, что ведьмы собираются по ночам в огромные демонические собрания, где поклоняются Сатане, убивают детей, едят человеческую плоть, устраивают оргии и произносят заклинания, вызывающие бури, эпидемии и другие катастрофы.

Вдохновленные этими идеями, первые массовые охоты на ведьм и суды над ними были организованы местными церковниками и дворянами в регионе Вале в Западных Альпах в 1428-1436 годах, в результате чего было казнено более двухсот предполагаемых ведьм - мужчин и женщин. Из этого альпийского региона слухи о всемирном заговоре ведьм дошли до других частей Европы, но эта вера все еще была далека от мейнстрима, католический истеблишмент не принял ее, а в других регионах не было масштабных охот на ведьм, подобных тем, что происходили в Вале.

В 1485 году доминиканский монах и инквизитор Генрих Крамер отправился на охоту за ведьмами в другой альпийский регион - австрийский Тироль. Крамер был ревностным приверженцем новой веры во всемирный сатанинский заговор. Похоже, он также был психически неуравновешенным, и его обвинения в сатанинском колдовстве были окрашены неистовым женоненавистничеством и странными сексуальными пристрастиями. Местные церковные власти во главе с епископом Бриксена скептически отнеслись к обвинениям Крамера и были встревожены его деятельностью. Они прекратили его инквизицию, освободили арестованных им подозреваемых и выслали его из региона.

Крамер нанес ответный удар с помощью печатного станка. В течение двух лет после своего изгнания он составил и опубликовал Malleus Maleficarum - Молот ведьм. Это было руководство "сделай сам" по разоблачению и убийству ведьм, в котором Крамер подробно описал всемирный заговор и способы, с помощью которых честные христиане могли бы разоблачить и обезвредить ведьм. В частности, он рекомендовал использовать ужасающие методы пыток, чтобы добиться признания от людей, подозреваемых в колдовстве, и был непреклонен в том, что единственным наказанием для виновных является казнь.

Крамер упорядочил и систематизировал предыдущие идеи и истории и добавил множество деталей из своего собственного плодовитого и полного ненависти воображения. Опираясь на древние христианские женоненавистнические учения, такие как учение 1 Тимофея, Крамер сексуализировал колдовство. Он утверждал, что ведьмы, как правило, были женщинами, потому что колдовство зародилось в похоти, которая якобы сильнее у женщин. Он предупреждал читателей, что секс может привести к тому, что благочестивая женщина станет ведьмой, а ее муж - околдованным.

Целая глава "Молота" посвящена способности ведьм красть мужские пенисы. Крамер подробно обсуждает, действительно ли ведьмы способны отнять мужской член у его владельца, или же им удается лишь создать иллюзию кастрации в сознании мужчины. Крамер спрашивает: "Что следует думать о тех ведьмах, которые таким образом иногда собирают мужские органы в большом количестве, до двадцати или тридцати членов вместе, и кладут их в птичье гнездо или закрывают в коробке, где они двигаются, как живые, и едят овес и кукурузу, как было замечено многими?" Затем он рассказывает историю, которую услышал от одного человека: "Когда он потерял свой член, он обратился к известной ведьме с просьбой вернуть ему его. Она велела страдальцу взобраться на определенное дерево и взять из гнезда, в котором было несколько членов, тот, который ему понравится. Когда же он попытался взять большую, ведьма сказала: Ты не должен брать эту; добавлю, потому что она принадлежит приходскому священнику". Многочисленные представления о ведьмах, которые популярны и сегодня: например, что ведьмы - преимущественно женщины, что ведьмы занимаются дикой сексуальной деятельностью, что ведьмы убивают и калечат детей - получили в книге Крамера свою каноническую форму.

Как и епископ Бриксена, другие церковные деятели поначалу скептически отнеслись к диким идеям Крамера, а среди церковных экспертов возникло некоторое сопротивление книге. Но "Молот ведьм" стал одним из самых больших бестселлеров в Европе раннего нового времени. Она удовлетворяла самые глубокие страхи людей, а также их неистовый интерес к рассказам об оргиях, каннибализме, убийствах детей и сатанинских заговорах. К 1500 году книга выдержала восемь изданий, к 1520 году - еще пять, а к 1670 году - еще шестнадцать, с многочисленными переводами на местные языки. Она стала окончательным трудом по колдовству и охоте на ведьм и вдохновила множество подражаний и переработок. По мере того как росла слава Крамера, его работа была принята церковными экспертами. В 1500 году Крамер был назначен папским представителем и инквизитором Богемии и Моравии. Даже сегодня его идеи продолжают влиять на мир, а многие современные теории о глобальном сатанинском заговоре, такие как QAnon, опираются на его фантазии и увековечивают их.

Хотя было бы преувеличением утверждать, что изобретение печати вызвало повальное увлечение охотой на ведьм в Европе, печатный станок сыграл решающую роль в быстром распространении веры во всемирный сатанинский заговор. По мере того как идеи Крамера набирали популярность, печатные станки выпускали не только множество дополнительных экземпляров "Молота ведьм" и книг-подражателей, но и поток дешевых одностраничных памфлетов, сенсационные тексты которых часто сопровождались иллюстрациями, изображавшими людей, на которых нападали демоны, или ведьм, сожженных на костре. В этих публикациях также приводились фантастические статистические данные о размерах заговора ведьм. Например, бургундский судья и охотник на ведьм Анри Богуэ (1550-1619) утверждал, что только во Франции насчитывалось 300 000 ведьм, а во всей Европе - 1,8 миллиона. Подобные заявления подпитывали массовую истерию, которая в XVI и XVII веках привела к пыткам и казням от 40 000 до 50 000 невинных людей, обвиненных в колдовстве. Среди жертв были люди всех слоев общества и возрастов, включая детей пятилетнего возраста.

Люди стали обвинять друг друга в колдовстве по самым ничтожным уликам, часто чтобы отомстить за личные обиды или получить экономические и политические преимущества. Как только начиналось официальное расследование, обвиняемые зачастую были обречены. Инквизиторские методы, рекомендованные в "Молоте ведьм", были поистине дьявольскими. Если обвиняемый признавался в том, что он ведьма, его казнили, а имущество делили между обвинителем, палачом и инквизиторами. Если обвиняемый отказывался признаться, это считалось доказательством его демонического упрямства, и тогда его подвергали ужасным пыткам: ломали пальцы, резали плоть раскаленными щипцами, растягивали тело до предела или погружали в кипящую воду. Рано или поздно они не выдерживали и признавались - и были должным образом казнены.

Вот один из примеров: в 1600 году власти Мюнхена арестовали по подозрению в колдовстве семью Паппенгеймеров - отца Паулюса, мать Анну, двух взрослых сыновей и десятилетнего мальчика Гензеля. Инквизиторы начали с пыток маленького Гензеля. В протоколе допроса, который до сих пор можно прочитать в мюнхенском архиве, есть запись одного из дознавателей, касающаяся десятилетнего мальчика: "Можно пытать до предела, чтобы он оговорил свою мать". После невыразимых пыток Паппенгеймеры признались в многочисленных преступлениях, в том числе в убийстве 265 человек с помощью колдовства и вызове четырнадцати разрушительных бурь. Все они были приговорены к смерти.

Тела каждого из четырех взрослых членов семьи были разорваны раскаленными щипцами, мужчинам переломали конечности на колесе, отца насадили на кол, матери отрезали грудь, а затем всех сожгли заживо. Десятилетнего Гензеля заставили наблюдать за всем этим. Через четыре месяца его тоже казнили. Охотники на ведьм чрезвычайно тщательно искали дьявола и его сообщников. Но если охотники за ведьмами действительно хотели найти дьявольское зло, им нужно было просто посмотреть в зеркало.

ИСПАНСКАЯ ИНКВИЗИЦИЯ НА ПОМОЩЬ

Охота на ведьм редко заканчивалась убийством одного человека или одной семьи. Поскольку в основе модели лежал глобальный заговор, людей, обвиненных в колдовстве, пытали, чтобы они назвали сообщников. Затем это использовалось как доказательство для заключения в тюрьму, пыток и казни других людей. Если кто-то из чиновников, ученых или церковников высказывал возражения против этих абсурдных методов, это могло быть расценено как доказательство того, что они тоже должны быть ведьмами, что приводило к их собственному аресту и пыткам.

Например, в 1453 году, когда вера в сатанинский заговор только зарождалась, французский доктор богословия Гийом Эделин отважно пытался подавить ее, пока она не распространилась. Он повторил утверждения средневекового канона Episcopi о том, что колдовство - это иллюзия и что ведьмы на самом деле не могут летать по ночам, чтобы встретиться с Сатаной и заключить с ним договор. Затем Эделин сам был обвинен в колдовстве и арестован. Под пытками он признался, что лично летал на метле и заключил договор с дьяволом и что именно сатана поручил ему проповедовать, что колдовство - это иллюзия. Судьи были снисходительны к нему; его избавили от казни и назначили пожизненное заключение.

Охота на ведьм иллюстрирует темную сторону создания информационной сферы. Как и раввинские обсуждения Талмуда и схоластические обсуждения христианских писаний, охота на ведьм подпитывалась расширяющимся океаном информации, который вместо того, чтобы отражать реальность, создавал новую реальность. Ведьмы не были объективной реальностью. Никто в ранней современной Европе не занимался сексом с Сатаной и не был способен летать на метле и создавать град. Но ведьмы стали интерсубъективной реальностью. Как и деньги, ведьмы стали реальностью благодаря обмену информацией о ведьмах.

Целая бюрократия, занимавшаяся охотой на ведьм, посвятила себя таким обменам. Теологи, юристы, инквизиторы и владельцы печатных станков зарабатывали на жизнь тем, что собирали и добывали информацию о ведьмах, составляли каталоги различных видов ведьм, исследовали их поведение и рекомендовали, как их разоблачить и победить. Профессиональные охотники на ведьм предлагали свои услуги правительствам и муниципалитетам, беря за это большие деньги. Архивы заполнялись подробными отчетами об экспедициях по охоте на ведьм, протоколами судебных процессов над ведьмами и пространными признаниями, полученными от предполагаемых ведьм.

Эксперты-охотники на ведьм использовали все эти данные для дальнейшего совершенствования своих теорий. Подобно ученым, спорящим о правильной интерпретации Священного Писания, охотники на ведьм спорили о правильной интерпретации "Молота ведьм" и других влиятельных книг. Бюрократия охоты на ведьм поступила так, как часто поступает бюрократия: она изобрела интерсубъективную категорию "ведьмы" и навязала ее реальности. Она даже напечатала бланки со стандартными обвинениями и признаниями в колдовстве и пустыми местами для дат, имен и подписи обвиняемых. Вся эта информация создавала много порядка и власти; она была средством для определенных людей получить власть, а для общества в целом - дисциплинировать своих членов. Но в ней не было ни истины, ни мудрости.

По мере того как бюрократия охоты на ведьм генерировала все больше и больше информации, становилось все труднее отвергать ее как чистую фантазию. Может ли быть так, что во всем массиве данных об охоте на ведьм не было ни крупицы правды? А как же все книги, написанные учеными церковниками? Как насчет всех протоколов судебных процессов, проведенных уважаемыми судьями? А как же десятки тысяч задокументированных признаний?

Новая интерсубъективная реальность была настолько убедительной, что даже некоторые люди, обвиненные в колдовстве, поверили, что они действительно являются частью всемирного сатанинского заговора. Раз все так говорят, значит, это правда. Как уже говорилось в главе 2, люди склонны перенимать фальшивые воспоминания. По крайней мере, некоторые европейцы раннего нового времени мечтали или фантазировали о вызове дьяволов, сексе с сатаной и колдовстве, а когда их обвиняли в ведьмовстве, они путали свои мечты и фантазии с реальностью.

Поэтому, даже когда охота на ведьм достигла своего жуткого крещендо в начале XVII века и многие люди заподозрили, что что-то явно не так, было трудно отвергнуть все это как чистую фантазию. Один из самых страшных эпизодов охоты на ведьм в ранней современной Европе произошел в городах Бамберг и Вюрцбург на юге Германии в конце 1620-х годов. В Бамберге, городе с населением менее 12 000 человек, с 1625 по 1631 год было казнено до 900 невинных людей. В Вюрцбурге было замучено и убито еще 1200 человек из 11 500 жителей. В августе 1629 года канцлер князя-епископа Вюрцбурга написал письмо своему другу о продолжающейся охоте на ведьм, в котором признался в своих сомнениях по этому поводу. Письмо стоит того, чтобы процитировать его целиком:

Что касается дела ведьм... оно разгорелось с новой силой, и никакие слова не могут передать его справедливость. Ах, горе и несчастье - в городе до сих пор четыреста человек, высоких и низких, всех рангов и полов, да что там, даже священнослужителей, обвиненных так сильно, что их могут арестовать в любой час... У принца-епископа более сорока студентов, которые скоро станут пасторами; среди них тринадцать или четырнадцать, как говорят, ведьмы. Несколько дней назад был арестован декан; двое других, вызванных в суд, скрылись. Нотариус нашей церковной консистории, очень ученый человек, был вчера арестован и подвергнут пыткам. Одним словом, третья часть города, несомненно, вовлечена в это дело. Самые богатые, самые привлекательные, самые видные представители духовенства уже казнены. Неделю назад казнили девицу девятнадцати лет, о которой повсюду говорили, что она самая красивая во всем городе, и все считали ее девушкой необыкновенной скромности и чистоты. За ней последуют еще семь или восемь лучших и самых привлекательных особ.... И так многие предаются смерти за отречение от Бога и участие в ведьмовских плясках, против которых никто и никогда не произносил ни слова.

В заключение этого жалкого дела скажу, что есть дети трех и четырех лет, числом триста, которые, как говорят, имели сношения с дьяволом. Я видел, как предавали смерти детей семи лет, обещали учеников десяти, двенадцати, четырнадцати и пятнадцати лет.... [B]но я не могу и не должен больше писать об этом несчастье.

Затем канцлер добавил к письму интересный постскриптум:

Хотя происходит много удивительных и ужасных вещей, не подлежит сомнению, что в месте, называемом Фрау-Ренгберг, дьявол лично, с восемью тысячами своих последователей, провел собрание и отслужил перед всеми мессу, раздавая своим зрителям (то есть ведьмам) репные кочерыжки и потроха вместо Святой Евхаристии. При этом происходили не только нецензурные, но и самые ужасные и отвратительные богохульства, о которых я с содроганием пишу.

Даже выразив свой ужас перед безумием охоты на ведьм в Вюрцбурге, канцлер все же выразил твердую уверенность в сатанинском заговоре ведьм. Он не был непосредственным свидетелем колдовства, но информации о ведьмах распространялось так много, что ему было трудно сомневаться во всем этом. Охота на ведьм была катастрофой, вызванной распространением токсичной информации. Они являются ярким примером проблемы, которая была создана информацией и усугублена еще большим количеством информации.

К такому выводу пришли не только современные ученые, но и некоторые проницательные наблюдатели того времени. Алонсо де Салазар Фриас, испанский инквизитор, провел тщательное расследование охоты на ведьм и судебных процессов над ними в начале XVII века. Он пришел к выводу, что "не нашел ни одного доказательства, ни малейшего признака, на основании которого можно было бы сделать вывод о том, что хоть один акт колдовства действительно имел место", и что "не было ни ведьм, ни заколдованных, пока о них не заговорили и не написали". Салазар Фриас хорошо понимал значение интерсубъективных реальностей и правильно определил всю индустрию охоты на ведьм как интерсубъективную информационную сферу.

История раннего современного европейского поветрия на ведьм показывает, что снятие барьеров на пути распространения информации не обязательно ведет к открытию и распространению истины. Оно может так же легко привести к распространению лжи и фантазий и к созданию токсичных информационных сфер. Точнее, полностью свободный рынок идей может стимулировать распространение эпатажа и сенсаций в ущерб правде. Нетрудно понять, почему. Печатники и книготорговцы зарабатывали гораздо больше денег на пышных историях "Молота ведьм", чем на скучной математике "О вращении небесных сфер" Коперника. Последняя стала одним из основополагающих текстов современной научной традиции. Ему приписывают сокрушительные открытия, которые сместили нашу планету от центра Вселенной и тем самым положили начало коперниканской революции. Но когда в 1543 году книга была впервые опубликована, ее первоначальный тираж в четыреста экземпляров не разошелся, и только в 1566 году было выпущено второе издание аналогичным по размеру тиражом. Третье издание появилось только в 1617 году. По выражению Артура Кестлера, это был самый плохой продавец за всю историю человечества. Что действительно послужило толчком к научной революции, так это не печатный станок и не полностью свободный рынок информации, а скорее новый подход к проблеме человеческой ошибочности.

ОТКРЫТИЕ НЕВЕЖЕСТВА

История печати и охоты на ведьм показывает, что нерегулируемый рынок информации не обязательно приведет к тому, что люди будут выявлять и исправлять свои ошибки, потому что он вполне может отдать предпочтение возмущению, а не правде. Для того чтобы правда победила, необходимо создать институты кураторства, способные склонить баланс в пользу фактов. Однако, как показывает история католической церкви, такие институты могут использовать свои полномочия для подавления любой критики в свой адрес, называя все альтернативные взгляды ошибочными и не допуская разоблачения и исправления собственных ошибок. Можно ли создать более совершенные институты курации, которые использовали бы свои полномочия для продвижения истины, а не для накопления еще большей власти для себя?

В Европе раннего Нового времени были созданы именно такие институты курации, и именно они, а не печатный станок или конкретные книги вроде "Об оборотах небесных сфер", стали основой научной революции. Эти ключевые институты курации не были университетами. Многие из самых важных лидеров научной революции не были университетскими профессорами. Например, Николай Коперник, Роберт Бойль, Тихо Браге и Рене Декарт не занимали академических должностей. Не занимали их и Спиноза, Лейбниц, Локк, Беркли, Вольтер, Дидро и Руссо.

Институты кураторства, сыгравшие центральную роль в научной революции, объединили ученых и исследователей как в университетах, так и за их пределами, создав информационную сеть, охватившую всю Европу и в конечном итоге весь мир. Чтобы научная революция набирала обороты, ученые должны были доверять информации, опубликованной коллегами в далеких странах. Подобное доверие к работе людей, которых человек никогда не встречал, проявлялось в научных ассоциациях, таких как Лондонское королевское общество для улучшения естественных знаний, основанное в 1660 году, и французская Академия наук (1666); научных журналах, таких как "Философские труды Королевского общества" (1665) и "История Королевской академии наук" (1699); и научных издательствах, таких как авторы "Энциклопедии" (1751-72). Эти учреждения курировали информацию на основе эмпирических данных, привлекая внимание к открытиям Коперника, а не к фантазиям Крамера. Когда статья подавалась в "Философские труды Королевского общества", главный вопрос, который задавали редакторы, был не "Сколько людей заплатят за то, чтобы прочитать это?", а "Какие есть доказательства того, что это правда?".

Поначалу эти новые институты казались хлипкими, как паутина, и не обладали достаточной силой, чтобы изменить человеческое общество. В отличие от экспертов по охоте на ведьм, редакторы "Философских трудов Королевского общества" не могли никого пытать и казнить. И в отличие от католической церкви, Академия наук не владела огромными территориями и бюджетами. Но научные институты приобретали влияние благодаря весьма оригинальной претензии на доверие. Церковь обычно говорила, что люди должны доверять ей, потому что она обладает абсолютной истиной в виде непогрешимой священной книги. Научный институт, напротив, завоевывал авторитет благодаря наличию мощных механизмов самокоррекции, которые выявляли и исправляли ошибки самого института. Именно эти механизмы самокоррекции, а не технология книгопечатания, стали двигателем научной революции.

Другими словами, научная революция началась с открытия невежества. Книжные религии полагали, что у них есть доступ к непогрешимому источнику знаний. У христиан была Библия, у мусульман - Коран, у индусов - Веды, у буддистов - Типитака. Научная культура не имеет сопоставимой священной книги и не утверждает, что ее герои - непогрешимые пророки, святые или гении. Научный проект начинается с отказа от фантазии о непогрешимости и построения информационной сети, в которой ошибки неизбежны. Конечно, можно много говорить о гениальности Коперника, Дарвина и Эйнштейна, но ни один из них не считается безупречным. Все они ошибались, и даже в самых знаменитых научных трудах обязательно найдутся ошибки и пробелы.

Поскольку даже гении страдают от предвзятости подтверждения, нельзя доверять им исправление собственных ошибок. Наука - это командная работа, основанная на сотрудничестве институтов, а не отдельных ученых или, скажем, одной непогрешимой книги. Конечно, институты тоже подвержены ошибкам. Тем не менее, научные институты отличаются от религиозных тем, что поощряют скептицизм и инновации, а не конформизм. Научные институты также отличаются от теорий заговора тем, что поощряют самоскептицизм. Теоретики заговора склонны крайне скептически относиться к существующему консенсусу, но когда дело доходит до их собственных убеждений, они теряют весь свой скептицизм и становятся жертвами предубеждения подтверждения. Визитной карточкой науки является не просто скептицизм, а самоскептицизм, и в основе каждого научного института мы находим мощный механизм самокоррекции. Научные институты достигают широкого консенсуса относительно точности некоторых теорий - таких, как квантовая механика или теория эволюции, - но только потому, что эти теории сумели пережить интенсивные попытки опровергнуть их, предпринимаемые не только посторонними, но и членами самого института.

МЕХАНИЗМЫ САМОКОРРЕКЦИИ

Как информационная технология, механизм самокоррекции является полярной противоположностью священной книги. Священная книга должна быть непогрешимой. Механизм самокоррекции признает ошибочность. Под самокоррекцией я имею в виду механизмы, которые субъект использует для самокоррекции. Учитель, исправляющий сочинение ученика, не является механизмом самокоррекции; ученик не исправляет свое собственное сочинение. Судья, отправляющий преступника в тюрьму, не является механизмом самоисправления; преступник не раскрывает свое собственное преступление. Когда союзники разгромили и ликвидировали нацистский режим, это не было механизмом самокоррекции; предоставленная сама себе, Германия не стала бы денацифицировать себя. Но когда научный журнал публикует статью, исправляющую ошибку, допущенную в предыдущей работе, это пример самоисправления институтом собственных ошибок.

Механизмы самокоррекции повсеместно распространены в природе. Дети учатся ходить благодаря им. Ты делаешь неверное движение, падаешь, учишься на своей ошибке, пробуешь сделать это немного по-другому. Конечно, иногда родители и учителя помогают ребенку или дают советы, но ребенку, который полностью полагается на такие внешние исправления или продолжает оправдывать ошибки, вместо того чтобы учиться на них, будет очень трудно ходить. В самом деле, даже будучи взрослыми, каждый раз, когда мы ходим, наше тело участвует в сложном процессе самокоррекции. Когда наше тело перемещается в пространстве, внутренние контуры обратной связи между мозгом, конечностями и органами чувств поддерживают наши ноги и руки в правильном положении и равновесие.

Многие другие процессы в организме требуют постоянной самокоррекции. Наше кровяное давление, температура, уровень сахара и множество других параметров должны иметь определенную свободу действий, чтобы меняться в зависимости от обстоятельств, но они никогда не должны превышать или опускаться ниже определенных критических порогов. Наше кровяное давление должно повышаться во время бега, снижаться во время сна, но всегда оставаться в определенных пределах. Наш организм управляет этим тонким биохимическим танцем с помощью множества гомеостатических механизмов самокоррекции. Если наше кровяное давление слишком высокое, механизмы самокоррекции снижают его. Если наше давление опасно низкое, механизмы самокоррекции повышают его. Если механизмы самокоррекции выходят из строя, мы можем умереть.

Институты тоже умирают без механизмов самокоррекции. Эти механизмы начинаются с осознания того, что люди ошибаются и развращаются. Но вместо того чтобы отчаиваться в людях и искать способ обойти их, институт активно ищет собственные ошибки и исправляет их. Все институты, которым удается просуществовать более нескольких лет, обладают такими механизмами, но институты сильно различаются по силе и видимости своих механизмов самокоррекции.

Например, католическая церковь - это институт с относительно слабыми механизмами самокоррекции. Поскольку она претендует на непогрешимость, она не может признавать институциональные ошибки. Иногда она готова признать, что некоторые ее члены ошибаются или грешат, но сам институт якобы остается совершенным. Например, на Втором Ватиканском соборе в 1964 году Католическая церковь признала, что "Христос призывает Церковь к постоянной реформации, пока она пребывает здесь, на земле. Церковь всегда нуждается в этом, поскольку она является институтом людей здесь, на земле. Поэтому, если в разные времена и при разных обстоятельствах в нравственном поведении, в церковной дисциплине или даже в том, как было сформулировано церковное учение, что следует тщательно отличать от самого вероучения, - все это может и должно быть исправлено в подходящий момент".

Это признание звучит многообещающе, но дьявол кроется в деталях, а именно в отказе признать возможность какого-либо недостатка в "депозите веры". В католической догматике "залог веры" означает совокупность открытых истин, которые церковь получила из Священного Писания и из своей священной традиции толкования Писания. Католическая церковь признает, что священники - несовершенные люди, которые могут грешить и допускать ошибки в формулировании церковных учений. Однако сама священная книга никогда не может ошибаться. Что это значит для всей церкви как института, объединяющего непогрешимых людей с непогрешимым текстом?

Согласно католической догме, библейская непогрешимость и божественное руководство превосходят человеческую испорченность, поэтому, даже если отдельные члены церкви могут ошибаться и грешить, католическая церковь как институт никогда не ошибается. Утверждается, что никогда в истории Бог не позволял большинству церковных лидеров совершить серьезную ошибку в толковании священной книги. Этот принцип характерен для многих религий. Иудейская ортодоксия допускала возможность того, что раввины, составившие Мишну и Талмуд, могли ошибаться в личных вопросах, но когда они пришли к созданию религиозной доктрины, Бог гарантировал, что они не допустят ошибки. В исламе существует аналогичный принцип, известный как иджма. Согласно одному из важных хадисов, Мухаммад сказал: "Аллах позаботится о том, чтобы моя община никогда не соглашалась с ошибками".

В католицизме предполагаемое институциональное совершенство наиболее четко закреплено в доктрине папской непогрешимости, которая гласит, что хотя в личных вопросах папы могут ошибаться, в своей институциональной роли они непогрешимы. Например, папа Александр VI ошибся, нарушив обет безбрачия, заведя любовницу и родив нескольких детей, но при определении официального церковного учения по вопросам этики или теологии он был не способен ошибиться.

В соответствии с этими взглядами католическая церковь всегда использовала механизм самокоррекции для надзора за своими членами в их личных делах, но она никогда не разрабатывала механизм для внесения изменений в Библию или в свой "депозит веры". Такое отношение проявилось в том, что католическая церковь принесла лишь несколько официальных извинений за свое поведение в прошлом. В последние десятилетия несколько пап извинились за плохое обращение с евреями, женщинами, некатолическими христианами и коренными народами, а также за более конкретные события, такие как разграбление Константинополя в 1204 году и жестокое обращение с детьми в католических школах. Похвально, что католическая церковь вообще принесла такие извинения; религиозные институты редко поступают подобным образом. Тем не менее, во всех этих случаях папы старались переложить ответственность на Священное Писание и на церковь как институт. Вместо этого вина возлагалась на плечи отдельных служителей церкви, которые неправильно истолковывали Священное Писание и отклонялись от истинного учения церкви.

Например, в марте 2000 года Папа Иоанн Павел II провел специальную церемонию, в ходе которой попросил прощения за длинный список исторических преступлений против евреев, еретиков, женщин и коренных народов. Он извинился "за применение насилия, которое некоторые совершили во имя истины". Такая терминология подразумевала, что в насилии виноваты "некоторые" заблуждающиеся люди, не понимающие истины, которой учит церковь. Папа не допускал возможности того, что, возможно, эти люди понимали, чему именно учит церковь, и что эти учения просто не были истиной.

Точно так же, когда в 2022 году Папа Франциск извинился за жестокое обращение с коренным населением в канадских церковных школах-интернатах, он сказал: "Я прошу прощения, в частности, за то, что многие члены церкви... сотрудничали... в проектах разрушения культуры и насильственной ассимиляции". Вина лежит на "многих членах церкви", а не на церкви и ее учении. Как будто уничтожение культур коренных народов и насильственное обращение людей никогда не было официальной церковной доктриной.

На самом деле, не несколько заблудших священников начали крестовые походы, ввели законы, дискриминирующие евреев и женщин, или организовали систематическое уничтожение коренных религий по всему миру. Труды многих почитаемых отцов церкви, а также официальные постановления многих пап и церковных соборов полны отрывков, унижающих "языческие" и "еретические" религии, призывающих к их уничтожению, дискриминирующих их членов и узаконивающих применение насилия для обращения людей в христианство. Например, в 1452 году папа Николай V издал буллу Dum Diversas, обращенную к королю Португалии Афонсу V и другим католическим монархам. В булле говорилось: "Настоящими документами мы предоставляем вам, с нашей апостольской властью, полное и свободное разрешение вторгнуться, разыскать, захватить и подчинить сарацин и язычников и любых других неверующих и врагов Христа, где бы они ни находились, а также их королевства, герцогства, графства, княжества и другие владения... и обратить их людей в вечное рабство". Это официальное провозглашение, неоднократно повторенное последующими папами, заложило теологическую основу для европейского империализма и уничтожения коренных культур по всему миру. Конечно, хотя церковь не признает этого официально, со временем она изменила свои институциональные структуры, основные учения и толкование Священного Писания. В современной католической церкви гораздо меньше антисемитизма и женоненавистничества, чем в средневековые и ранние современные времена. Папа Франциск гораздо терпимее относится к культурам коренных народов, чем папа Николай V. Здесь работает механизм институциональной самокоррекции, который реагирует как на внешнее давление, так и на внутренние душевные искания. Но что характерно для самокоррекции в таких институтах, как католическая церковь, так это то, что даже когда она происходит, ее скорее отрицают, чем прославляют. Первое правило изменения церковных учений заключается в том, что вы никогда не признаете изменения церковных учений.

Вы никогда не услышите, чтобы Папа Римский объявил всему миру: "Наши эксперты только что обнаружили в Библии очень большую ошибку. Скоро мы выпустим обновленное издание". Вместо этого на вопрос о более щедром отношении церкви к евреям или женщинам папы отвечают, что церковь всегда учила именно так, даже если отдельные церковники раньше не понимали этого послания правильно. Отрицание существования самокоррекции не прекращает ее полностью, но ослабляет и замедляет ее. Поскольку исправление прошлых ошибок не признается, не говоря уже о праздновании, когда верующие сталкиваются с очередной серьезной проблемой в институте и его учении, их парализует страх изменить то, что якобы является вечным и непогрешимым. Они не могут извлечь пользу из примера предыдущих изменений.

Например, когда католики, такие как сам папа Франциск, пересматривают учение церкви о гомосексуальности, им трудно просто признать прошлые ошибки и изменить учение. Если в конце концов будущий папа принесет извинения за плохое обращение с ЛГБТК, то это будет означать, что он снова переложит вину на плечи некоторых слишком ретивых людей, которые неправильно поняли Евангелие. Чтобы сохранить свой религиозный авторитет, католической церкви ничего не оставалось, как отрицать существование институционального самоисправления. Церковь попала в ловушку непогрешимости. Если она основывала свой религиозный авторитет на претензии на непогрешимость, то любое публичное признание институциональной ошибки - даже в относительно незначительных вопросах - могло полностью разрушить ее авторитет.

ДСМ И БИБЛИЯ

В отличие от католической церкви, научные институты, возникшие в Европе раннего Нового времени, были построены на основе мощных механизмов самокоррекции. Научные институты утверждают, что даже если большинство ученых в определенный период считают что-то истинным, оно все равно может оказаться неточным или неполным. В XIX веке большинство физиков приняли ньютоновскую физику как исчерпывающее описание Вселенной, но в XX веке теория относительности и квантовая механика выявили неточности и ограничения модели Ньютона. Самые знаменитые моменты в истории науки - это именно те моменты, когда общепринятая мудрость опрокидывается и рождаются новые теории.

Очень важно, что научные учреждения готовы признать свою институциональную ответственность за крупные ошибки и преступления. Например, современные университеты регулярно читают курсы, а профессиональные журналы регулярно публикуют статьи, разоблачающие институциональный расизм и сексизм, характерные для научного изучения таких предметов, как биология, антропология и история в XIX и большей части XX веков. Исследования отдельных случаев, таких как исследование сифилиса Таскиги, и государственной политики, начиная с политики "Белой Австралии" и заканчивая Холокостом, неоднократно и подробно изучали, как ошибочные биологические, антропологические и исторические теории, разработанные в ведущих научных учреждениях, использовались для оправдания и облегчения дискриминации, империализма и даже геноцида. В этих преступлениях и ошибках не обвиняют нескольких заблуждающихся ученых. Они рассматриваются как институциональный провал целых академических дисциплин.

Готовность признать крупные институциональные ошибки способствует относительно быстрому развитию науки. Когда имеющиеся данные оправдывают себя, доминирующие теории часто отбрасываются в течение нескольких поколений, чтобы быть замененными новыми теориями. То, что студенты биологии, антропологии и истории изучают в университете в начале XXI века, сильно отличается от того, что они изучали там столетием ранее.

Психиатрия предлагает множество подобных примеров сильных механизмов самокоррекции. На полке у большинства психиатров можно найти DSM - Диагностическое и статистическое руководство по психическим расстройствам. Его иногда называют библией психиатров. Но между DSM и Библией есть существенное различие. Впервые опубликованный в 1952 году, DSM пересматривается каждые десять лет или два года, а пятое издание появилось в 2013 году. За эти годы изменилось определение многих расстройств, добавились новые, а другие были исключены. Например, гомосексуальность была включена в список социопатических расстройств личности в 1952 году, но в 1974 году была исключена из DSM. Потребовалось всего двадцать два года, чтобы исправить эту ошибку в DSM. Это не священная книга. Это научный текст.

Сегодня психиатрия не пытается переосмыслить определение гомосексуальности 1952 года в более благодушном духе. Скорее, она рассматривает определение 1952 года как явную ошибку. Что еще более важно, ошибка не приписывается недостаткам нескольких профессоров-гомофобов. Скорее, признается, что она является результатом глубоких институциональных предубеждений в психиатрии. Признание прошлых институциональных ошибок своей дисциплины заставляет психиатров сегодня быть более осторожными, чтобы не совершить новых ошибок, как это видно из горячих дебатов по поводу трансгендеров и людей с аутизмом. Конечно, какими бы осторожными они ни были, психиатры все равно могут совершать институциональные ошибки. Но они также склонны признавать и исправлять их.

ОПУБЛИКОВАТЬ ИЛИ ПОГИБНУТЬ

Особую силу механизмам научной самокоррекции придает то, что научные институты не просто готовы признать институциональные ошибки и невежество, они активно стремятся их разоблачить. Это видно из структуры стимулов институтов. В религиозных институтах их члены заинтересованы в том, чтобы соответствовать существующей доктрине и с подозрением относиться к новизне. Вы становитесь раввином, имамом или священником, исповедуя верность доктрине, и можете продвинуться по карьерной лестнице, став папой, главным раввином или великим аятоллой, не критикуя своих предшественников и не выдвигая никаких радикальных новых идей. Действительно, многие из наиболее влиятельных и почитаемых религиозных лидеров последнего времени - например, папа Бенедикт XVI, главный раввин Израиля Давид Лау и аятолла Хаменеи из Ирана - завоевали славу и сторонников благодаря жесткому сопротивлению новым идеям и тенденциям, таким как феминизм.

В науке все работает наоборот. Прием на работу и продвижение по службе в научных учреждениях основаны на принципе "публикуйся или погибнешь", и чтобы опубликоваться в престижных журналах, вы должны раскрыть какую-то ошибку в существующих теориях или открыть что-то, чего не знали ваши предшественники и учителя. Никто не получит Нобелевскую премию за то, что будет неукоснительно повторять слова предыдущих ученых и выступать против каждой новой научной теории.

Конечно, как в религии есть место для самокоррекции, так и в науке достаточно места для конформизма. Наука - это институциональное предприятие, и ученые полагаются на институты почти во всем, что им известно. Например, откуда мне знать, что средневековые и ранние современные европейцы думали о колдовстве? Я сам не посещал все соответствующие архивы и не читал все соответствующие первоисточники. Более того, я не в состоянии прочитать многие из этих источников напрямую, поскольку не знаю всех необходимых языков и не умею расшифровывать средневековые и ранние современные почерки. Вместо этого я опирался на книги и статьи, опубликованные другими учеными, например, на книгу Рональда Хаттона "Ведьма: A History of Fear", которая была опубликована издательством Йельского университета в 2017 году.

Я не знаком с Рональдом Хаттоном, профессором истории Бристольского университета, и не знаю лично бристольских чиновников, нанявших его на работу, или редакцию Йельского университета, опубликовавшую его книгу. Тем не менее я доверяю тому, что читаю в книге Хаттона, потому что понимаю, как работают такие учреждения, как Бристольский университет и издательство Йельского университета. Их механизмы самокоррекции имеют две важнейшие особенности: Во-первых, механизмы самокоррекции встроены в ядро институтов, а не являются периферийным дополнением. Во-вторых, эти институты публично отмечают самокоррекцию, а не отрицают ее. Конечно, возможно, что часть информации, которую я почерпнул из книги Хаттона, неверна, или я сам могу неправильно ее истолковать. Но эксперты по истории колдовства, которые читали книгу Хаттона и которые, возможно, будут читать эту книгу, надеюсь, заметят любые подобные ошибки и разоблачат их.

Популистские критики научных институтов могут возразить, что на самом деле эти институты используют свою власть для подавления неортодоксальных взглядов и устраивают собственные охоты на ведьм против инакомыслящих. Конечно, это правда, что если ученый выступает против ортодоксальных взглядов в своей дисциплине, это может иногда иметь негативные последствия: отклоненные статьи, отказ в грантах на исследования, неприятные нападки ad hominem, а в редких случаях даже увольнение с работы. Я не хочу преуменьшать страдания, которые причиняют такие вещи, но это все же далеко не физические пытки и сожжение на костре.

Рассмотрим, например, историю химика Дэна Шехтмана. В апреле 1982 года, наблюдая в электронный микроскоп, Шехтман увидел то, чего, согласно всем современным теориям в химии, просто не могло существовать: атомы в смешанном образце алюминия и марганца были выкристаллизованы в узор с пятикратной вращательной симметрией. В то время ученые знали о различных возможных симметричных структурах в твердых кристаллах, но пятикратная симметрия считалась противоречащей самим законам природы. Открытие Шехтманом того, что стало называться квазикристаллами, звучало настолько необычно, что было трудно найти рецензируемый журнал, который согласился бы его опубликовать. Не помогло и то, что Шехтман в то время был младшим научным сотрудником. У него даже не было своей лаборатории, он работал в чужой. Но редакторы журнала Physical Review Letters, изучив доказательства, в конце концов опубликовали статью Шехтмана в 1984 году. И тут, как он сам описывает, "начался ад".

Утверждения Шехтмана были отвергнуты большинством его коллег, а сам он был обвинен в неправильном управлении экспериментами. Руководитель его лаборатории также ополчился на Шехтмана. Драматическим жестом он положил на стол Шехтмана учебник химии и сказал ему: "Дэнни, пожалуйста, прочитай эту книгу, и ты поймешь, что того, о чем ты говоришь, не может быть". Шехтман дерзко ответил, что видел квазикристаллы в микроскоп, а не в книге. В результате его выгнали из лаборатории. Дальше было хуже. Лайнус Полинг, двукратный нобелевский лауреат и один из самых выдающихся ученых двадцатого века, предпринял жестокую личную атаку на Шехтмана. На конференции, где присутствовали сотни ученых, Полинг заявил: "Дэнни Шехтман несет чушь, никаких квазикристаллов не существует, есть только квазиученые".

Но Шехтмана не посадили в тюрьму и не убили. Он получил место в другой лаборатории. Доказательства, которые он представил, оказались более убедительными, чем существующие учебники по химии и взгляды Лайнуса Полинга. Несколько коллег повторили эксперименты Шехтмана и подтвердили его выводы. Спустя всего десять лет после того, как Шехтман увидел квазикристаллы в свой микроскоп, Международный союз кристаллографии - ведущая научная ассоциация в этой области - изменил свое определение понятия "кристалл". Соответствующие изменения были внесены в учебники по химии, и возникла целая новая научная область - изучение квазикристаллов. В 2011 году Шехтман был удостоен Нобелевской премии по химии за свое открытие. Нобелевский комитет отметил, что "его открытие было крайне противоречивым [но] в конечном итоге заставило ученых пересмотреть свои представления о самой природе материи".

История Шехтмана вряд ли является исключительной. Летопись науки полна подобных случаев. Прежде чем теория относительности и квантовая механика стали краеугольными камнями физики двадцатого века, они поначалу вызвали ожесточенные споры, включая личные нападки старой гвардии на сторонников новых теорий. Точно так же, когда Георг Кантор в конце XIX века разработал теорию бесконечных чисел, которая стала основой для большей части математики XX века, он подвергся личным нападкам со стороны некоторых ведущих математиков своего времени, таких как Анри Пуанкаре и Леопольд Кронекер. Популисты правы, считая, что ученые страдают от тех же человеческих предубеждений, что и все остальные. Однако благодаря институциональным механизмам самокоррекции эти предубеждения можно преодолеть. При наличии достаточного количества эмпирических доказательств нередко требуется всего несколько десятилетий, чтобы неортодоксальная теория перевернула устоявшееся мнение и стала новым консенсусом.

Как мы увидим в следующей главе, были времена и места, где механизмы самокоррекции науки переставали работать, а академическое инакомыслие могло привести к физическим пыткам, тюремному заключению и смерти. В Советском Союзе, например, сомнение в официальной догме по любому вопросу - экономике, генетике или истории - могло привести не только к увольнению, но даже к паре лет в ГУЛАГе или пуле палача. Известный случай связан с фиктивными теориями агронома Трофима Лысенко. Он отверг основную генетику и теорию эволюции путем естественного отбора и выдвинул свою собственную теорию, которая гласила, что "перевоспитание" может изменить черты растений и животных и даже превратить один вид в другой. Лысенкоизм очень понравился Сталину, у которого были идеологические и политические причины верить в почти безграничный потенциал "перевоспитания". Тысячи ученых, выступавших против Лысенко и продолжавших отстаивать теорию эволюции путем естественного отбора, были уволены с работы, а некоторые - посажены в тюрьму или расстреляны. Николай Вавилов, ботаник и генетик, бывший наставник Лысенко и ставший его критиком, был судим в июле 1941 года вместе с ботаником Леонидом Говоровым, генетиком Георгием Карпеченко и агрономом Александром Бондаренко. Трое последних были расстреляны, а Вавилов умер в лагере в Саратове в 1943 году. Под давлением диктатора Всесоюзная академия сельскохозяйственных наук имени Ленина в августе 1948 года объявила, что отныне советские учебные заведения будут преподавать лысенковщину как единственно верную теорию.

Но именно по этой причине Всесоюзная академия сельскохозяйственных наук имени Ленина перестала быть научным учреждением, а советская догма о генетике стала идеологией, а не наукой. Учреждение может называть себя как угодно, но если у него нет мощного механизма самокоррекции, то это не научное учреждение.

ПРЕДЕЛЫ САМОКОРРЕКЦИИ

Значит ли все это, что в механизмах самокоррекции мы нашли волшебную пулю, которая защитит человеческие информационные сети от ошибок и предвзятости? К сожалению, все гораздо сложнее. Есть причина, по которой такие институты, как католическая церковь и советская коммунистическая партия, избегали сильных механизмов самокоррекции. Хотя такие механизмы жизненно важны для поиска истины, они дорого обходятся с точки зрения поддержания порядка. Сильные механизмы самокоррекции, как правило, порождают сомнения, разногласия, конфликты и расколы и подрывают мифы, на которых держится социальный порядок.

Конечно, порядок сам по себе не обязательно хорош. Например, социальный порядок ранней современной Европы одобрял, помимо прочего, не только охоту на ведьм, но и эксплуатацию миллионов крестьян горсткой аристократов, систематическое жестокое обращение с женщинами и широко распространенную дискриминацию евреев, мусульман и других меньшинств. Но даже если социальный порядок крайне деспотичен, его разрушение не обязательно приведет к улучшению ситуации. Это может привести к хаосу и еще большему угнетению. История информационных сетей всегда предполагала поддержание баланса между правдой и порядком. Как жертвование истиной ради порядка влечет за собой определенные издержки, так и жертвование порядком ради истины.

Научные институты смогли позволить себе сильные механизмы самокоррекции, потому что они оставляют сложную работу по сохранению социального порядка другим институтам. Если в химическую лабораторию врывается вор или психиатру угрожают смертью, они не жалуются в рецензируемый журнал, а звонят в полицию. Возможно ли, таким образом, сохранить сильные механизмы самокоррекции в институтах, отличных от академических дисциплин? В частности, могут ли такие механизмы существовать в таких институтах, как полиция, армия, политические партии и правительства, которые призваны поддерживать социальный порядок?

Мы рассмотрим этот вопрос в следующей главе, посвященной политическим аспектам информационных потоков и изучению долгосрочной истории демократий и диктатур. Как мы увидим, демократии считают возможным поддерживать сильные механизмы самокоррекции даже в политике. Диктатуры отрицают такие механизмы. Так, в разгар холодной войны газеты и университеты демократических Соединенных Штатов открыто разоблачали и критиковали американские военные преступления во Вьетнаме. Газеты и университеты тоталитарного Советского Союза также с удовольствием критиковали американские преступления, но молчали о советских преступлениях в Афганистане и других странах. Советское молчание было неоправданным с научной точки зрения, но оно имело политический смысл. Американское самобичевание по поводу войны во Вьетнаме и сегодня продолжает разделять американскую общественность и подрывать репутацию Америки во всем мире, в то время как советское и российское молчание по поводу войны в Афганистане помогло приглушить память о ней и ограничить ее репутационные издержки.

Только поняв политику информации в таких исторических системах, как Древние Афины, Римская империя, Соединенные Штаты и Советский Союз, мы будем готовы к изучению революционных последствий появления ИИ. Ведь один из самых больших вопросов, связанных с ИИ, заключается в том, будет ли он способствовать развитию демократических механизмов самокоррекции или подорвет их.

ГЛАВА 5. Решения: Краткая история демократии и тоталитаризма

Демократия и диктатура обычно обсуждаются как противоположные политические и этические системы. В этой главе мы попытаемся изменить условия дискуссии, рассмотрев историю демократии и диктатуры как противоположных типов информационных сетей. В ней рассматривается, как информация в демократиях течет иначе, чем в диктаторских системах, и как изобретение новых информационных технологий способствует процветанию разных типов режимов.

Диктаторские информационные сети очень централизованы. Это означает две вещи. Во-первых, центр обладает неограниченной властью, поэтому информация стремится стекаться к центральному узлу, где принимаются самые важные решения. В Римской империи все дороги вели в Рим, в нацистской Германии информация стекалась в Берлин, а в Советском Союзе - в Москву. Иногда центральное правительство пытается сосредоточить в своих руках всю информацию и самостоятельно диктовать все решения, контролируя всю жизнь людей. Такая тотализирующая форма диктатуры, практиковавшаяся такими людьми, как Гитлер и Сталин, известна как тоталитаризм. Как мы увидим, технические трудности часто мешают диктаторам стать тоталитарными. Например, у римского императора Нерона не было технологий, необходимых для микроуправления жизнью миллионов крестьян в отдаленных провинциальных деревнях. Поэтому во многих диктаторских режимах за отдельными людьми, корпорациями и сообществами сохраняется значительная автономия. Однако диктаторы всегда сохраняют за собой право вмешиваться в жизнь людей. В Риме Нерона свобода была не идеалом, а побочным продуктом неспособности правительства осуществлять тоталитарный контроль.

Вторая особенность диктаторских сетей заключается в том, что они считают центр непогрешимым. Поэтому им не нравится любое оспаривание решений центра. Советская пропаганда изображала Сталина непогрешимым гением, а римская пропаганда относилась к императорам как к божественным существам. Даже когда Сталин или Нерон принимали явно катастрофическое решение, ни в Советском Союзе, ни в Римской империи не было надежных механизмов самокоррекции, которые могли бы разоблачить ошибку и подтолкнуть к более эффективным действиям.

Теоретически, в высокоцентрализованной информационной сети можно попытаться сохранить сильные самокорректирующиеся механизмы, такие как независимые суды и выборные законодательные органы. Но если бы они функционировали хорошо, то бросили бы вызов центральной власти и тем самым децентрализовали бы информационную сеть. Диктаторы всегда видят в таких независимых центрах власти угрозу и стремятся их нейтрализовать. Именно это произошло с римским Сенатом, власть которого сменявшие друг друга цезари сокращали до тех пор, пока он не стал не более чем резиновым штампом для исполнения императорских прихотей. Та же участь постигла советскую судебную систему, которая никогда не смела противиться воле коммунистической партии. Сталинские показательные процессы, как видно из их названия, были театрами с заранее предрешенными результатами.

Подводя итог, можно сказать, что диктатура - это централизованная информационная сеть, не имеющая сильных механизмов самокоррекции. Демократия, напротив, - это распределенная информационная сеть, обладающая сильными механизмами самокоррекции. Когда мы смотрим на демократическую информационную сеть, мы видим центральный узел. Правительство - важнейший орган исполнительной власти в демократическом обществе, поэтому государственные учреждения собирают и хранят огромное количество информации. Но существует множество дополнительных информационных каналов, которые соединяют множество независимых узлов. Законодательные органы, политические партии, суды, пресса, корпорации, местные сообщества, неправительственные организации и отдельные граждане свободно и напрямую общаются друг с другом, поэтому большая часть информации никогда не проходит через правительственные учреждения, а многие важные решения принимаются в других местах. Люди сами выбирают, где им жить, где работать и на ком жениться. Корпорации сами решают, где открыть филиал, сколько вложить в те или иные проекты и сколько брать за товары и услуги. Общины сами принимают решения об организации благотворительных организаций, спортивных мероприятий и религиозных праздников. Автономия - это не следствие неэффективности правительства, это демократический идеал.

Даже обладая технологиями, необходимыми для микроуправления жизнью людей, демократическое правительство оставляет людям как можно больше возможностей для самостоятельного выбора. Распространенное заблуждение заключается в том, что в демократическом государстве все решается большинством голосов. На самом деле при демократии как можно меньше решений принимается централизованно, и только те относительно немногие решения, которые должны приниматься централизованно, должны отражать волю большинства. При демократии, если 99 процентов людей хотят одеваться определенным образом и поклоняться определенному богу, оставшийся 1 процент все равно должен иметь право одеваться и поклоняться по-другому.

Конечно, если центральное правительство вообще не вмешивается в жизнь людей и не предоставляет им базовые услуги, такие как безопасность, это не демократия, а анархия. Во всех демократических странах центр собирает налоги и содержит армию, а в большинстве современных демократий он также обеспечивает хотя бы некоторый уровень здравоохранения, образования и социального обеспечения. Но любое вмешательство в жизнь людей требует объяснения. В отсутствие веских причин демократическое правительство должно предоставить людей самим себе.

Еще одна важная характеристика демократий - это то, что они предполагают, что каждый человек ошибается. Поэтому, хотя демократические государства предоставляют центру право принимать некоторые жизненно важные решения, они также поддерживают сильные механизмы, которые могут бросить вызов центральной власти. Перефразируя президента Джеймса Мэдисона, можно сказать, что поскольку люди ошибаются, правительство необходимо, но поскольку правительство тоже ошибается, ему нужны механизмы для выявления и исправления ошибок, такие как проведение регулярных выборов, защита свободы прессы и разделение исполнительной, законодательной и судебной ветвей власти.

Следовательно, если диктатура - это диктатура одного центрального информационного узла, то демократия - это постоянный разговор между различными информационными узлами. Эти узлы часто влияют друг на друга, но в большинстве вопросов они не обязаны приходить к консенсусу. Отдельные люди, корпорации и сообщества могут продолжать думать и вести себя по-разному. Конечно, бывают случаи, когда все должны вести себя одинаково, и разнообразие не может быть терпимым. Например, когда в 2002-3 годах американцы не соглашались с тем, стоит ли вторгаться в Ирак, все в конечном итоге должны были придерживаться единого решения. Было недопустимо, чтобы одни американцы поддерживали мир с Саддамом Хусейном в частном порядке, а другие объявляли войну. Хорошим или плохим было решение о вторжении в Ирак, но оно обязывало каждого американского гражданина. Так же как и при инициировании национальных инфраструктурных проектов или определении уголовных преступлений. Ни одна страна не сможет нормально функционировать, если каждому человеку будет позволено прокладывать отдельную железнодорожную сеть или давать собственное определение убийству.

Для того чтобы принимать решения по таким коллективным вопросам, необходимо сначала провести общенациональный общественный разговор, после которого народные представители, избранные на свободных и честных выборах, сделают свой выбор. Но даже после того, как этот выбор сделан, он должен оставаться открытым для пересмотра и корректировки. Хотя сеть не может изменить свой предыдущий выбор, в следующий раз она может избрать другое правительство.

ДИКТАТУРА БОЛЬШИНСТВА

Определение демократии как распределенной информационной сети с сильными механизмами самокоррекции резко контрастирует с распространенным заблуждением, согласно которому демократия отождествляется только с выборами. Выборы - это центральная часть демократического инструментария, но они не являются демократией. В отсутствие дополнительных механизмов самокоррекции выборы могут быть легко сфальсифицированы. Даже если выборы полностью свободны и справедливы, само по себе это тоже не гарантирует демократии. Ведь демократия - это не то же самое, что диктатура большинства.

Предположим, что на свободных и честных выборах 51 процент избирателей выбирает правительство, которое впоследствии отправляет 1 процент избирателей на уничтожение в лагеря смерти, потому что они принадлежат к какому-то ненавистному религиозному меньшинству. Разве это демократично? Очевидно, что нет. Проблема не в том, что для геноцида необходимо особое большинство, превышающее 51 процент. Дело не в том, что если правительство получает поддержку 60, 75 или даже 99 процентов избирателей, то его лагеря смерти наконец-то становятся демократическими. Демократия - это не система, в которой большинство любого размера может принять решение об истреблении непопулярных меньшинств; это система, в которой существуют четкие ограничения власти центра.

Предположим, 51 процент избирателей выбирает правительство, которое затем лишает права голоса остальные 49 процентов избирателей или, возможно, всего 1 процент из них. Разве это демократично? И снова ответ - нет, и цифры здесь ни при чем. Лишение политических конкурентов избирательных прав разрушает один из жизненно важных самокорректирующихся механизмов демократических сетей. Выборы - это механизм, позволяющий сети сказать: "Мы совершили ошибку, давайте попробуем что-то другое". Но если центр может лишать людей избирательных прав по своему усмотрению, этот механизм самокоррекции сводится на нет.

Эти два примера могут показаться необычными, но, к сожалению, они находятся в пределах возможного. Гитлер начал отправлять евреев и коммунистов в концентрационные лагеря через несколько месяцев после прихода к власти в результате демократических выборов, а в Соединенных Штатах многочисленные демократически избранные правительства лишили права голоса афроамериканцев, коренных американцев и другие угнетенные слои населения. Конечно, большинство нападений на демократию более тонкие. Карьера таких сильных мира сего, как Владимир Путин, Виктор Орбан, Реджеп Тайип Эрдоган, Родриго Дутерте, Жаир Болсонару и Биньямин Нетаньяху, демонстрирует, как лидер, использующий демократию для прихода к власти, может затем использовать свою власть для подрыва демократии. Как однажды выразился Эрдоган, "демократия - это как трамвай. Вы едете на нем, пока не приедете в пункт назначения, а затем сходите с него"

Самый распространенный метод, который используют сильные мира сего для подрыва демократии, - это поочередная атака на ее самокорректирующиеся механизмы, часто начиная с судов и СМИ. Типичный силовик либо лишает суды их полномочий, либо комплектует их своими лоялистами, а также стремится закрыть все независимые СМИ, создавая собственную вездесущую пропагандистскую машину.

Если суды больше не в состоянии проверять власть правительства законными методами, а СМИ послушно повторяют линию правительства, все другие институты или лица, которые осмеливаются противостоять правительству, могут быть оклеветаны и преследованы как предатели, преступники или иностранные агенты. Академические учреждения, муниципалитеты, неправительственные организации и частные предприятия либо ликвидируются, либо переходят под контроль правительства. На этом этапе правительство также может по своему усмотрению фальсифицировать выборы, например, сажая в тюрьму популярных оппозиционных лидеров, не допуская оппозиционные партии к участию в выборах, изменяя избирательные округа или лишая избирателей права голоса. Апелляции против этих антидемократических мер отклоняются назначенными правительством судьями. Журналисты и ученые, критикующие эти меры, увольняются. Оставшиеся СМИ, академические институты и судебные органы превозносят эти меры как необходимые шаги по защите страны и ее якобы демократической системы от предателей и иностранных агентов. Обычно сильные мира сего не идут на последний шаг и не отменяют выборы полностью. Вместо этого они сохраняют их как ритуал, который служит для обеспечения легитимности и поддержания демократического фасада, как это происходит, например, в путинской России.

Сторонники сильных мира сего часто не считают этот процесс антидемократическим. Они искренне недоумевают, когда им говорят, что победа на выборах не дает им неограниченной власти. Вместо этого они считают недемократичной любую проверку власти избранного правительства. Однако демократия не означает правление большинства; скорее, она означает свободу и равенство для всех. Демократия - это система, гарантирующая каждому определенные свободы, которые не может отнять даже большинство.

Никто не спорит с тем, что в демократическом обществе представители большинства имеют право формировать правительство и проводить предпочтительную для них политику в самых разных областях. Если большинство хочет войны, страна вступает в войну. Если большинство хочет мира, страна заключает мир. Если большинство хочет повысить налоги, налоги повышаются. Если большинство хочет снизить налоги, налоги снижаются. Основные решения по вопросам внешней политики, обороны, образования, налогообложения и многим другим находятся в руках большинства.

Но в демократическом обществе есть две корзины прав, которые защищены от посягательств большинства. В одну входят права человека. Даже если 99 процентов населения хотят уничтожить оставшийся 1 процент, в демократическом обществе это запрещено, потому что это нарушает самое основное право человека - право на жизнь. Корзина прав человека содержит множество дополнительных прав, таких как право на труд, право на неприкосновенность частной жизни, свобода передвижения и свобода вероисповедания. Эти права закрепляют децентрализованный характер демократии, гарантируя, что до тех пор, пока люди не причиняют никому вреда, они могут жить так, как считают нужным.

Вторая важнейшая корзина прав включает в себя гражданские права. Это основные правила демократической игры, закрепляющие механизмы ее самокоррекции. Очевидный пример - право голоса. Если бы большинству было позволено лишать меньшинство избирательных прав, то демократия закончилась бы после одних выборов. Другие гражданские права включают свободу прессы, академическую свободу и свободу собраний, которые позволяют независимым СМИ, университетам и оппозиционным движениям бросать вызов правительству. Это ключевые права, которые стремятся нарушить сильные мира сего. Хотя иногда необходимо вносить изменения в механизмы самокоррекции страны - например, расширять избирательное право, регулировать СМИ или реформировать судебную систему, - такие изменения должны осуществляться только на основе широкого консенсуса, включающего как группы большинства, так и меньшинства. Если небольшое большинство сможет в одностороннем порядке изменить гражданские права, оно легко сможет фальсифицировать выборы и избавиться от всех других сдержек своей власти.

Важно отметить, что и права человека, и гражданские права не просто ограничивают власть центрального правительства, но и налагают на него множество активных обязанностей. Демократическому правительству недостаточно воздерживаться от нарушения прав человека и гражданских прав. Оно должно предпринимать действия по их обеспечению. Например, право на жизнь налагает на демократическое правительство обязанность защищать граждан от преступного насилия. Если правительство никого не убивает, но при этом не предпринимает никаких усилий для защиты граждан от убийств, это скорее анархия, чем демократия.

ЛЮДИ ПРОТИВ ПРАВДЫ

Конечно, в каждой демократической стране ведутся долгие дискуссии о том, каковы границы прав человека и гражданина. Даже право на жизнь имеет свои пределы. Есть демократические страны, такие как Соединенные Штаты, которые вводят смертную казнь, тем самым лишая некоторых преступников права на жизнь. И каждая страна позволяет себе объявлять войну, тем самым посылая людей убивать и быть убитыми. Так где же заканчивается право на жизнь? Сложные и постоянные дискуссии ведутся и по поводу списка прав, которые должны быть включены в эти две корзины. Кто определил, что свобода вероисповедания является одним из основных прав человека? Следует ли определять доступ к Интернету как гражданское право? А как насчет прав животных? Или права искусственного интеллекта?

Мы не можем решить эти вопросы здесь. И права человека, и гражданские права - это интерсубъективные конвенции, которые люди скорее изобретают, чем открывают, и они определяются историческими обстоятельствами, а не универсальным разумом. В разных демократических странах могут быть приняты несколько разные списки прав. По крайней мере, с точки зрения информационных потоков, "демократичность" системы определяется только тем, что ее центр не обладает неограниченной властью и что система имеет надежные механизмы исправления ошибок центра. Демократические сети предполагают, что все ошибаются, включая даже победителей выборов и большинство избирателей.

Особенно важно помнить, что выборы - это не метод выявления истины. Скорее, это метод поддержания порядка путем вынесения решения между противоречивыми желаниями людей. Выборы устанавливают то, чего желает большинство людей, а не то, что является истиной. А люди часто хотят, чтобы истина была не такой, какая она есть. Поэтому демократические сети поддерживают некоторые механизмы самокоррекции, чтобы защитить истину даже от воли большинства.

Например, во время дебатов 2002-2003 годов о необходимости вторжения в Ирак после терактов 11 сентября администрация Буша утверждала, что Саддам Хусейн разрабатывает оружие массового поражения и что иракский народ стремится к установлению демократии американского образца и примет американцев как освободителей. Эти аргументы оказались весомыми. В октябре 2002 года избранные представители американского народа в Конгрессе подавляющим большинством голосов проголосовали за санкционирование вторжения. Резолюция была принята большинством 296 против 133 (69 %) в Палате представителей и большинством 77 против 23 (77 %) в Сенате. В первые дни войны, в марте 2003 года, опросы показали, что избранные представители действительно были согласны с массой избирателей и что 72 % американских граждан поддержали вторжение. Воля американского народа была ясна.

Но правда оказалась не такой, как говорило правительство и как считало большинство. По мере развития войны становилось очевидным, что в Ираке не было оружия массового поражения и что многие иракцы не желали "освобождения" американцами или установления демократии. К августу 2004 года очередной опрос показал, что 67 % американцев считают, что вторжение было основано на неверных предположениях. С годами большинство американцев признали, что решение о вторжении было катастрофической ошибкой.

В демократическом обществе большинство имеет полное право принимать судьбоносные решения, такие как развязывание войн, и это включает в себя право совершать судьбоносные ошибки. Но большинство должно, по крайней мере, признавать собственную ошибочность и защищать свободу меньшинств придерживаться и обнародовать непопулярные взгляды, которые могут оказаться правильными.

В качестве другого примера рассмотрим случай с харизматичным лидером, которого обвиняют в коррупции. Его преданные сторонники, очевидно, хотят, чтобы эти обвинения были ложными. Но даже если большинство избирателей поддерживают лидера, их желания не должны помешать судьям расследовать обвинения и докопаться до истины. Как и в случае с системой правосудия, так и в случае с наукой. Большинство избирателей может отрицать реальность изменения климата, но они не должны иметь права диктовать научную истину или препятствовать ученым исследовать и публиковать неудобные факты. В отличие от парламентов, факультеты экологических исследований не должны отражать волю большинства.

Разумеется, когда речь идет о принятии политических решений, касающихся изменения климата, в демократическом обществе должна преобладать воля избирателей. Признание реальности изменения климата не говорит нам о том, что с ним делать. У нас всегда есть варианты, и выбор между ними - это вопрос желания, а не истины. Одним из вариантов может быть немедленное сокращение выбросов парниковых газов, даже ценой замедления экономического роста. Это означает, что сегодня мы столкнемся с некоторыми трудностями, но зато спасем людей в 2050 году от более тяжелых испытаний, спасем островное государство Кирибати от утопления, а белых медведей - от вымирания. Второй вариант - продолжать жить как обычно. Это означает, что сегодня жить легче, но при этом усложнить жизнь следующим поколениям, затопить Кирибати и привести к вымиранию белых медведей, а также других многочисленных видов. Выбор между этими двумя вариантами - вопрос желания, и поэтому он должен быть сделан всеми избирателями, а не ограниченной группой экспертов.

Но единственный вариант, который не должен предлагаться на выборах, - это скрывать или искажать правду. Если большинство предпочитает потреблять любое количество ископаемого топлива, не обращая внимания на будущие поколения или другие экологические соображения, оно имеет право голосовать за это. Но большинство не должно иметь права принимать закон о том, что изменение климата - это мистификация и что все профессора, которые верят в изменение климата, должны быть уволены со своих научных постов. Мы можем выбирать, что хотим, но мы не должны отрицать истинное значение нашего выбора.

Естественно, академические институты, СМИ и судебная система сами могут быть скомпрометированы коррупцией, предвзятостью или ошибками. Но подчинение их правительственному министерству правды, скорее всего, только усугубит ситуацию. Правительство и так является самым могущественным институтом в развитых обществах, и оно зачастую больше всех заинтересовано в искажении или сокрытии неудобных фактов. Позволить правительству руководить поиском истины - все равно что назначить лису сторожить курятник.

Чтобы узнать правду, лучше полагаться на два других метода. Во-первых, академические институты, СМИ и судебная система имеют свои собственные внутренние механизмы самокоррекции для борьбы с коррупцией, исправления предвзятости и разоблачения ошибок. В научных кругах рецензируемые публикации являются гораздо лучшей проверкой ошибок, чем надзор со стороны государственных чиновников, поскольку продвижение по службе часто зависит от разоблачения прошлых ошибок и обнаружения неизвестных фактов. В средствах массовой информации свободная конкуренция означает, что если одно издание решит не раздувать скандал, возможно, из корыстных соображений, другие, скорее всего, бросятся за сенсацией. В судебной системе судья, берущий взятки, может быть судим и наказан так же, как и любой другой гражданин.

Во-вторых, существование нескольких независимых институтов, которые по-разному ищут истину, позволяет им проверять и корректировать друг друга. Например, если могущественным корпорациям удается сломать механизм рецензирования, подкупив достаточно большое количество ученых, журналисты-расследователи и суды могут разоблачить и наказать виновных. Если СМИ или суды страдают от систематических расистских предубеждений, то разоблачать их - задача социологов, историков и философов. Ни один из этих механизмов не является абсолютно безотказным, но ни один человеческий институт не является таковым. Правительство точно не является таковым.

ПОПУЛИСТСКОЕ НАПАДЕНИЕ

Если все это звучит сложно, то это потому, что демократия должна быть сложной. Простота - это характеристика диктаторских информационных сетей, в которых центр диктует все, а все молча подчиняются. Следовать этому диктаторскому монологу очень просто. В отличие от этого, демократия - это разговор с множеством участников, многие из которых говорят одновременно. Следить за таким разговором бывает непросто.

Более того, самые важные демократические институты, как правило, являются бюрократическими гигантами. В то время как граждане с жадностью следят за биологическими драмами княжеского двора и президентского дворца, им зачастую сложно понять, как функционируют парламенты, суды, газеты и университеты. Именно это помогает сильным мира сего устраивать популистские атаки на институты, демонтировать все механизмы самокоррекции и концентрировать власть в своих руках. В прологе мы вкратце обсудили популизм, чтобы помочь объяснить популистский вызов наивному взгляду на информацию. Здесь нам необходимо вновь обратиться к популизму, получить более широкое понимание его мировоззрения и объяснить его привлекательность для антидемократических сильных мира сего.

Термин "популизм" происходит от латинского populus, что означает "народ". В демократических странах "народ" считается единственным легитимным источником политической власти. Только представители народа должны иметь право объявлять войны, принимать законы и повышать налоги. Популисты бережно хранят этот базовый демократический принцип, но почему-то делают из него вывод, что одна партия или один лидер должны монополизировать всю власть. В результате любопытной политической алхимии популисты умудряются основывать тоталитарное стремление к неограниченной власти на, казалось бы, безупречном демократическом принципе. Как это происходит?

Самое новое утверждение популистов заключается в том, что только они действительно представляют народ. Поскольку в демократических государствах только народ должен обладать политической властью, и поскольку якобы только популисты представляют народ, из этого следует, что популистская партия должна иметь всю политическую власть в своих руках. Если на выборах побеждает партия, отличная от популистов, это не означает, что эта конкурирующая партия завоевала доверие народа и имеет право сформировать правительство. Скорее, это означает, что выборы были украдены или что людей обманом заставили голосовать не так, как они хотели.

Следует подчеркнуть, что для многих популистов это искреннее убеждение, а не пропагандистский гамбит. Даже если они наберут лишь небольшую долю голосов, популисты все равно могут верить, что только они представляют народ. Аналогичным примером являются коммунистические партии. Например, в Великобритании Коммунистическая партия Великобритании (КПВБ) никогда не набирала более 0,4 % голосов на всеобщих выборах, но, тем не менее, была непреклонна в том, что только она действительно представляет рабочий класс. Миллионы британских рабочих, утверждали они, голосовали за Лейбористскую партию или даже за Консервативную партию, а не за КПГБ из-за "ложного сознания". Якобы, контролируя СМИ, университеты и другие институты, капиталисты сумели обмануть рабочий класс, заставив его голосовать против своих истинных интересов, и только КПГБ смог разглядеть этот обман. Так и популисты могут поверить, что враги народа обманом заставили народ голосовать против его истинной воли, которую представляют только популисты.

Основой этого популистского кредо является вера в то, что "народ" - это не совокупность людей из плоти и крови с различными интересами и мнениями, а единое мистическое тело, обладающее единой волей - "волей народа". Пожалуй, самым известным и крайним проявлением этой полурелигиозной веры стал нацистский лозунг "Ein Volk, ein Reich, ein Führer", что означает "Один народ, одна страна, один вождь". Нацистская идеология утверждала, что Volk (народ) обладает единой волей, единственным подлинным представителем которой является Führer (вождь). Вождь якобы обладал безошибочной интуицией в отношении того, что чувствует и чего хочет народ. Если некоторые граждане Германии не соглашались с лидером, это не означало, что лидер может быть не прав. Скорее, это означало, что несогласные принадлежат не к народу, а к какой-то предательской чужой группе - евреям, коммунистам, либералам.

Конечно, случай с нацистами является крайним, и обвинять всех популистов в том, что они криптонацисты с геноцидными наклонностями, крайне несправедливо. Однако многие популистские партии и политики отрицают, что в "народе" может быть множество мнений и групп интересов. Они настаивают на том, что реальный народ имеет только одну волю и что только они представляют эту волю. В отличие от них, их политические соперники - даже если последние пользуются значительной поддержкой населения - изображаются как "чужая элита". Так, Уго Чавес баллотировался на пост президента Венесуэлы с лозунгом "Чавес - это народ!" Президент Турции Эрдоган однажды обрушился на своих внутренних критиков, заявив: "Мы - народ. Кто вы?" - как будто его критики тоже не были турками.

Как же определить, принадлежит ли кто-то к народу или нет? Легко. Если они поддерживают лидера, то они - часть народа. Именно это, по мнению немецкого политического философа Яна-Вернера Мюллера, является определяющей чертой популизма. Что превращает человека в популиста, так это утверждение, что он один представляет народ и что любой, кто с ним не согласен - будь то государственные бюрократы, группы меньшинств или даже большинство избирателей, - либо страдает ложным сознанием, либо на самом деле не является частью народа.

Именно поэтому популизм представляет собой смертельную угрозу для демократии. Хотя демократия согласна с тем, что народ - единственный легитимный источник власти, она основана на понимании того, что народ никогда не является единым целым и, следовательно, не может обладать единой волей. Любой народ - будь то немцы, венесуэльцы или турки - состоит из множества различных групп, с множеством мнений, воль и представителей. Ни одна группа, включая группу большинства, не имеет права исключать другие группы из состава народа. Именно это делает демократию беседой. Разговор предполагает наличие нескольких легитимных голосов. Однако если у народа есть только один легитимный голос, разговора быть не может. Напротив, один голос диктует все. Поэтому популизм может заявлять о приверженности демократическому принципу "народовластия", но на деле он лишает демократию смысла и стремится установить диктатуру.

Популизм подрывает демократию другим, более тонким, но не менее опасным способом. Заявив, что только они представляют народ, популисты утверждают, что народ - это не только единственный законный источник политической власти, но и единственный законный источник всей власти. Любой институт, который черпает свою власть из чего-то иного, чем воля народа, является антидемократическим. Будучи самопровозглашенными представителями народа, популисты, следовательно, стремятся монополизировать не только политическую, но и любую другую власть и взять под контроль такие институты, как СМИ, суды и университеты. Доведя демократический принцип "народовластия" до крайности, популисты превращаются в тоталитаристов.

На самом деле, хотя демократия подразумевает, что власть в политической сфере исходит от народа, она не отрицает валидность альтернативных источников власти в других сферах. Как уже говорилось выше, в демократическом обществе независимые СМИ, суды и университеты являются важнейшими самокорректирующимися механизмами, которые защищают истину даже от воли большинства. Профессора биологии утверждают, что люди произошли от обезьян, потому что это подтверждается фактами, даже если большинство хочет, чтобы было иначе. Журналисты могут рассказать о том, что популярный политик взял взятку, а если убедительные доказательства будут представлены в суде, судья может отправить политика в тюрьму, даже если большинство людей не захочет верить этим обвинениям.

Популисты с подозрением относятся к институтам, которые во имя объективных истин отменяют предполагаемую волю народа. Они склонны видеть в этом дымовую завесу для элит, захвативших незаконную власть. Это заставляет популистов скептически относиться к поиску истины и утверждать, как мы видели в прологе, что "власть - единственная реальность". Таким образом, они стремятся подорвать или присвоить себе авторитет любых независимых институтов, которые могут им противостоять. В результате возникает мрачное и циничное представление о мире как о джунглях, а о людях - как о существах, одержимых одной лишь властью. Все социальные взаимодействия рассматриваются как борьба за власть, а все институты изображаются как клики, отстаивающие интересы своих членов. В популистском воображении суды на самом деле не заботятся о справедливости; они лишь защищают привилегии судей. Да, судьи много говорят о справедливости, но это уловка, чтобы захватить власть в свои руки. Газеты не заботятся о фактах; они распространяют фальшивые новости, чтобы ввести людей в заблуждение и принести пользу журналистам и финансирующим их кабалам. Даже научные учреждения не привержены истине. Биологи, климатологи, эпидемиологи, экономисты, историки и математики - это всего лишь очередная группа интересов, набивающая свое гнездо за счет народа.

В целом это довольно гнусный взгляд на человечество, но две вещи, тем не менее, делают его привлекательным для многих. Во-первых, поскольку он сводит все взаимодействия к борьбе за власть, это упрощает реальность и делает такие события, как войны, экономические кризисы и стихийные бедствия, легко понятными. Все, что происходит - даже пандемия, - связано с борьбой элит за власть. Во-вторых, популистская точка зрения привлекательна тем, что иногда она оказывается верной. Любой человеческий институт действительно несовершенен и в той или иной степени подвержен коррупции. Некоторые судьи действительно берут взятки. Некоторые журналисты намеренно вводят общественность в заблуждение. Академические дисциплины периодически страдают от предвзятости и непотизма. Именно поэтому каждый институт нуждается в механизмах самокоррекции. Но поскольку популисты убеждены, что власть - это единственная реальность, они не могут принять тот факт, что суд, СМИ или академическая дисциплина когда-либо будут вдохновлены ценностью истины или справедливости, чтобы исправить себя.

В то время как многие люди принимают популизм, потому что видят в нем честное отражение человеческой реальности, силовиков он привлекает по другой причине. Популизм предлагает сильным мира сего идеологическую основу для того, чтобы сделать себя диктаторами, притворяясь демократами. Он особенно полезен, когда силовики стремятся нейтрализовать или присвоить самокорректирующиеся механизмы демократии. Поскольку судьи, журналисты и профессора якобы преследуют политические интересы, а не истину, народный защитник - силач - должен контролировать эти должности, а не позволять им попадать в руки врагов народа. Аналогичным образом, поскольку даже чиновники, отвечающие за организацию выборов и обнародование их результатов, могут быть частью гнусного заговора, их тоже следует заменить на преданных силовику людей.

В хорошо функционирующей демократии граждане доверяют результатам выборов, решениям судов, сообщениям СМИ и выводам научных дисциплин, поскольку считают, что эти институты привержены истине. Как только люди начинают думать, что власть - это единственная реальность, они теряют доверие ко всем этим институтам, демократия рушится, и сильные мира сего могут захватить полную власть.

Конечно, популизм может привести к анархии, а не к тоталитаризму, если он подорвет доверие к самим сильным мира сего. Если ни один человек не заинтересован в истине или справедливости, разве это не относится и к Муссолини или Путину? И если ни один человеческий институт не может иметь эффективных механизмов самокоррекции, разве это не относится к Национальной фашистской партии Муссолини или путинской "Единой России"? Как можно сочетать глубокое недоверие ко всем элитам и институтам с непоколебимым восхищением одним лидером и партией? Вот почему популисты в конечном итоге полагаются на мистическое представление о том, что сильная личность олицетворяет собой народ. Когда доверие к бюрократическим институтам, таким как избирательные комиссии, суды и газеты, особенно низко, усиленная опора на мифологию - единственный способ сохранить порядок.

ИЗМЕРЕНИЕ СИЛЫ ДЕМОКРАТИЙ

Силовики, утверждающие, что представляют народ, вполне могут прийти к власти демократическим путем и часто правят, прикрываясь демократическим фасадом. Подтасованные выборы, на которых они получают подавляющее большинство голосов, служат доказательством мистической связи между лидером и народом. Следовательно, чтобы определить, насколько демократична та или иная информационная сеть, мы не можем использовать такой простой критерий, как регулярность проведения выборов. В путинской России, в Иране и даже в Северной Корее выборы проходят как часы. Скорее, мы должны задавать гораздо более сложные вопросы, такие как "Какие механизмы не позволяют центральному правительству фальсифицировать выборы?". "Насколько безопасно ведущим СМИ критиковать правительство?" и "Сколько полномочий присваивает себе центр?". Демократия и диктатура - это не бинарные противоположности, а скорее континуум. Чтобы решить, к какому концу континуума относится сеть - демократическому или диктаторскому, - нам нужно понять, как в ней циркулирует информация и что формирует политические разговоры.

Если один человек диктует все решения, и даже его ближайшие советники боятся высказать свое особое мнение, разговора не получится. Такая сеть находится на крайнем диктаторском конце спектра. Если никто не может публично высказать неортодоксальное мнение, но за закрытыми дверями небольшой круг партийных боссов или высокопоставленных чиновников может свободно выражать свои взгляды, то это все еще диктатура, но она сделала маленький шаг в сторону демократии. Если 10 % населения участвуют в политической жизни, высказывая свое мнение, голосуя на честных выборах и выдвигая свои кандидатуры, это можно считать ограниченной демократией, как это было во многих древних городах-государствах, таких как Афины, или на заре существования Соединенных Штатов, когда такими политическими правами обладали только состоятельные белые мужчины. По мере увеличения доли людей, принимающих участие в общении, сеть становится все более демократичной.

Фокус на разговорах, а не на выборах поднимает множество интересных вопросов. Например, где проходят эти беседы? В Северной Корее, например, есть зал заседаний Мансудэ в Пхеньяне, где встречаются и беседуют 687 членов Верховного народного собрания. Однако, хотя это собрание официально называется законодательным органом Северной Кореи, и хотя выборы в него проводятся каждые пять лет, этот орган широко считается "резиновой печатью", исполняющей решения, принятые в других местах. Анодные дискуссии проходят по заранее разработанному сценарию, и они не направлены на то, чтобы изменить чье-либо мнение о чем-либо.

Может быть, в Пхеньяне есть еще один, более уединенный зал, где проходят решающие беседы? Осмеливаются ли члены Политбюро критиковать политику Ким Чен Ына во время официальных заседаний? Может быть, это можно сделать на неофициальных званых обедах или в неофициальных аналитических центрах? Информация в Северной Корее настолько концентрирована и так жестко контролируется, что мы не можем дать четких ответов на эти вопросы.

Аналогичные вопросы можно задать и о Соединенных Штатах. В Соединенных Штатах, в отличие от Северной Кореи, люди могут свободно говорить практически все, что хотят. Язвительные публичные нападки на правительство - повседневное явление. Но где находится зал, где происходят решающие разговоры, и кто там сидит? Конгресс США был создан для выполнения этой функции: народные представители собираются, чтобы поговорить и попытаться убедить друг друга. Но когда в последний раз красноречивая речь члена Конгресса от одной партии убеждала членов другой партии изменить свое мнение о чем-либо? Где бы ни происходили разговоры, определяющие американскую политику, это точно не в Конгрессе. Демократия умирает не только тогда, когда люди не могут свободно говорить, но и когда они не хотят или не могут слушать.

ДЕМОКРАТИИ КАМЕННОГО ВЕКА

Исходя из приведенного выше определения демократии, мы можем обратиться к историческим данным и рассмотреть, как изменения в информационных технологиях и информационных потоках повлияли на историю демократии. Судя по археологическим и антропологическим данным, демократия была наиболее типичной политической системой среди архаичных охотников-собирателей. У групп каменного века, очевидно, не было формальных институтов, таких как выборы, суды и средства массовой информации, но их информационные сети обычно были распределены и давали широкие возможности для самокоррекции. В группах, насчитывающих всего несколько десятков человек, информация легко распространялась среди всех членов группы, и когда группа решала, где разбить лагерь, куда пойти на охоту или как уладить конфликт с другой группой, все могли участвовать в разговоре и спорить друг с другом. Обычно группы принадлежали к более крупному племени, в которое входили сотни или даже тысячи людей. Но когда нужно было принять важное решение, касающееся всего племени, например, вступить ли в войну, племена обычно оставались достаточно маленькими, чтобы большой процент их членов мог собраться в одном месте и поговорить.

Хотя у групп и племен иногда были доминирующие вожди, они, как правило, пользовались лишь ограниченной властью. В распоряжении вождей не было ни постоянной армии, ни полиции, ни правительственной бюрократии, поэтому они не могли просто навязать свою волю силой. Вождям также было трудно контролировать экономические основы жизни людей. В наше время диктаторы, такие как Владимир Путин и Саддам Хусейн, часто основывали свою политическую власть на монополизации экономических активов, таких как нефтяные скважины. В средневековой и классической древности китайские императоры, греческие тираны и египетские фараоны доминировали в обществе, контролируя зернохранилища, серебряные рудники и ирригационные каналы. В отличие от этого, в экономике охотников-собирателей такой централизованный экономический контроль был возможен только при особых обстоятельствах. Например, на северо-западном побережье Северной Америки экономика некоторых охотников-собирателей основывалась на ловле и сохранении большого количества лосося. Поскольку пик лосося приходился на несколько недель в определенных ручьях и реках, могущественный вождь мог монополизировать этот актив.

Но это была исключительная ситуация. Экономика большинства охотников-собирателей была гораздо более диверсифицированной. Один вождь, даже при поддержке нескольких союзников, не смог бы загнать саванну в угол и помешать людям собирать там растения и охотиться на животных. Если все остальное не помогало, охотники-собиратели могли голосовать ногами. У них было мало имущества, и самыми важными активами были их личные навыки и друзья. Если вождь становился диктатором, люди могли просто уйти.

Даже когда охотники-собиратели оказывались во власти властного вождя, как это случилось с лососевыми рыбаками северо-западной Америки, этот вождь, по крайней мере, был доступен. Он не жил в далекой крепости, окруженной непостижимой бюрократией и кордоном вооруженных охранников. Если вы хотели высказать жалобу или предложение, то обычно могли его услышать. Шеф не мог контролировать общественное мнение, но и не мог отгородиться от него. Другими словами, у вождя не было возможности заставить всю информацию проходить через центр или помешать людям общаться друг с другом, критиковать его или организовывать против него организации.

В течение тысячелетий после сельскохозяйственной революции и особенно после того, как письменность помогла создать крупные бюрократические государства, стало проще централизовать поток информации и сложнее поддерживать демократический разговор. В небольших городах-государствах, таких как древние Месопотамия и Греция, автократы вроде Лугаль-Загеси из Уммы и Писистрата из Афин опирались на бюрократов, архивы и постоянную армию, чтобы монополизировать ключевые экономические активы и информацию о собственности, налогообложении, дипломатии и политике. Одновременно массам граждан стало сложнее поддерживать прямую связь друг с другом. Не было технологий массовой коммуникации, таких как газеты или радио, и было нелегко собрать десятки тысяч горожан на главной городской площади, чтобы провести общее обсуждение.

Демократия все еще оставалась возможной для этих небольших городов-государств, о чем ясно свидетельствует история раннего Шумера и классической Греции. Однако демократия древних городов-государств, как правило, была менее инклюзивной, чем демократия архаичных групп охотников-собирателей. Вероятно, самым известным примером демократии в древних городах-государствах являются Афины в пятом и четвертом веках до нашей эры. Все взрослые граждане мужского пола могли участвовать в афинском собрании, голосовать по вопросам государственной политики и быть избранными на государственные должности. Но женщины, рабы и неграждане города не пользовались этими привилегиями. Полными политическими правами пользовались лишь около 25-30 процентов взрослого населения Афин.

По мере того как размеры полисов увеличивались, а города-государства вытеснялись более крупными царствами и империями, даже частичная демократия афинского типа исчезла. Все известные примеры античных демократий - это города-государства, такие как Афины и Рим. В отличие от них, мы не знаем ни одного крупного царства или империи, которые действовали бы по демократическим принципам.

Например, когда в V веке до н. э. Афины превратились из города-государства в империю, они не предоставляли гражданства и политических прав тем, кого завоевывали. Город Афины оставался ограниченной демократией, но гораздо более крупная Афинская империя управлялась автократически из центра. Все важные решения о налогах, дипломатических союзах и военных походах принимались в Афинах. Подвластные земли, такие как острова Наксос и Тасос, должны были подчиняться приказам афинского народного собрания и выборных должностных лиц, при этом наксосцы и тасийцы не могли голосовать в этом собрании или быть избранными на должности. Кроме того, Наксосу, Тасосу и другим подвластным землям было сложно скоординировать единую оппозицию решениям, принимаемым в афинском центре, а если бы они попытались это сделать, то нарвались бы на беспощадные афинские репрессии. Информация в Афинской империи стекалась в Афины и из Афин.

Когда Римская республика создала свою империю, завоевав сначала Итальянский полуостров, а затем и все Средиземноморье, римляне пошли по несколько иному пути. Рим постепенно распространял гражданство на завоеванные народы. Сначала он предоставил гражданство жителям Лациума, затем жителям других областей Италии и, наконец, жителям даже таких отдаленных провинций, как Галлия и Сирия. Однако по мере того, как гражданство распространялось на все большее число людей, одновременно ограничивались их политические права.

Древние римляне четко понимали, что такое демократия, и изначально были яростно привержены демократическим идеалам. После изгнания последнего римского царя в 509 году до н. э. римляне прониклись глубокой неприязнью к монархии и страхом перед предоставлением неограниченной власти какому-либо одному человеку или учреждению. Поэтому верховная исполнительная власть была разделена между двумя консулами, которые уравновешивали друг друга. Эти консулы выбирались гражданами на свободных выборах, занимали свой пост в течение одного года и дополнительно контролировались полномочиями народного собрания, сената и других выборных должностных лиц, таких как трибуны.

Но когда в Риме гражданство получили латины, италики, а в конце концов галлы и сирийцы, власть народного собрания, трибунов, сената и даже двух консулов постепенно уменьшалась, пока в конце I века до н. э. семья Цезарей не установила свое самодержавное правление. Предвосхищая современных силовиков вроде Путина, Август не короновал себя царем и делал вид, что Рим все еще остается республикой. Сенат и народное собрание продолжали созываться, и каждый год граждане выбирали консулов и трибунов. Но эти институты были лишены реальной власти.

В 212 году н. э. император Каракалла - потомок финикийской семьи из Северной Африки - предпринял, казалось бы, судьбоносный шаг и предоставил автоматическое римское гражданство всем свободным взрослым мужчинам на территории огромной империи. Рим в III веке н. э., соответственно, насчитывал десятки миллионов граждан. Но к тому времени все важные решения принимал один-единственный неизбираемый император. Хотя консулы по-прежнему выбирались каждый год церемониально, Каракалла унаследовал власть от своего отца Септимия Севера, который стал императором, победив в гражданской войне. Чтобы закрепить свое правление, самым важным шагом Каракаллы стало убийство его брата и соперника Геты.

Когда Каракалла приказал убить Гету, решил обесценить римскую валюту или объявил войну Парфянской империи, ему не нужно было спрашивать разрешения у римского народа. Все механизмы самокоррекции Рима были нейтрализованы задолго до этого. Если Каракалла совершал какую-то ошибку во внешней или внутренней политике, ни сенат, ни должностные лица, такие как консулы или трибуны, не могли вмешаться, чтобы исправить ее, разве что подняв восстание или убив его. И когда Каракалла действительно был убит в 217 году, это привело лишь к новому витку гражданских войн, завершившихся приходом к власти новых автократов. Рим III века н. э., как и Россия XVIII века, был, по словам мадам де Сталь, "автократией, усугубленной удушением".

К третьему веку нашей эры не только Римская империя, но и все другие крупные человеческие общества на Земле представляли собой централизованные информационные сети, лишенные мощных механизмов самокоррекции. Так было с Парфянской и Сасанидской империями в Персии, Кушанской и Гуптской империями в Индии, китайской империей Хань и сменившим ее Троецарствием. Тысячи мелких обществ продолжали функционировать демократически в III веке н. э. и далее, но казалось, что распределенные демократические сети просто несовместимы с крупными обществами.

ЦЕЗАРЯ В ПРЕЗИДЕНТЫ!

Были ли масштабные демократии действительно неработоспособны в древнем мире? Или автократы, такие как Август и Каракалла, намеренно саботировали их? Этот вопрос важен не только для нашего понимания древней истории, но и для нашего взгляда на будущее демократии в эпоху ИИ. Как узнать, терпят ли демократии крах из-за того, что их подрывают сильные мира сего, или по гораздо более глубоким структурным и технологическим причинам?

Чтобы ответить на этот вопрос, давайте поближе познакомимся с Римской империей. Римляне были хорошо знакомы с демократическим идеалом, и он продолжал быть важным для них даже после прихода к власти семьи Цезарей. В противном случае Август и его наследники не стали бы поддерживать такие, казалось бы, демократические институты, как сенат или ежегодные выборы в консульство и другие должности. Так почему же власть оказалась в руках неизбираемого императора?

Теоретически, даже после того как римское гражданство было распространено на десятки миллионов человек по всему Средиземноморскому бассейну, разве нельзя было провести выборы императора в масштабах всей империи? Конечно, это потребовало бы очень сложной логистики, и на то, чтобы узнать результаты выборов, ушло бы несколько месяцев. Но так ли уж это важно?

Ключевое заблуждение здесь - приравнивание демократии к выборам. Если бы Римская империя захотела, она технически могла бы проводить выборы императора в масштабах всей империи. Но на самом деле нам следует задать вопрос, могла ли Римская империя вести постоянный политический диалог в масштабах всей империи. В современной Северной Корее демократические разговоры не ведутся, потому что люди не могут свободно говорить, хотя мы вполне можем представить себе ситуацию, когда эта свобода гарантирована - как в Южной Корее. В современных Соединенных Штатах демократический разговор находится под угрозой из-за неспособности людей слушать и уважать своих политических соперников, но, предположительно, это еще можно исправить. В отличие от этого, в Римской империи просто не было возможности вести или поддерживать демократический разговор, потому что не существовало технологических средств для его проведения.

Чтобы вести беседу, недостаточно иметь свободу говорить и умение слушать. Есть еще два технических условия. Во-первых, люди должны находиться на расстоянии слышимости друг от друга. Это означает, что вести политический разговор на территории размером с Соединенные Штаты или Римскую империю можно только с помощью неких информационных технологий, способных быстро передавать слова людей на большие расстояния.

Во-вторых, люди должны хотя бы в общих чертах понимать, о чем они говорят. В противном случае они просто шумят, а не ведут содержательный разговор. Обычно люди хорошо разбираются в политических вопросах, с которыми они непосредственно сталкиваются. Бедные люди имеют множество представлений о бедности, которые ускользают от профессоров экономики, а этнические меньшинства понимают расизм гораздо глубже, чем, например, люди, которые никогда от него не страдали. Однако если бы жизненный опыт был единственным способом понимания важнейших политических вопросов, масштабные политические дискуссии были бы невозможны. Ведь тогда каждая группа людей могла бы осмысленно говорить только о своем собственном опыте. Хуже того, никто другой не смог бы понять, о чем они говорят. Если жизненный опыт является единственным возможным источником знаний, то простое слушание информации, полученной из чужого жизненного опыта, не может передать мне эти знания.

Широкомасштабный политический разговор между различными группами людей возможен только в том случае, если люди могут получить некоторое представление о проблемах, с которыми они никогда не сталкивались лично. В крупном государстве система образования и СМИ играют важнейшую роль в информировании людей о том, с чем они никогда не сталкивались сами. Если нет системы образования или медиаплатформ, выполняющих эту роль, не может быть и полноценных масштабных дискуссий.

В небольшом неолитическом городке с населением в несколько тысяч человек люди могли иногда бояться говорить то, что думают, или отказываться слушать своих соперников, но удовлетворить более фундаментальные технические предпосылки для осмысленного дискурса было относительно легко. Во-первых, люди жили в непосредственной близости друг от друга, поэтому они могли легко встретиться с большинством других членов сообщества и услышать их голоса. Во-вторых, все были хорошо осведомлены об опасностях и возможностях, с которыми сталкивался город. Если приближался вражеский военный отряд, все могли его видеть. Если река затапливала поля, все видели экономические последствия. Когда люди говорили о войне и голоде, они знали, что говорят.

В четвертом веке до нашей эры город-государство Рим был еще достаточно мал, чтобы большая часть его граждан могла собираться на Форуме во время чрезвычайных ситуаций, слушать уважаемых лидеров и высказывать свое личное мнение по тому или иному вопросу. Когда в 390 году до н. э. галльские захватчики напали на Рим, почти каждый потерял родственника в битве при Аллии и лишился имущества, когда победившие галлы затем разграбили Рим. Отчаявшиеся римляне назначили диктатором Марка Камилла. В Риме диктатор был государственным чиновником, назначаемым в чрезвычайных ситуациях и обладавшим неограниченными полномочиями, но только на короткий, заранее определенный период, после чего он нес ответственность за свои действия. После того как Камилл привел римлян к победе, все поняли, что чрезвычайное положение закончилось, и Камилл ушел в отставку.

Напротив, к третьему веку нашей эры население Римской империи составляло от шестидесяти до семидесяти пяти миллионов человек, проживавших на площади в пять миллионов квадратных километров. В Риме не было технологий массовой коммуникации, таких как радио или ежедневные газеты. Только 10-20 процентов взрослых людей умели читать, и не было организованной системы образования, которая могла бы рассказать им о географии, истории и экономике империи. Правда, многие жители империи разделяли некоторые культурные идеи, такие как сильная вера в превосходство римской цивилизации над варварами. Эти общие культурные убеждения сыграли решающую роль в сохранении порядка и сплочении империи. Но их политические последствия были далеко не ясны, а во время кризиса не было возможности провести публичный разговор о том, что следует делать.

Как могли сирийские купцы, британские пастухи и египетские сельские жители говорить о продолжающихся войнах на Ближнем Востоке или об иммиграционном кризисе, разразившемся на Дунае? В отсутствии полноценного общественного разговора не виноваты ни Август, ни Нерон, ни Каракалла, ни другие императоры. Они не саботировали римскую демократию. Учитывая размеры империи и доступные информационные технологии, демократия была просто неработоспособна. Это признавали еще древние философы, такие как Платон и Аристотель, которые утверждали, что демократия может работать только в небольших городах-государствах.

Если бы отсутствие римской демократии было лишь виной отдельных автократов, мы должны были бы, по крайней мере, наблюдать процветание масштабных демократий в других местах, например, в сасанидской Персии, Индии Гуптов или ханьском Китае. Но до развития современных информационных технологий примеров масштабных демократий нет нигде.

Следует подчеркнуть, что во многих крупных автократиях местные дела часто управлялись демократическим путем. У римского императора не было информации, необходимой для микроуправления сотнями городов империи, в то время как местные жители в каждом городе могли продолжать вести содержательный разговор о муниципальной политике. Поэтому еще долго после того, как Римская империя стала автократией, многие ее города продолжали управляться местными собраниями и выборными должностными лицами. В то время как выборы консулов в Риме превратились в церемониальные мероприятия, выборы на муниципальные должности в таких небольших городах, как Помпеи, вызывали жаркие споры.

Помпеи были разрушены в результате извержения Везувия в 79 году н.э., во время правления императора Тита. Археологи обнаружили около пятнадцати сотен граффити, связанных с различными местными избирательными кампаниями. Одной из желанных должностей была должность городского эдила - магистрата, отвечавшего за поддержание городской инфраструктуры и общественных зданий. Сторонники Лукреция Фронто нарисовали граффити: "Если честная жизнь может служить хоть какой-то рекомендацией, то Лукреций Фронто достоин быть избранным". Один из его противников, Гай Юлий Полибий, выступил с лозунгом "Изберите Гая Юлия Полибия на должность эдила. Он дает хороший хлеб".

Кроме того, религиозные группы и профессиональные ассоциации поддерживали его, например, "Поклонники Изиды требуют избрания Гнея Гельвия Сабина" и "Все погонщики мулов просят избрать Гая Юлия Полибия". Была и грязная работа. Кто-то, кто явно не был Марком Церринием Ватией, нарисовал граффити "Все пьяницы просят избрать Марка Церриния Ватию" и "Мелкие воришки просят избрать Ватию". Такая избирательная деятельность указывает на то, что должность эдила имела силу в Помпеях и что эдил выбирался на относительно свободных и честных выборах, а не назначался императорским самодержцем в Риме.

Даже в империях, чьи правители не имели никаких демократических притязаний, демократия могла процветать в местных условиях. В царской империи, например, повседневная жизнь миллионов сельских жителей управлялась сельскими коммунами. Начиная по крайней мере с XI века, в каждой коммуне обычно проживало менее тысячи человек. Они подчинялись помещику и несли множество обязательств перед своим господином и центральным царским государством, но обладали значительной автономией в управлении своими внутренними делами и в принятии решений о том, как выполнять свои внешние обязательства, такие как уплата налогов и отправка новобранцев. Община выступала посредником в местных спорах, оказывала экстренную помощь, следила за соблюдением социальных норм, распределяла землю между отдельными домохозяйствами и регулировала доступ к общим ресурсам, таким как леса и пастбища. Решения по важным вопросам принимались на собраниях общины, на которых главы местных домохозяйств высказывали свое мнение и выбирали старейшину коммуны. Решения, по крайней мере, пытались отразить волю большинства.

В царских деревнях и римских городах была возможна форма демократии, потому что был возможен содержательный общественный разговор. Помпеи в 79 году н. э. были городом с населением около одиннадцати тысяч человек, так что каждый мог предположительно сам судить, был ли Лукреций Фронто честным человеком, а Марк Церриний Ватия - пьяным вором. Но демократия в миллионном масштабе стала возможной только в современную эпоху, когда средства массовой информации изменили природу масштабных информационных сетей.

СМИ ДЕЛАЮТ ВОЗМОЖНОЙ МАССОВУЮ ДЕМОКРАТИЮ

Средства массовой информации можно определить как способность быстро соединять миллионы людей, даже если их разделяют большие расстояния. Печатный станок стал важнейшим шагом в этом направлении. Печать позволила дешево и быстро выпускать большое количество книг и памфлетов, что дало возможность большему числу людей высказывать свое мнение и быть услышанными на большой территории, даже если этот процесс все равно занимал время. Это позволило поддержать некоторые из первых экспериментов в области широкомасштабной демократии, такие как Речь Посполитая, созданная в 1569 году, и Голландская республика, основанная в 1579 году.

Некоторые могут оспорить характеристику этих государств как "демократических", поскольку полными политическими правами обладало лишь меньшинство относительно богатых граждан. В Речи Посполитой политическими правами обладали только взрослые мужчины, принадлежавшие к шляхте - дворянству. Их насчитывалось до 300 000 человек, или около 5 % всего взрослого населения. Одной из прерогатив шляхты было избрание короля, но поскольку для участия в голосовании требовалось преодолевать большие расстояния до национального съезда, немногие воспользовались своим правом. В XVI и XVII веках участие в королевских выборах обычно составляло от 3 000 до 7 000 избирателей, за исключением выборов 1669 года, в которых приняли участие 11 271 человек. Хотя в XXI веке это вряд ли звучит демократично, следует помнить, что все крупные демократии до XX века ограничивали политические права узким кругом относительно богатых людей. Демократия никогда не является вопросом "все или ничего". Она представляет собой континуум, и поляки и литовцы конца XVI века исследовали ранее неизвестные области этого континуума.

Помимо избрания короля, в Польше-Литве существовал выборный парламент (Сейм), который одобрял или блокировал новые законы и имел право накладывать вето на королевские решения по налогообложению и иностранным делам. Кроме того, граждане пользовались целым рядом неприкосновенных прав, таких как свобода собраний и свобода вероисповедания. В конце XVI - начале XVII веков, когда большая часть Европы страдала от ожесточенных религиозных конфликтов и гонений, Польша-Литва была толерантной гаванью, где в относительной гармонии сосуществовали католики, греческие православные, лютеране, кальвинисты, евреи и даже мусульмане. В 1616 году в королевстве действовало более ста мечетей.

Однако в итоге польско-литовский эксперимент по децентрализации оказался непрактичным. Страна была вторым по величине государством в Европе (после России), занимая почти миллион квадратных километров и включая большую часть территории современных Польши, Литвы, Беларуси и Украины. В нем отсутствовали системы информации, коммуникации и образования, необходимые для ведения содержательного политического разговора между польскими аристократами, литовскими шляхтичами, украинскими казаками и еврейскими раввинами, рассеянными от Балтийского до Черного моря. Кроме того, механизмы самокоррекции были слишком дорогостоящими, парализуя власть центрального правительства. В частности, каждый депутат Сейма был наделен правом вето на все парламентские законы, что приводило к политическому тупику. Сочетание большого и разнообразного государства со слабым центром оказалось фатальным. Содружество было разорвано центробежными силами, и его части были разделены между централизованными автократиями России, Австрии и Пруссии.

Голландский эксперимент оказался более удачным. В некоторых отношениях Голландские Соединенные Провинции были даже менее централизованными, чем Речь Посполитая, поскольку в них не было монарха, и они представляли собой союз семи автономных провинций, которые, в свою очередь, состояли из самоуправляющихся городов и поселков. Эта децентрализованная природа отражена в форме множественного числа, в которой страна была известна за рубежом - Netherlands на английском, Les Pays-Bas на французском, Los Países Bajos на испанском и так далее.

Однако в совокупности Объединенные провинции были в двадцать пять раз меньше по площади, чем Польша-Литва, и обладали гораздо более совершенной системой информации, связи и образования, которая тесно связывала их составные части. Объединенные провинции также стали пионерами новой информационной технологии с большим будущим. В июне 1618 года в Амстердаме появился памфлет под названием Courante uyt Italien, Duytslandt &c. Как следовало из названия, в нем содержались новости с Итальянского полуострова, из немецких земель и других мест. В этом конкретном памфлете не было ничего примечательного, кроме того, что в последующие недели выходили новые выпуски. Они выходили регулярно до 1670 года, когда "Курант из Италии, Дуйтсландта и т. д." объединился с другими серийными памфлетами в "Амстердамский курант", который выходил до 1903 года, когда он был объединен в "Де Телеграаф" - крупнейшую газету Нидерландов по сей день.

Газета - это периодическая брошюра, и она отличалась от прежних разовых брошюр тем, что имела гораздо более мощный механизм самокоррекции. В отличие от разовых публикаций, у еженедельной или ежедневной газеты есть шанс исправить свои ошибки и стимул сделать это, чтобы завоевать доверие публики. Вскоре после появления Courante uyt Italien, Duytslandt &c. дебютировала конкурирующая газета под названием Tijdinghen uyt Verscheyde Quartieren ("Вести из разных кварталов"). Газета "Курант" считалась более надежной, поскольку старалась проверять свои материалы перед публикацией, а "Тийдинген" обвиняли в излишнем патриотизме и сообщении только благоприятных для Нидерландов новостей. Тем не менее обе газеты выжили, потому что, как объяснил один читатель, "в одной газете всегда можно найти то, чего нет в другой". В последующие десятилетия в Нидерландах, ставших европейским журналистским центром, выходили десятки других газет.

Газеты, которым удалось завоевать всеобщее доверие, стали архитекторами и рупорами общественного мнения. Они создавали гораздо более информированную и вовлеченную общественность, что меняло характер политики сначала в Нидерландах, а затем и во всем мире. Политическое влияние газет было настолько значительным, что их редакторы часто становились политическими лидерами. Жан-Поль Марат пришел к власти в революционной Франции, основав и редактируя газету L'Ami du People; Эдуард Бернштейн помог создать Социал-демократическую партию Германии, редактируя Der Sozialdemokrat; самым важным постом Владимира Ленина перед тем, как стать советским диктатором, был редактор "Искры"; а Бенито Муссолини прославился сначала как журналист-социалист в Avanti!, а затем как основатель и редактор зажигательной правой газеты Il Popolo d'Italia.

Газеты сыграли решающую роль в формировании демократических государств раннего нового времени, таких как Соединенные провинции в Низких странах, Соединенное Королевство на Британских островах и Соединенные Штаты в Северной Америке. Как видно из самих названий, это были не города-государства, как древние Афины и Рим, а сплав различных регионов, отчасти скрепленный новой информационной технологией. Например, когда 6 декабря 1825 года президент Джон Куинси Адамс выступил с Первым ежегодным посланием к Конгрессу США, текст обращения и краткое изложение основных положений были опубликованы в течение следующих недель газетами от Бостона до Нового Орлеана (в то время в США выходили сотни газет и журналов).

Адамс объявил о намерениях своей администрации инициировать многочисленные федеральные проекты - от строительства дорог до основания астрономической обсерватории, которую он поэтично назвал "светлым домом неба". Его речь вызвала ожесточенную общественную дискуссию, в основном в печати, между теми, кто поддерживал подобные планы "большого правительства" как необходимые для развития Соединенных Штатов, и теми, кто предпочитал подход "малого правительства" и рассматривал планы Адамса как превышение федеральных полномочий и посягательство на права штатов.

Северные сторонники "малого правительства" жаловались на то, что федеральное правительство облагает налогом граждан более богатых штатов, чтобы строить дороги в более бедных штатах, - это неконституционно. Южане опасались, что федеральное правительство, претендующее на право построить небесный маяк на их заднем дворе, в один прекрасный день может претендовать и на право освободить их рабов. Адамса обвиняли в том, что он питает диктаторские амбиции, а эрудицию и утонченность его речи критиковали как элитарную и оторванную от простых американцев. Публичные дебаты по поводу послания Конгрессу 1825 года нанесли серьезный удар по репутации администрации Адамса и помогли проложить путь к последующему поражению Адамса на выборах. На президентских выборах 1828 года Адамс проиграл Эндрю Джексону - богатому рабовладельцу-плантатору из Теннесси, который в многочисленных газетных колонках успешно рекламировался как "человек из народа" и утверждал, что предыдущие выборы были фактически украдены Адамсом и коррумпированной вашингтонской элитой.

Газеты того времени, конечно, были еще медленными и ограниченными по сравнению с современными средствами массовой информации. Газеты распространялись со скоростью лошади или парусника, и относительно небольшое количество людей читали их регулярно. Не было газетных киосков и уличных торговцев, поэтому людям приходилось покупать подписку, которая стоила дорого: в среднем годовая подписка обходилась примерно в недельную зарплату квалифицированного подмастерья. В результате общее число подписчиков всех американских газет в 1830 году оценивается всего в семьдесят восемь тысяч человек. Поскольку некоторые подписчики представляли собой ассоциации или предприятия, а не отдельных людей, и поскольку каждый экземпляр газеты, вероятно, читали несколько человек, разумно предположить, что число читателей регулярных газет исчислялось сотнями тысяч. Но еще миллионы людей редко, если вообще когда-либо, читали газеты.

Неудивительно, что американская демократия в те времена была ограниченным делом и уделом богатых белых мужчин. На выборах 1824 года, которые привели Адамса к власти, теоретически имели право голосовать 1,3 миллиона американцев из 5 миллионов взрослого населения (или около 25 процентов). Только 352 780 человек - 7 процентов всего взрослого населения - фактически воспользовались своим правом. Адамс даже не набрал большинства голосов. В силу особенностей американской избирательной системы он стал президентом благодаря поддержке всего 113 122 избирателей, что составляет не более 2 % взрослого населения и 1 % всего населения. В Великобритании в то же время только около 400 000 человек имели право голосовать в парламент, что составляет около 6 % взрослого населения. Более того, 30 процентов мест в парламенте даже не оспаривались.

Вы можете задаться вопросом, говорим ли мы вообще о демократиях. В то время, когда в Соединенных Штатах было больше рабов, чем избирателей (в начале 1820-х годов в рабстве находилось более 1,5 миллиона американцев), действительно ли Соединенные Штаты были демократией? Это вопрос определений. Как и в случае с Речью Посполитой конца XVI века, так и в случае с Соединенными Штатами начала XIX века "демократия" - понятие относительное. Как отмечалось ранее, демократия и автократия - это не абсолюты, а части континуума. В начале XIX века из всех крупных человеческих обществ Соединенные Штаты, вероятно, были ближе всего к демократическому концу континуума. Сегодня предоставление 25 процентам взрослого населения права голоса не кажется чем-то особенным, но в 1824 году это был гораздо больший процент, чем в царской, османской или китайской империях, где никто не имел права голоса.

Кроме того, как подчеркивается на протяжении всей этой главы, голосование - не единственное, что имеет значение. Еще более важной причиной считать Соединенные Штаты 1824 года демократией является то, что по сравнению с большинством других государств того времени новая страна обладала гораздо более сильными механизмами самокоррекции. Отцы-основатели вдохновлялись Древним Римом - вспомните Сенат и Капитолий в Вашингтоне - и прекрасно понимали, что Римская республика в конце концов превратилась в автократическую империю. Они опасались, что какой-нибудь американский Цезарь сделает нечто подобное с их республикой, и создали множество перекрывающих друг друга самокорректирующихся механизмов, известных как система сдержек и противовесов. Одним из них была свободная пресса. В Древнем Риме механизмы самокоррекции перестали работать по мере того, как республика увеличивала свою территорию и население. В Соединенных Штатах современные информационные технологии в сочетании со свободой прессы помогли самокорректирующимся механизмам выжить, даже когда страна расширилась от Атлантики до Тихого океана.

Именно эти механизмы самокоррекции постепенно позволили Соединенным Штатам расширить избирательные права, отменить рабство и превратиться в более инклюзивную демократию. Как отмечалось в главе 3, отцы-основатели совершили огромные ошибки - например, одобрили рабство и лишили женщин права голоса, - но они также предоставили своим потомкам инструменты для исправления этих ошибок. Это их величайшее наследие.

ДВАДЦАТЫЙ ВЕК: МАССОВАЯ ДЕМОКРАТИЯ, НО И МАССОВЫЙ ТОТАЛИТАРИЗМ

Печатные газеты были лишь первым предвестником эпохи масс-медиа. В течение XIX и XX веков длинный список новых коммуникационных и транспортных технологий, таких как телеграф, телефон, телевидение, радио, поезда, пароходы и самолеты, усилил мощь средств массовой информации.

Когда Демосфен произносил публичную речь в Афинах около 350 года до н. э., она была адресована в первую очередь ограниченной аудитории, присутствовавшей на афинской агоре. Когда Джон Куинси Адамс произнес свое Первое ежегодное послание в 1825 году, его слова распространялись со скоростью лошади. Когда 19 ноября 1863 года Авраам Линкольн произнес свою Геттисбергскую речь, телеграф, локомотивы и пароходы передали его слова гораздо быстрее по всему Союзу и за его пределами. Уже на следующий день газета "Нью-Йорк Таймс" перепечатала его речь полностью, как и множество других газет - от "Портленд Дейли Пресс" в штате Мэн до "Оттумва Курьер" в Айове.

Как и подобает демократии с сильными механизмами самокоррекции, речь президента вызвала скорее оживленную дискуссию, чем всеобщие аплодисменты. Большинство газет приветствовали ее, но некоторые выразили свои сомнения. Чикагская газета "Таймс" 20 ноября писала, что "щеки каждого американца должны подрагивать от стыда, когда он читает глупые, плоские и немытые речи президента Линкольна". Местная газета "Патриот и Юнион" из Гаррисбурга, штат Пенсильвания, также осуждала "глупые высказывания президента" и надеялась, что "завеса забвения будет опущена над ними и что они больше не будут повторяться или вспоминаться". Хотя в стране шла гражданская война, журналисты могли свободно публично критиковать и даже высмеивать президента.

Прошло еще столетие, и события действительно набрали скорость. Впервые в истории новые технологии позволили массам людей, разбросанным по огромным территориям, общаться в режиме реального времени. В 1960 году около семидесяти миллионов американцев (39 % всего населения), рассеянных по всему североамериканскому континенту и за его пределами, смотрели президентские дебаты Никсона и Кеннеди в прямом эфире по телевидению, а еще миллионы слушали их по радио. Единственное, что требовалось от зрителей и слушателей, - это нажать кнопку, сидя у себя дома. Широкомасштабная демократия теперь стала реальностью. Миллионы людей, разделенные тысячами километров, могли вести информированные и содержательные общественные дискуссии по быстро меняющимся вопросам дня. К 1960 году все взрослые американцы теоретически имели право голосовать, и около семидесяти миллионов человек (около 64 % электората) фактически сделали это, хотя миллионы чернокожих и других лишенных избирательных прав групп были лишены возможности голосовать с помощью различных схем подавления избирателей.

Как всегда, мы должны остерегаться технологического детерминизма и выводов о том, что развитие средств массовой информации привело к появлению масштабной демократии. Масс-медиа сделали масштабную демократию возможной, а не неизбежной. Кроме того, они сделали возможными и другие типы режимов. В частности, новые информационные технологии современной эпохи открыли двери для масштабных тоталитарных режимов. Подобно Никсону и Кеннеди, Сталин и Хрущев могли сказать что-то по радио, и их мгновенно услышали бы сотни миллионов людей от Владивостока до Калининграда. Они также могли получать ежедневные сообщения по телефону и телеграфу от миллионов агентов и осведомителей тайной полиции. Если газета во Владивостоке или Калининграде писала, что последняя речь верховного лидера была глупой (как это случилось с Геттисбергской речью Линкольна), то все, кто был причастен к этому, - от главного редактора до наборщиков - скорее всего, получали визит из КГБ.

КРАТКАЯ ИСТОРИЯ ТОТАЛИТАРИЗМА

Тоталитарные системы предполагают собственную непогрешимость и стремятся к тотальному контролю над всеми сферами жизни людей. До изобретения телеграфа, радио и других современных информационных технологий масштабные тоталитарные режимы были невозможны. Римские императоры, аббасидские халифы и монгольские ханы часто были безжалостными автократами, считавшими себя непогрешимыми, но у них не было аппарата, необходимого для установления тоталитарного контроля над большими обществами. Чтобы понять это, мы должны сначала прояснить разницу между тоталитарными режимами и менее экстремальными автократическими режимами. В автократической сети нет юридических ограничений на волю правителя, но есть множество технических ограничений. В тоталитарной сети многие из этих технических ограничений отсутствуют.

Например, в автократических режимах, таких как Римская империя, империя Аббасидов и Монгольская империя, правители обычно могли казнить любого неугодного им человека, а если им мешал какой-то закон, они могли его игнорировать или изменить. Император Нерон организовал убийство своей матери Агриппины и жены Октавии и заставил своего наставника Сенеку совершить самоубийство. Нерон также казнил или сослал некоторых из самых уважаемых и влиятельных римских аристократов только за то, что они высказывали свое несогласие или рассказывали о нем анекдоты.

Хотя самодержавные правители вроде Нерона могли казнить любого, кто делал или говорил что-то, что им не нравилось, они не могли знать, что делает или говорит большинство людей в их империи. Теоретически Нерон мог издать приказ о том, что любой человек в Римской империи, критикующий или оскорбляющий императора, должен быть жестоко наказан. Однако технических средств для реализации такого приказа не существовало. Римские историки, такие как Тацит, изображают Нерона как кровожадного тирана, устроившего беспрецедентное царствование террора. Но это был очень ограниченный вид террора. Хотя он казнил или сослал нескольких членов семьи, аристократов и сенаторов, находившихся в его орбите, простые римляне в городских трущобах и провинциалы в отдаленных городах, таких как Иерусалим и Лондиниум, могли высказывать свое мнение гораздо свободнее.

Современные тоталитарные режимы, такие как сталинский СССР, разжигали террор в совершенно иных масштабах. Тоталитаризм - это попытка контролировать то, что делает и говорит каждый человек по всей стране в каждый момент дня, а потенциально даже то, что каждый человек думает и чувствует. Нерон мог мечтать о таких полномочиях, но у него не было средств для их реализации. Учитывая ограниченность налоговой базы аграрной римской экономики, Нерон не мог нанять много людей на службу. Он мог расставлять осведомителей на званых обедах римских сенаторов, но для контроля над остальной империей у него было всего около 10 000 имперских администраторов и 350 000 солдат, а для оперативной связи с ними не хватало технологий.

У Нерона и его коллег-императоров была еще большая проблема с обеспечением лояльности администраторов и солдат, которых они держали на службе. Ни один римский император не был свергнут в результате демократической революции, подобной тем, что свергли Людовика XVI, Николае Чаушеску или Хосни Мубарака. Вместо этого десятки императоров были убиты или свергнуты своими собственными генералами, чиновниками, телохранителями или членами семьи. Сам Нерон был свергнут в результате восстания губернатора Испанской области Гальбы. Через шесть месяцев Гальба был свергнут Отто, правителем Лузитании. Через три месяца Отхо был свергнут Вителлием, командующим Рейнской армией. Вителлий продержался около восьми месяцев, после чего был разбит и убит Веспасианом, командующим армией в Иудее. Быть убитым мятежным подчиненным было самым большим профессиональным риском не только для римских императоров, но и почти для всех современных автократов.

Императорам, халифам, шахам и королям было очень сложно держать в узде своих подчиненных. Поэтому правители сосредоточили свое внимание на контроле над армией и налоговой системой. Римские императоры имели право вмешиваться в местные дела любой провинции или города, и иногда они пользовались этим правом, но обычно это делалось в ответ на конкретное прошение, направленное местной общиной или чиновником, а не в рамках тоталитарного пятилетнего плана всей империи. Если вы были погонщиком мулов в Помпеях или пастухом в римской Британии, Нерон не хотел контролировать ваш распорядок дня или следить за шутками, которые вы рассказывали. Пока вы платили налоги и не сопротивлялись легионам, Нерону этого было достаточно.

СПАРТА И ЦИНЬ

Некоторые ученые утверждают, что, несмотря на технологические трудности, в древности были попытки установить тоталитарные режимы. Чаще всего в качестве примера приводится Спарта. Согласно этой интерпретации, спартанцами управлял тоталитарный режим, который контролировал каждый аспект их жизни - от того, на ком они женились, до того, что они ели. Однако, несмотря на то что спартанский режим, безусловно, был драконовским, он на самом деле включал в себя несколько самокорректирующихся механизмов, которые не позволяли монополизировать власть одному человеку или фракции. Политическая власть была разделена между двумя царями, пятью эфорами (старшими магистратами), двадцатью восемью членами совета герусии и народным собранием. Важные решения - например, о начале войны - часто становились предметом ожесточенных публичных дебатов.

Более того, независимо от того, как мы оцениваем природу режима Спарты, очевидно, что те же технологические ограничения, которые ограничили древнюю афинскую демократию одним городом, ограничили и масштабы спартанского политического эксперимента. После победы в Пелопоннесской войне Спарта установила военные гарнизоны и проспартанские правительства в многочисленных греческих городах, требуя от них следовать ее примеру во внешней политике, а иногда и платить дань. Но в отличие от СССР после Второй мировой войны, Спарта после Пелопоннесской войны не пыталась расширить или экспортировать свою систему. Спарта не могла создать достаточно большую и плотную информационную сеть, чтобы контролировать жизнь простых людей в каждом греческом городе и деревне.

Гораздо более амбициозный тоталитарный проект могла запустить династия Цинь в Древнем Китае (221-206 гг. до н. э.). Победив все остальные Воюющие государства, циньский правитель Цинь Шихуанди управлял огромной империей с десятками миллионов подданных, которые принадлежали к множеству различных этнических групп, говорили на разных языках и были преданы различным местным традициям и элитам. Чтобы укрепить свою власть, победоносный режим Цинь пытался уничтожить все региональные силы, которые могли бы бросить вызов его власти. Он конфисковал земли и богатства местных аристократов и заставил региональную элиту переехать в имперскую столицу Сяньян, тем самым отделив их от своей базы власти и облегчив контроль за ними.

Циньский режим также начал безжалостную кампанию централизации и гомогенизации. Он создал новую упрощенную письменность для использования на всей территории империи и стандартизировал чеканку монет, вес и измерения. Из Сяньтяня была построена сеть дорог со стандартными домами отдыха, перевалочными пунктами и военными контрольно-пропускными пунктами. Чтобы въехать или выехать из столичного региона или пограничных зон, людям требовались письменные разрешения. Даже ширина осей была стандартизирована, чтобы повозки и колесницы могли двигаться по одинаковым колеям.

Каждое действие, от обработки полей до женитьбы, должно было служить каким-то военным нуждам, и тот тип военной дисциплины, который Рим предназначал для легионов, Цинь навязывали всему населению. О том, насколько масштабной была эта система, можно судить по одному циньскому закону, в котором указывалось, какое наказание грозит чиновнику, если он пренебрегает зернохранилищем, находящимся в его ведении. В законе говорится о количестве крысиных нор в зернохранилище, за которые чиновника следовало штрафовать или ругать. "За три и более крысиных норы штраф - [покупка] одного щита [для армии], а за две и менее [ответственный чиновник] подвергается порицанию. Три мышиные норы равны одной крысиной норе".

Чтобы облегчить эту тоталитарную систему, Цинь попытались создать милитаризованный общественный строй. Каждый подданный мужского пола должен был принадлежать к отряду из пяти человек. Эти подразделения объединялись в более крупные образования, от местных хуторов (ли), кантонов (сян) и уездов (сян), вплоть до крупных императорских полководцев (чжун). Людям запрещалось менять место жительства без разрешения, вплоть до того, что гости не могли даже остаться на ночь в доме друга без надлежащего удостоверения личности и разрешения.

Каждый циньский подданный мужского пола также получал звание, как и каждый солдат в армии. Повиновение государству вело к повышению в звании, что давало экономические и юридические привилегии, а неповиновение могло привести к понижению в звании или наказанию. Люди в каждом строю должны были следить друг за другом, и если кто-то из них совершал какой-то проступок, за это могли наказать всех. Любой, кто не донес на преступника, даже собственный родственник, был убит. Тех, кто доносил о преступлениях, награждали более высокими званиями и другими привилегиями.

Весьма сомнительно, насколько режиму удалось реализовать все эти тоталитарные меры. Бюрократы, пишущие документы в правительственных кабинетах, часто придумывают сложные правила и нормы, которые потом оказываются непрактичными. Действительно ли добросовестные чиновники обошли всю империю Цинь, пересчитывая крысиные норы в каждом зернохранилище? Действительно ли крестьяне в каждой отдаленной горной деревушке были организованы в отряды по пять человек? Скорее всего, нет. Тем не менее империя Цинь превосходила другие древние империи в своих тоталитарных амбициях.

Циньский режим даже пытался контролировать мысли и чувства своих подданных. В период Воюющих государств китайские мыслители были относительно свободны в разработке множества идеологий и философий, но Цинь приняли доктрину легализма в качестве официальной государственной идеологии. Легализм утверждал, что люди от природы жадны, жестоки и эгоистичны. Он подчеркивал необходимость строгого контроля, утверждал, что наказания и поощрения являются наиболее эффективными средствами контроля, и настаивал на том, что государственная власть не должна ограничиваться никакими моральными соображениями. Сила была права, а благо государства - высшим благом. Цинь запрещала другие философии, такие как конфуцианство и даосизм, которые считали людей более альтруистичными и подчеркивали важность добродетели, а не насилия. Книги, поддерживающие такие мягкие взгляды, были запрещены, как и книги, противоречащие официальной циньской версии истории.

Когда один из ученых заявил, что Цинь Шихуанди должен подражать основателю древней династии Чжоу и децентрализовать государственную власть, главный министр Цинь Ли Си возразил, что ученые должны перестать критиковать современные институты, идеализируя прошлое. Режим приказал конфисковать все книги, которые романтизировали древность или иным образом критиковали Цинь. Такие проблемные тексты хранились в императорской библиотеке и могли изучаться только официальными учеными.

Империя Цинь была, вероятно, самым амбициозным тоталитарным экспериментом в истории человечества до современной эпохи, а его масштаб и интенсивность оказались его гибелью. Попытка упорядочить десятки миллионов людей по военному образцу и монополизировать все ресурсы для военных целей привела к серьезным экономическим проблемам, расточительности и народному недовольству. Драконовские законы режима, его враждебность к региональным элитам и жадность до налогов и рекрутов еще больше раздули пламя этого недовольства. Между тем, ограниченные ресурсы древнего аграрного общества не могли содержать всех бюрократов и солдат, необходимых Цинь для сдерживания этого недовольства, а низкая эффективность информационных технологий не позволяла контролировать каждый город и деревню из далекого Сянъяна. Неудивительно, что в 209 году до н. э. вспыхнула серия восстаний, возглавляемых региональной элитой, недовольными простолюдинами и даже некоторыми новоиспеченными чиновниками империи.

Согласно одному из рассказов, первое серьезное восстание началось, когда группа призванных крестьян, отправленных на работы в приграничную зону, задержалась из-за дождя и наводнения. Они боялись, что их казнят за такое неисполнение обязанностей, и решили, что терять им нечего. К ним быстро присоединилось множество других повстанцев. Всего через пятнадцать лет после достижения апогея могущества империя Цинь рухнула под тяжестью своих тоталитарных амбиций, распавшись на восемнадцать царств.

После нескольких лет войны новая династия - Хань - объединила империю. Но Хань тогда придерживалась более реалистичных, менее драконовских взглядов. Ханьские императоры были, конечно, самодержавными, но не тоталитарными. Они не признавали никаких ограничений для своей власти, но и не пытались контролировать жизнь каждого. Вместо того чтобы следовать легалистским идеям надзора и контроля, Хань обратилась к конфуцианским идеям, побуждающим людей действовать лояльно и ответственно, исходя из внутренних моральных убеждений. Подобно своим современникам в Римской империи, ханьские императоры стремились контролировать лишь некоторые аспекты жизни общества из центра, оставляя значительную автономию провинциальным аристократам и местным общинам. Во многом из-за ограничений, накладываемых доступными информационными технологиями, досовременные крупномасштабные государства, такие как Римская империя и империя Хань, тяготели к нетоталитарной автократии. О полноценном тоталитаризме могли мечтать и такие, как Цинь, но его реализация должна была дождаться развития современных технологий.

ТОТАЛИТАРНАЯ ТРОИЦА

Так же как современные технологии сделали возможной масштабную демократию, они сделали возможным и масштабный тоталитаризм. Начиная с XIX века, рост индустриальной экономики позволил правительствам нанимать гораздо больше администраторов, а новые информационные технологии, такие как телеграф и радио, сделали возможным быстрое соединение и контроль над всеми этими администраторами. Это способствовало беспрецедентной концентрации информации и власти для тех, кто мечтал о таких вещах.

Когда большевики захватили власть в России после революции 1917 года, ими двигала именно такая мечта. Большевики жаждали неограниченной власти, потому что верили, что на них возложена мессианская миссия. Маркс учил, что на протяжении тысячелетий во всех человеческих обществах господствовала коррумпированная элита, угнетавшая народ. Большевики утверждали, что знают, как покончить с угнетением и создать на земле идеально справедливое общество. Но для этого им нужно было преодолеть множество врагов и препятствий, что, в свою очередь, требовало всей власти, которую они могли получить. Они отказывались признавать любые механизмы самокоррекции, которые могли бы поставить под сомнение их видение или их методы. Подобно католической церкви, большевистская партия была убеждена, что, хотя отдельные ее члены могут ошибаться, сама партия всегда права. Вера в собственную непогрешимость привела большевиков к уничтожению зарождавшихся в России демократических институтов - выборов, независимых судов, свободной прессы и оппозиционных партий - и к созданию однопартийного тоталитарного режима. Большевистский тоталитаризм начался не со Сталина. Он был очевиден с первых дней революции. Он проистекал из доктрины непогрешимости партии, а не из личности Сталина.

В 1930-х и 1940-х годах Сталин совершенствовал унаследованную им тоталитарную систему. Сталинская сеть состояла из трех основных ветвей. Во-первых, это правительственный аппарат, состоящий из государственных министерств, областных администраций и регулярных частей Красной армии, который в 1939 году насчитывал 1,6 миллиона гражданских чиновников и 1,9 миллиона солдат. Во-вторых, аппарат Коммунистической партии Советского Союза и ее вездесущие партийные ячейки, в которых в 1939 году состояло 2,4 миллиона членов партии. В-третьих, тайная полиция: сначала известная как ЧК, во времена Сталина она называлась ОГПУ, НКВД и МГБ, а после смерти Сталина превратилась в КГБ. Его постсоветская организация-преемник с 1995 года известна как ФСБ. В 1937 году в НКВД насчитывалось 270 000 агентов и миллионы информаторов.

Три ветви власти действуют параллельно. Подобно тому как демократия поддерживается за счет наличия дублирующих друг друга самокорректирующихся механизмов, которые держат друг друга в узде, современный тоталитаризм создал дублирующие друг друга механизмы наблюдения, которые держат друг друга в порядке. За губернатором одной из советских областей постоянно следил местный партийный комиссар, и никто из них не знал, кто из их сотрудников является информатором НКВД. Свидетельством эффективности системы является то, что современный тоталитаризм в значительной степени решил извечную проблему досовременных автократий - револьты со стороны провинциальных подчиненных. Хотя в СССР случались судебные перевороты, ни один губернатор провинции или командующий фронтом Красной армии не восставал против центра. Во многом это заслуга тайной полиции, которая внимательно следила за массой граждан, провинциальными администраторами, а еще больше - за партией и Красной армией.

Если в большинстве государств на протяжении всей истории человечества армия обладала огромной политической властью, то в тоталитарных режимах XX века регулярная армия уступила большую часть своего влияния тайной полиции - армии информации. В СССР ЧК, ОГПУ, НКВД и КГБ не обладали огневой мощью Красной армии, но имели большее влияние в Кремле и могли терроризировать и чистить даже армейское начальство. Восточногерманская "Штази" и румынский "Секуритате" были настолько же сильнее регулярных армий этих стран. В нацистской Германии СС была мощнее вермахта, а шеф СС Генрих Гиммлер был выше по рангу, чем Вильгельм Кейтель, глава верховного командования вермахта.

Конечно, ни в одном из этих случаев тайная полиция не могла победить регулярную армию в традиционных боевых действиях; сила тайной полиции заключалась в ее владении информацией. Она обладала информацией, необходимой для предотвращения военного переворота и ареста командиров танковых бригад или истребительных эскадрилий до того, как они поймут, что их поразило. Во время сталинского Большого террора конца 1930-х годов из 144 000 офицеров Красной армии около 10 процентов были расстреляны или заключены в тюрьму НКВД. Среди них было 154 из 186 командиров дивизий (83 %), восемь из девяти адмиралов (89 %), тринадцать из пятнадцати полных генералов (87 %) и три из пяти маршалов (60 %).

Не менее плохо обстояли дела и в партийном руководстве. Из почитаемых старых большевиков - людей, вступивших в партию до революции 1917 года, - около трети не пережили Большого террора. Из тридцати трех человек, входивших в Политбюро с 1919 по 1938 год, четырнадцать были расстреляны (42 %). Из 139 членов и кандидатов в члены Центрального комитета партии в 1934 году 98 человек (70 %) были расстреляны. Только 2 % делегатов, участвовавших в Семнадцатом съезде партии в 1934 году, избежали расстрела, тюремного заключения, исключения или понижения в должности и приняли участие в Восемнадцатом съезде партии в 1939 году.

Тайная полиция, которая проводила все чистки и убийства, сама была разделена на несколько конкурирующих подразделений, которые внимательно следили друг за другом и проводили чистки. Генрих Ягода, глава НКВД, который организовал начало Большого террора и руководил убийством сотен тысяч жертв, был казнен в 1938 году и заменен Николаем Ежовым. Ежов продержался на посту два года, убив и посадив в тюрьмы миллионы людей, после чего был казнен в 1940 году.

Пожалуй, наиболее показательна судьба тридцати девяти человек, которые в 1935 году имели генеральское звание в НКВД (в советской номенклатуре они назывались комиссарами госбезопасности). Тридцать пять из них (90 %) были арестованы и расстреляны к 1941 году, на одного было совершено покушение, а один - начальник Дальневосточного регионального управления НКВД - спасся, перебежав в Японию, но был убит японцами в 1945 году. Из первоначальной когорты в тридцать девять генералов НКВД к концу Второй мировой войны осталось только два человека. Беспощадная логика тоталитаризма в конце концов настигла и их. В ходе борьбы за власть, последовавшей за смертью Сталина в 1953 году, один из них был расстрелян, а другой помещен в психиатрическую больницу, где и умер в 1960 году. Работа генерала НКВД во времена Сталина была одной из самых опасных в мире. В то время как американская демократия совершенствовала свои многочисленные механизмы самокоррекции, советский тоталитаризм оттачивал свой тройной аппарат самонаказания и самотеррора.

ПОЛНЫЙ КОНТРОЛЬ

Тоталитарные режимы основаны на контроле над потоком информации и с подозрением относятся к любым независимым каналам поступления информации. Когда офицеры, государственные чиновники или простые граждане обмениваются информацией, они могут завоевать доверие. Если они доверяют друг другу, то могут организовать сопротивление режиму. Поэтому один из основных постулатов тоталитарных режимов заключается в том, что везде, где люди встречаются и обмениваются информацией, режим тоже должен присутствовать, чтобы следить за ними. В 1930-х годах это был один из принципов, который разделяли Гитлер и Сталин.

31 марта 1933 года, через два месяца после того, как Гитлер стал канцлером, нацисты приняли Закон о координации (Gleichschaltungsgesetz). Согласно ему, к 30 апреля 1933 года все политические, общественные и культурные организации Германии - от муниципалитетов до футбольных клубов и местных хоров - должны были управляться в соответствии с нацистской идеологией, как органы нацистского государства. Это перевернуло жизнь в каждом городе и деревне Германии.

Например, в маленькой альпийской деревушке Оберстдорф демократически избранный муниципальный совет собрался в последний раз 21 апреля 1933 года, а через три дня его сменил неизбираемый нацистский совет, назначивший нацистского мэра. Поскольку только нацисты якобы знали, чего на самом деле хочет народ, кто, кроме нацистов, мог воплотить народную волю в жизнь? В Оберстдорфе также существовало около пятидесяти ассоциаций и клубов, начиная от общества пчеловодов и заканчивая альпинистским клубом. Все они должны были подчиниться Закону о координации: привести свои правления, членство и уставы в соответствие с требованиями нацистов, поднять флаг со свастикой и завершать каждое собрание "Песней Хорста Весселя", гимном нацистской партии. 6 апреля 1933 года Оберстдорфское рыболовное общество запретило евреям входить в свои ряды. Ни один из тридцати двух членов общества не был евреем, но они считали, что должны доказать новому режиму свою арийскую принадлежность.

Если нацисты еще допускали частичную свободу действий церковных организаций и частных предприятий, то советская власть не делала исключений. К 1928 году и началу первой пятилетки в каждом районе и деревне были правительственные чиновники, партийные функционеры и осведомители тайной полиции, которые контролировали все аспекты жизни: все предприятия от электростанций до капустных ферм; все газеты и радиостанции; все университеты, школы и молодежные группы; все больницы и поликлиники; все общественные и религиозные организации; все спортивные и научные объединения; все парки, музеи и кинотеатры.

Если десяток людей собирались вместе, чтобы поиграть в футбол, сходить в поход в лес или заняться благотворительностью, партия и тайная полиция тоже должны были быть там, в лице местной партийной ячейки или агента НКВД. Скорость и эффективность современных информационных технологий означали, что все эти партийные ячейки и агенты НКВД всегда находились всего лишь в одной телеграмме или телефонном звонке из Москвы. Информация о подозрительных лицах и действиях поступала в общенациональную систему картотек с перекрестными ссылками. Известные как картотеки, эти каталоги содержали информацию из трудовых книжек, милицейских досье, карточек с пропиской и других форм социальной регистрации и к 1930-м годам стали основным механизмом наблюдения и контроля за советским населением.

Это позволило Сталину установить контроль над всеми сферами советской жизни. Одним из важнейших примеров стала кампания по коллективизации советского сельского хозяйства. На протяжении веков экономическая, социальная и частная жизнь в тысячах деревень разросшейся царской империи управлялась несколькими традиционными институтами: местной коммуной, приходской церковью, частным хозяйством, местным рынком и, прежде всего, семьей. В середине 1920-х годов Советский Союз все еще оставался в подавляющем большинстве аграрной экономикой. Около 82 процентов всего населения проживало в деревнях, а 83 процента рабочей силы было занято в сельском хозяйстве. Но если каждая крестьянская семья самостоятельно принимала решения о том, что выращивать, что покупать и сколько брать за свою продукцию, это значительно ограничивало возможности московских чиновников самостоятельно планировать и контролировать социально-экономическую деятельность. Что, если чиновники решат провести крупную аграрную реформу, а крестьянские семьи ее отвергнут? Поэтому, когда в 1928 году Советы разработали свой первый пятилетний план развития Советского Союза, самым важным пунктом повестки дня стала коллективизация сельского хозяйства.

Идея заключалась в том, чтобы в каждой деревне все семьи объединились в колхоз - коллективное хозяйство. Они передадут колхозу все свое имущество - землю, дома, лошадей, коров, лопаты, вилы. Они будут вместе работать на колхоз, а колхоз в свою очередь будет обеспечивать все их потребности, от жилья и образования до питания и здравоохранения. Колхоз также должен был решать на основе приказов из Москвы, выращивать ли ему капусту или репу, вкладывать ли деньги в трактор или школу, кто будет работать на молочной ферме, кожевенном заводе и в клинике. В результате, считали московские вдохновители, получится первое в истории человечества идеально справедливое и равноправное общество.

Они также были убеждены в экономических преимуществах предложенной ими системы, считая, что колхоз будет обладать экономией на масштабе. Например, когда каждая крестьянская семья имела лишь небольшой участок земли, не было смысла покупать трактор для его вспашки, да и в любом случае большинство семей не могли позволить себе трактор. Когда вся земля стала общинной, ее можно было обрабатывать гораздо эффективнее с помощью современной техники. Кроме того, колхоз должен был воспользоваться мудростью современной науки. Вместо того чтобы каждый крестьянин принимал решение о методах производства на основе старых традиций и беспочвенных суеверий, государственные эксперты с университетскими дипломами из таких учреждений, как Всесоюзная академия сельскохозяйственных наук имени Ленина, должны были принимать важнейшие решения.

Для московских плановиков это звучало замечательно. Они ожидали 50-процентного увеличения сельскохозяйственного производства к 1931 году. И если при этом старые деревенские иерархии и неравенство будут снесены бульдозером, тем лучше. Для большинства крестьян, однако, это звучало ужасно. Они не доверяли ни московским плановикам, ни новой колхозной системе. Они не хотели отказываться от старого образа жизни и частной собственности. Деревенские жители забивали коров и лошадей вместо того, чтобы сдавать их в колхоз. Снизилась мотивация к труду. Люди прилагали меньше усилий для вспашки полей, которые принадлежали всем, чем для вспашки полей, которые принадлежали их собственной семье. Пассивное сопротивление было повсеместным, иногда перерастая в жестокие столкновения. В то время как советские планировщики рассчитывали собрать в 1931 году девяносто восемь миллионов тонн зерна, производство составило лишь шестьдесят девять миллионов, согласно официальным данным, а в действительности могло достигать пятидесяти семи миллионов тонн. Урожай 1932 года был еще хуже.

Государство отреагировало на это с яростью. В период с 1929 по 1936 год конфискация продовольствия, пренебрежение со стороны правительства и искусственный голод (вызванный политикой правительства, а не стихийным бедствием) унесли жизни от 4,5 до 8,5 миллиона человек. Еще миллионы крестьян были объявлены врагами государства и депортированы или заключены в тюрьму. Самые основные институты крестьянской жизни - семья, церковь, местная община - подвергались террору и демонтажу. Во имя справедливости, равенства и воли народа кампания коллективизации уничтожала все, что стояло на ее пути. Только за первые два месяца 1930 года около 60 миллионов крестьян в более чем 100 000 деревень были загнаны в колхозы. В июне 1929 года только 4 процента советских крестьянских хозяйств состояли в колхозах. К марту 1930 года эта цифра выросла до 57 процентов. К апрелю 1937 года 97 % крестьянских хозяйств в сельской местности были объединены в 235 000 советских колхозов. Таким образом, всего за семь лет существовавший веками образ жизни был заменен тоталитарным детищем нескольких московских бюрократов.

КУЛАКИ

Стоит немного углубиться в историю советской коллективизации. Ведь это была трагедия, которая имеет некоторое сходство с более ранними катастрофами в истории человечества, например с европейским безумием охоты на ведьм, и в то же время предвещает некоторые из самых больших опасностей, которые несут в себе технологии XXI века и их вера в якобы научные данные.

Когда их усилия по коллективизации сельского хозяйства натолкнулись на сопротивление и привели к экономической катастрофе, московские бюрократы и мифотворцы взяли страницу из "Молота ведьм" Крамера. Я не хочу сказать, что советские люди действительно читали эту книгу, но они тоже придумали всемирный заговор и создали целую несуществующую категорию врагов. В 1930-е годы советские власти неоднократно возлагали вину за бедствия, обрушившиеся на советскую экономику, на контрреволюционный заговор, главными агентами которого были "кулаки" или "крестьяне-капиталисты". Как в воображении Крамера ведьмы, служащие Сатане, вызывали град, уничтожавший урожай, так и в сталинском воображении кулаки, приверженные глобальному капитализму, саботировали советскую экономику.

В теории кулаки были объективной социально-экономической категорией, определяемой путем анализа эмпирических данных о собственности, доходах, капитале и заработной плате. Советские чиновники якобы могли выявить кулаков путем подсчета вещей. Если у большинства жителей деревни была только одна корова, то кулаками считались те несколько семей, у которых было три коровы. Если большинство жителей деревни не нанимали рабочую силу, а одна семья нанимала двух работников во время сбора урожая, то это была кулацкая семья. Быть кулаком означало не только обладать определенным количеством имущества, но и обладать определенными чертами характера. Согласно якобы непогрешимой марксистской доктрине, материальные условия жизни людей определяли их социальный и духовный характер. Поскольку кулаки якобы занимались капиталистической эксплуатацией, научным фактом (согласно марксистскому мышлению) было то, что они были жадными, эгоистичными и ненадежными, как и их дети. Обнаружение кулачества якобы раскрывало нечто глубокое в его фундаментальной природе.

27 декабря 1929 года Сталин объявил, что советское государство должно стремиться к "ликвидации кулачества как класса", и немедленно мобилизовал партию и тайную полицию на реализацию этой амбициозной и убийственной цели. Ранние современные европейские охотники на ведьм работали в автократических обществах, не имевших современных информационных технологий, поэтому им потребовалось три столетия, чтобы уничтожить пятьдесят тысяч предполагаемых ведьм. В отличие от них, советские охотники на кулаков работали в тоталитарном обществе, в распоряжении которого были такие технологии, как телеграф, поезда, телефоны и радио, а также разросшаяся бюрократия. Они решили, что двух лет будет достаточно, чтобы "ликвидировать" миллионы кулаков.

Советские чиновники начали с оценки того, сколько кулаков должно быть в СССР. Основываясь на существующих данных, таких как налоговые отчеты, трудовые книжки и перепись населения 1926 года, они решили, что кулаки составляли 3-5 процентов сельского населения. 30 января 1930 года, всего через месяц после выступления Сталина, постановление Политбюро воплотило его туманное видение в гораздо более подробный план действий. В постановлении были указаны плановые цифры по ликвидации кулачества в каждом крупном сельскохозяйственном районе. Региональные власти провели собственные оценки количества кулаков в каждом подведомственном им уезде. В конце концов, конкретные квоты были установлены для сельских советов (местных административных единиц, обычно состоящих из нескольких деревень). Часто местные чиновники завышали цифры, чтобы доказать свое рвение. Затем каждый сельский совет должен был выявить указанное количество кулацких хозяйств в подведомственных ему деревнях. Эти люди изгонялись из своих домов и - в зависимости от административной категории, к которой они относились, - переселялись в другие места, заключались в концентрационные лагеря или приговаривались к смерти.

Как именно советские чиновники определяли, кто является кулаком? В некоторых деревнях местные члены партии добросовестно пытались выявить кулаков по объективным признакам, например по количеству принадлежащей им собственности. Часто клеймили и изгоняли самых трудолюбивых и эффективных крестьян. В некоторых деревнях местные коммунисты использовали эту возможность, чтобы избавиться от личных врагов. В некоторых деревнях просто бросали жребий, кто будет считаться кулаком. В других деревнях проводились общие собрания для голосования по этому вопросу, и часто выбирались изолированные крестьяне, вдовы, старики и другие "отходники" (именно те люди, которых в ранней современной Европе чаще всего клеймили ведьмами).

Абсурдность всей операции проявляется в случае с семьей Стрелецких из Курганской области Сибири. Дмитрий Стрелецкий, тогда еще подросток, спустя годы вспоминал, как его семью заклеймили кулаками и отобрали для ликвидации. "Серков, председатель сельсовета, который нас депортировал, объяснил: "Я получил приказ [от райкома партии] найти 17 кулацких семей для депортации. Я создал комитет бедноты, и мы просидели всю ночь, выбирая семьи. В деревне нет ни одного достаточно богатого человека, который мог бы претендовать на эту должность, и мало стариков, поэтому мы просто выбрали 17 семей. Вы были выбраны. Пожалуйста, не принимайте это близко к сердцу. Что еще я мог сделать?" Если кто-то осмеливался возражать против безумия системы, его сразу же объявляли кулаком и контрреволюционером и самих ликвидировали.

В общей сложности к 1933 году около пяти миллионов кулаков были изгнаны из своих домов. До тридцати тысяч глав семей были расстреляны. Более удачливые жертвы были переселены в родные места или стали бродячими рабочими в крупных городах, а около двух миллионов были сосланы в отдаленные негостеприимные районы или заключены в трудовые лагеря в качестве государственных рабов. Многочисленные важные и печально известные государственные проекты, такие как строительство Беломорканала и разработка рудников в арктических районах, были реализованы трудом миллионов заключенных, многие из которых были кулаками. Это была одна из самых быстрых и масштабных кампаний по порабощению в истории человечества. Получив клеймо кулака, человек уже не мог избавиться от этого клейма. Государственные учреждения, партийные органы и секретные полицейские документы фиксировали кулаков в лабиринтной системе каталогов, архивов и внутренних паспортов картотеки.

Кулацкий статус передавался даже следующему поколению, что имело разрушительные последствия. Кулацким детям отказывали в приеме в коммунистические молодежные группы, Красную армию, университеты и престижные сферы занятости. В своих мемуарах 1997 года Антонина Головина вспоминала, как ее семью депортировали из родового села как кулаков и отправили жить в город Пестово. Мальчики в ее новой школе регулярно насмехались над ней. Однажды старший учитель велел одиннадцатилетней Антонине встать перед всеми остальными детьми и начал безжалостно издеваться над ней, крича, что "ее род - враги народа, жалкие кулаки! Вы, конечно, заслужили депортацию, я надеюсь, что вас всех истребят!" Антонина писала, что это был определяющий момент в ее жизни. "Я нутром чувствовала, что мы [кулаки] не такие, как все, что мы преступники". Она так и не смогла с этим смириться.

Как и десятилетняя "ведьма" Гензель Паппенгеймер, одиннадцатилетняя "кулачка" Антонина Головина оказалась вписана в интерсубъективную категорию, придуманную человеческими мифотворцами и навязанную вездесущими бюрократами. Горы информации, собранной советскими бюрократами о кулаках, не были объективной правдой о них, но они навязывали новую интерсубъективную советскую правду. Знание о том, что кто-то был кулаком, было одной из самых важных вещей, которые нужно было знать о советском человеке, даже если этот ярлык был полностью фальшивым.

ОДНА БОЛЬШАЯ СЧАСТЛИВАЯ СОВЕТСКАЯ СЕМЬЯ

Сталинский режим предпринял еще более амбициозную попытку, чем массовая ликвидация частных семейных хозяйств. Он вознамерился разрушить саму семью. В отличие от римских императоров или русских царей, Сталин пытался внедриться даже в самые интимные человеческие отношения, возникающие между родителями и детьми. Семейные узы считались основой коррупции, неравенства и антипартийной деятельности. Поэтому советских детей учили поклоняться Сталину как настоящему отцу и доносить на своих биологических родителей, если те критиковали Сталина или коммунистическую партию.

Начиная с 1932 года советская пропагандистская машина создала настоящий культ вокруг фигуры Павлика Морозова - тринадцатилетнего мальчика из сибирской деревни Герасимовка. Осенью 1931 года Павлик сообщил в тайную полицию, что его отец Трофим - председатель сельского совета - продает фальшивые документы кулацким ссыльным. Во время последующего суда, когда Трофим крикнул Павлику: "Это я, твой отец", мальчик ответил: "Да, он был моим отцом, но я больше не считаю его своим отцом". Трофим был отправлен в трудовой лагерь, а затем расстрелян. В сентябре 1932 года Павлик был найден убитым, а советские власти арестовали и казнили пятерых членов его семьи, которые якобы убили его в отместку за донос. На самом деле все было гораздо сложнее, но для советской прессы это не имело значения. Павлик стал мучеником, и миллионы советских детей учились подражать ему. Многие так и делали.

Например, в 1934 году тринадцатилетний мальчик Проня Колибин рассказал властям, что его голодная мать ворует зерно с колхозных полей. Его мать арестовали и, предположительно, расстреляли. Проня был награжден денежной премией и большим количеством положительных отзывов в прессе. Партийный орган "Правда" опубликовал стихотворение, написанное Проней. Две строки из него гласили: "Ты разрушительница, мать, / Я жить с тобой больше не могу".

Советская попытка контролировать семью нашла отражение в мрачном анекдоте, рассказанном в сталинские времена. Сталин посещает завод под прикрытием и, беседуя с рабочим, спрашивает его: "Кто твой отец?".

"Сталин", - отвечает рабочий.

"Кто твоя мать?"

"Советский Союз", - отвечает мужчина.

"А кем ты хочешь стать?"

"Сирота".

В то время за такой анекдот можно было запросто лишиться свободы или жизни, даже если рассказать его в собственном доме самым близким членам семьи. Самым важным уроком, который советские родители преподавали своим детям, была не верность партии или Сталину. Это было "держи рот на замке". Мало что в Советском Союзе было так опасно, как вести открытый разговор.

ВЕЧЕРИНКА И ЦЕРКОВЬ

Вы можете задаться вопросом, действительно ли современные тоталитарные институты, такие как нацистская партия или советская коммунистическая партия, так уж сильно отличаются от более ранних институтов, таких как христианские церкви. Ведь церкви тоже верили в свою непогрешимость, имели повсюду священников и стремились контролировать повседневную жизнь людей, вплоть до их рациона и сексуальных привычек. Разве мы не должны рассматривать католическую или восточную православную церковь как тоталитарные институты? И не подрывает ли это тезис о том, что тоталитаризм стал возможен только благодаря современным информационным технологиям?

Однако между современным тоталитаризмом и премодернистскими церквями есть несколько серьезных различий. Во-первых, как уже отмечалось, современный тоталитаризм работает, используя несколько пересекающихся механизмов наблюдения, которые поддерживают порядок друг за другом. Партия никогда не бывает одна; она работает вместе с государственными органами, с одной стороны, и тайной полицией - с другой. Напротив, в большинстве средневековых европейских королевств католическая церковь была независимым институтом, который часто вступал в конфликт с государственными институтами, вместо того чтобы укреплять их. Следовательно, церковь была, возможно, самым важным сдерживающим фактором власти европейских автократов.

Например, когда в 1070-х годах в ходе "Спора об инвеституре" император Генрих IV заявил, что ему как императору принадлежит последнее слово в вопросе назначения епископов, аббатов и других важных церковных чиновников, папа Григорий VII оказал сопротивление и в конце концов заставил императора капитулировать. 25 января 1077 года Генрих прибыл в замок Каносса, где остановился папа, чтобы принести свои покорность и извинения. Папа отказался открыть ворота, и Генрих ждал на улице в снегу, босой и голодный. Через три дня папа наконец открыл ворота перед императором, который просил прощения.

Аналогичное столкновение в современной тоталитарной стране немыслимо. Вся идея тоталитаризма заключается в том, чтобы не допустить никакого разделения властей. В Советском Союзе государство и партия усиливали друг друга, и Сталин был фактическим главой обоих. Не могло быть советского "спора об инвеституре", потому что Сталин имел решающее слово при назначении как на партийные, так и на государственные должности. Он решал, кто будет генеральным секретарем Коммунистической партии Грузии, а кто - министром иностранных дел Советского Союза.

Еще одно важное отличие заключается в том, что средневековые церкви, как правило, были традиционалистскими организациями, которые сопротивлялись переменам, в то время как современные тоталитарные партии, как правило, являются революционными организациями, требующими перемен. Досовременная церковь строила свою власть постепенно, развивая свою структуру и традиции на протяжении веков. Поэтому король или папа, желающий быстро произвести революцию в обществе, скорее всего, столкнулся бы с жестким сопротивлением со стороны членов церкви и простых верующих.

Например, в восьмом и девятом веках несколько византийских императоров пытались запретить почитание икон, которые казались им идолопоклонством. Они ссылались на многие места в Библии, в первую очередь на Вторую заповедь, запрещающую делать какие-либо искусственные изображения. Хотя христианские церкви традиционно трактовали Вторую заповедь таким образом, что она разрешала почитание икон, императоры вроде Константина V утверждали, что это ошибка и что такие бедствия, как поражения христиан от армий ислама, вызваны Божьим гневом из-за поклонения иконам. В 754 году более трехсот епископов собрались на Иерийском соборе, чтобы поддержать иконоборческую позицию Константина.

По сравнению со сталинской кампанией коллективизации это была незначительная реформа. От семей и деревень требовалось отказаться от икон, но не от частной собственности или детей. Однако византийское иконоборчество встретило повсеместное сопротивление. В отличие от участников Иерийского собора, многие простые священники, монахи и верующие были глубоко привязаны к своим иконам. Возникшая борьба раздирала византийское общество, пока императоры не признали свое поражение и не изменили курс. Позднее Константин V был очернен византийскими историками как "Константин Дерьмовый" (Koprónimos), и о нем ходила история, что он испражнялся во время крещения.

В отличие от досовременных церквей, которые развивались медленно, на протяжении многих веков, и поэтому были склонны к консерватизму и недоверию к быстрым переменам, современные тоталитарные партии, такие как нацистская партия и советская коммунистическая партия, были организованы в течение жизни одного поколения вокруг обещания быстро революционизировать общество. У них не было вековых традиций и структур, которые нужно было защищать. Когда их лидеры задумывали какой-нибудь амбициозный план по разрушению существующих традиций и структур, члены партии, как правило, подчинялись.

Возможно, самое важное, что церкви эпохи модерна не могли стать инструментом тоталитарного контроля, потому что сами страдали от тех же ограничений, что и все другие организации эпохи модерна. Хотя у них повсюду были местные представители в виде приходских священников, монахов и странствующих проповедников, сложность передачи и обработки информации означала, что церковные лидеры мало что знали о том, что происходит в отдаленных общинах, а местные священники обладали большой степенью автономии. Следовательно, церкви, как правило, были местными делами. Люди в каждой провинции и деревне часто почитали местных святых, соблюдали местные традиции, совершали местные обряды и даже могли иметь местные доктринальные представления, которые отличались от официальной линии. Если папа в Риме хотел что-то сделать с независимо настроенным священником в отдаленном польском приходе, он должен был отправить письмо архиепископу Гнезно, который должен был проинструктировать соответствующего епископа, который должен был послать кого-то для вмешательства в дела прихода. На это могли уйти месяцы, и у архиепископа, епископа и других посредников было достаточно возможностей для того, чтобы переиначить или даже "исказить" распоряжения Папы.

Церкви стали более тоталитарными институтами только в эпоху позднего модерна, когда появились современные информационные технологии. Мы склонны думать о папах как о средневековых реликвиях, но на самом деле они - мастера современных технологий. В XVIII веке папа практически не контролировал всемирную католическую церковь и был низведен до статуса местного итальянского князька, сражающегося с другими итальянскими державами за контроль над Болоньей или Феррарой. С появлением радио папы стали одними из самых могущественных людей на планете. Папа Иоанн Павел II мог сидеть в Ватикане и напрямую обращаться к миллионам католиков от Польши до Филиппин, и ни один архиепископ, епископ или приходской священник не мог исказить или скрыть его слова.

КАК ТЕЧЕТ ИНФОРМАЦИЯ

Таким образом, мы видим, что новые информационные технологии эпохи позднего модерна породили как масштабную демократию, так и масштабный тоталитаризм. Но между тем, как эти две системы использовали информационные технологии, есть принципиальные различия. Как отмечалось ранее, демократия поощряет поток информации по многим независимым каналам, а не только через центр, и позволяет многим независимым узлам самостоятельно обрабатывать информацию и принимать решения. Информация свободно циркулирует между частными предприятиями, частными СМИ, муниципалитетами, спортивными ассоциациями, благотворительными организациями, семьями и отдельными людьми, никогда не проходя через кабинет министра правительства.

Напротив, тоталитаризм хочет, чтобы вся информация проходила через центральный узел и не допускает, чтобы независимые институты принимали решения самостоятельно. Правда, у тоталитаризма есть свой трехсторонний аппарат - правительство, партия и тайная полиция. Но вся суть этого параллельного аппарата заключается в том, чтобы предотвратить появление независимой власти, которая могла бы бросить вызов центру. Когда правительственные чиновники, члены партии и агенты тайной полиции постоянно следят друг за другом, противостоять центру крайне опасно.

Как противоположные типы информационных сетей, демократия и тоталитаризм имеют свои преимущества и недостатки. Самое большое преимущество централизованной тоталитарной сети заключается в том, что она чрезвычайно упорядочена, а значит, может быстро принимать решения и безжалостно их исполнять. Особенно во время чрезвычайных ситуаций, таких как войны и эпидемии, централизованные сети могут продвигаться гораздо быстрее и дальше, чем распределенные сети.

Но гиперцентрализованные информационные сети также страдают от нескольких больших недостатков. Поскольку они не позволяют информации течь куда-либо, кроме как по официальным каналам, если официальные каналы блокируются, информация не может найти альтернативный способ передачи. А официальные каналы часто блокируются.

Одна из распространенных причин блокировки официальных каналов - страх подчиненных скрыть плохие новости от начальства. В сатирическом романе Ярослава Гашека "Хороший солдат Швейк", посвященном Австро-Венгерской империи времен Первой мировой войны, Гашек описывает, как австрийские власти были обеспокоены ослаблением боевого духа среди гражданского населения. Поэтому они завалили местные полицейские участки приказами нанимать информаторов, собирать данные и докладывать в штаб-квартиру о лояльности населения. Чтобы быть максимально научными, в штаб-квартире придумали хитроумную систему оценки лояльности: I.a, I.b, I.c; II.a, II.b, II.c; III.a, III.b, III.c; IV.a, IV.b, IV.c. В местные полицейские участки отправили подробные объяснения каждой оценки и официальную форму, которую нужно было заполнять ежедневно. Сержанты полиции по всей стране послушно заполняли формуляры и отправляли их обратно в штаб-квартиру. Все без исключения они всегда сообщали о моральном состоянии I.a; поступить иначе означало навлечь на себя упреки, понижение в должности или еще что похуже.

Другая распространенная причина, по которой официальные каналы не передают информацию, - сохранение порядка. Поскольку главной целью тоталитарных информационных сетей является установление порядка, а не выявление истины, когда тревожная информация угрожает подорвать общественный порядок, тоталитарные режимы часто подавляют ее. Им относительно легко это сделать, поскольку они контролируют все информационные каналы.

Например, когда 26 апреля 1986 года в Чернобыле взорвался ядерный реактор, советские власти подавляли все новости о катастрофе. Как советские граждане, так и иностранные государства не знали об опасности и не предпринимали никаких мер по защите от радиации. Когда некоторые советские чиновники в Чернобыле и близлежащем городе Припять потребовали немедленно эвакуировать близлежащие населенные пункты, их начальство было озабочено тем, чтобы избежать распространения тревожных новостей, поэтому они не только запретили эвакуацию, но и отключили телефонные линии и предупредили сотрудников ядерного объекта, чтобы они не говорили о катастрофе.

Через два дня после аварии шведские ученые заметили, что уровень радиации в Швеции, расположенной более чем в двенадцатистах километрах от Чернобыля, был аномально высоким. Только после того, как западные правительства и западная пресса сообщили об этом, Советы признали, что что-то не так. Но даже тогда они продолжали скрывать от собственных граждан весь масштаб катастрофы и не решались обратиться за советом и помощью за границу. Миллионы людей в Украине, Беларуси и России поплатились своим здоровьем. Когда советские власти позже расследовали катастрофу, их приоритетом было отвести от себя вину, а не понять причины и предотвратить будущие аварии.

В 2019 году я побывал на экскурсии в Чернобыле. Украинский гид, объяснявший, что привело к аварии на атомной электростанции, сказал нечто такое, что запомнилось мне. "Американцы растут с мыслью, что вопросы приводят к ответам", - сказал он. "А советские граждане росли с мыслью, что вопросы приводят к беде".

Естественно, лидеры демократических стран также не жалуют плохие новости. Но в распределенной демократической сети, когда официальные каналы связи блокируются, информация поступает по альтернативным каналам. Например, если американский чиновник решит не сообщать президенту о разворачивающейся катастрофе, эту новость все равно опубликует The Washington Post, а если The Washington Post тоже намеренно утаит информацию, то об этом расскажут The Wall Street Journal или The New York Times. Бизнес-модель независимых СМИ - постоянная погоня за следующей сенсацией - практически гарантирует публикацию.

Когда 28 марта 1979 года произошла серьезная авария на ядерном реакторе Три-Майл-Айленд в Пенсильвании, новость быстро распространилась, не потребовав международного вмешательства. Авария началась около 4:00 утра и была замечена к 6:30 утра. В 6:56 на объекте была объявлена чрезвычайная ситуация, а в 7:02 об аварии сообщили в Агентство по управлению чрезвычайными ситуациями Пенсильвании. В течение следующего часа были проинформированы губернатор Пенсильвании, вице-губернатор и органы гражданской обороны. Официальная пресс-конференция была назначена на 10:00 утра. Однако репортер местной радиостанции в Харрисбурге взял полицейское уведомление о событиях и передал краткий репортаж в 8:25 утра. В СССР такая инициатива независимой радиостанции была немыслима, но в Соединенных Штатах это было непримечательно. К 9:00 утра Ассошиэйтед Пресс выпустила бюллетень. Хотя на выяснение всех подробностей ушло несколько дней, американские граждане узнали об аварии через два часа после того, как она была впервые замечена. Последующие расследования, проведенные правительственными агентствами, неправительственными организациями, учеными и прессой, раскрыли не только непосредственные причины аварии, но и ее более глубокие структурные причины, что помогло повысить безопасность ядерных технологий во всем мире. Действительно, некоторые уроки Три-Майл-Айленда, которыми открыто поделились даже с Советским Союзом, способствовали смягчению последствий Чернобыльской катастрофы.

НИКТО НЕ СОВЕРШЕНЕН

Тоталитарные и авторитарные сети сталкиваются и с другими проблемами, помимо закупорки артерий. Прежде всего, как мы уже выяснили, их механизмы самокоррекции, как правило, очень слабы. Поскольку они считают себя непогрешимыми, они не видят необходимости в таких механизмах, а поскольку они боятся любых независимых институтов, которые могут бросить им вызов, у них нет свободных судов, средств массовой информации или исследовательских центров. Следовательно, некому разоблачать и исправлять ежедневные злоупотребления властью, характерные для всех правительств. Лидер может время от времени провозглашать антикоррупционную кампанию, но в недемократических системах она часто оказывается не более чем дымовой завесой, с помощью которой одна фракция режима очищает другую.

А что будет, если лидер сам растратит государственные средства или совершит какую-нибудь катастрофическую политическую ошибку? Никто не сможет бросить лидеру вызов, и по собственной инициативе лидер - будучи человеком - вполне может отказаться признать какие-либо ошибки. Вместо этого он, скорее всего, свалит все проблемы на "иностранных врагов", "внутренних предателей" или "коррумпированных подчиненных" и потребует еще больше власти, чтобы расправиться с предполагаемыми злоумышленниками.

Например, в предыдущей главе мы упоминали, что Сталин принял фальшивую теорию лысенкоизма в качестве государственной доктрины эволюции. Результаты оказались катастрофическими. Пренебрежение дарвиновскими моделями и попытки лысенковских агрономов создать суперкультуры отбросили советские генетические исследования на десятилетия назад и подорвали советское сельское хозяйство. Советские эксперты, предлагавшие отказаться от лысенковщины и принять дарвинизм, рисковали попасть в ГУЛАГ или получить пулю в лоб. Наследие лысенкоизма десятилетиями преследовало советскую науку и агрономию и стало одной из причин того, что к началу 1970-х годов СССР перестал быть крупным экспортером зерна и стал чистым импортером, несмотря на свои огромные плодородные земли.

Такая же динамика характерна и для многих других сфер деятельности. Например, в 1930-е годы советская промышленность страдала от многочисленных аварий. Во многом это происходило по вине советских начальников в Москве, которые ставили перед индустриализацией практически невыполнимые задачи и рассматривали любую неудачу в их достижении как предательство. В стремлении достичь амбициозных целей были отменены меры безопасности и контроль качества, а специалисты, советовавшие проявлять благоразумие, часто подвергались выговорам или расстрелам. Результатом стала волна несчастных случаев на производстве, неработающих продуктов и напрасных усилий. Вместо того чтобы взять на себя ответственность, Москва пришла к выводу, что это дело рук всемирного троцкистско-империалистического заговора диверсантов и террористов, стремящихся сорвать советское предприятие. Вместо того чтобы сбавить обороты и принять правила техники безопасности, начальство удвоило террор и расстреляло еще больше людей.

Известный пример - Павел Рычагов. Он был одним из лучших и храбрейших советских летчиков, участвовал в полетах на помощь республиканцам в гражданской войне в Испании и китайцам против японского вторжения. Он быстро поднялся по карьерной лестнице и стал командующим советскими ВВС в августе 1940 года, в возрасте двадцати девяти лет. Но мужество, которое помогло Рычагову сбивать нацистские самолеты в Испании, привело к тому, что в Москве у него начались серьезные проблемы. Советские ВВС страдали от многочисленных аварий, в которых Политбюро обвиняло отсутствие дисциплины и преднамеренный саботаж со стороны антисоветских заговоров. Однако Рычагов не поверил официальной версии. Как фронтовой летчик, он знал правду. Он прямо заявил Сталину, что летчиков заставляют эксплуатировать наспех сконструированные и плохо изготовленные самолеты, которые он сравнивает с полетами "в гробах". Через два дня после вторжения Гитлера в Советский Союз, когда Красная армия разваливалась, а Сталин отчаянно искал козлов отпущения, Рычагов был арестован за то, что "являлся членом антисоветской заговорщической организации и вел вражескую работу, направленную на ослабление мощи Красной армии". Его жена также была арестована, так как якобы знала о его "троцкистских связях с военными заговорщиками". Они были казнены 28 октября 1941 года.

Настоящим диверсантом, разрушившим советские военные усилия, был, конечно, не Рычагов, а сам Сталин. В течение многих лет Сталин опасался смертельной схватки с нацистской Германией и создал самую большую в мире военную машину, чтобы подготовиться к ней. Но он затормозил эту машину как дипломатически, так и психологически.

На дипломатическом уровне в 1939-41 годах Сталин решил, что сможет заставить "капиталистов" воевать и изнурять друг друга, в то время как СССР будет укреплять и даже наращивать свою мощь. Поэтому в 1939 году он заключил пакт с Гитлером и позволил немцам завоевать большую часть Польши и Западной Европы, в то время как СССР напал или отторг почти всех своих соседей. В 1939-40 годах Советский Союз захватил и оккупировал восточную Польшу, аннексировал Эстонию, Латвию и Литву, а также захватил часть Финляндии и Румынии. Финляндия и Румыния, которые могли бы стать нейтральными буферами на флангах СССР, в результате превратились в непримиримых врагов. Даже весной 1941 года Сталин все еще отказывался заключить превентивный союз с Великобританией и не предпринял никаких шагов, чтобы помешать нацистскому завоеванию Югославии и Греции, потеряв тем самым своих последних потенциальных союзников на европейском континенте. Когда 22 июня 1941 года Гитлер нанес удар, СССР оказался в изоляции.

Теоретически военная машина, созданная Сталиным, могла бы справиться с нацистским натиском даже в одиночку. Завоеванные с 1939 года территории обеспечили глубину советской обороны, и советское военное преимущество казалось подавляющим. В первый день вторжения Советский Союз имел на европейском фронте 15 000 танков, 15 000 боевых самолетов и 37 000 артиллерийских орудий против 3 300 немецких танков, 2 250 боевых самолетов и 7 146 орудий. Но в результате одной из величайших военных катастроф в истории Советский Союз в течение месяца потерял 11 700 танков (78 %), 10 000 самолетов (67 %) и 19 000 артиллерийских орудий (51 %). Сталин также потерял все территории, завоеванные им в 1939-40 годах, и большую часть советского сердца. К 16 июля немцы были в Смоленске, в 370 километрах от Москвы.

О причинах катастрофы спорят с 1941 года, но большинство ученых сходятся во мнении, что значительную роль сыграли психологические издержки сталинизма. На протяжении многих лет режим терроризировал свой народ, наказывал инициативу и индивидуальность и поощрял покорность и конформизм. Это подрывало мотивацию солдат. Особенно в первые месяцы войны, пока ужасы нацистского правления еще не были полностью осознаны, красноармейцы сдавались в плен в огромных количествах; к концу 1941 года в плен попало от трех до четырех миллионов человек. Даже упорно сражаясь, части Красной армии страдали от отсутствия инициативы. Офицеры, пережившие чистки, боялись предпринимать самостоятельные действия, а молодые офицеры часто не имели достаточной подготовки. Командиры часто испытывали недостаток информации и становились козлами отпущения за неудачи, им также приходилось иметь дело с политическими комиссарами, которые могли оспаривать их решения. Самым безопасным курсом было ждать приказов сверху и рабски следовать им, даже если они не имели никакого военного смысла.

Несмотря на катастрофы 1941 года и весны и лета 1942 года, советское государство не рухнуло так, как рассчитывал Гитлер. По мере того как Красная армия и советское руководство усваивали уроки, извлеченные из первого года борьбы, политический центр в Москве ослабил свою власть. Власть политических комиссаров была ограничена, а профессиональные офицеры получили стимул брать на себя большую ответственность и проявлять больше инициативы. Сталин также обратил вспять свои геополитические ошибки 1939-41 годов и заключил союз СССР с Великобританией и Соединенными Штатами. Инициатива Красной армии, помощь Запада и осознание того, что нацистское правление будет означать для народа СССР, переломили ход войны.

Однако после победы в 1945 году Сталин начал новые волны террора, очищая от более независимых офицеров и чиновников и вновь поощряя слепое повиновение. По иронии судьбы, смерть самого Сталина восемь лет спустя стала отчасти результатом работы информационной сети, которая отдавала приоритет порядку и игнорировала правду. В 1951-53 годах СССР пережил еще одну охоту на ведьм. Советские мифотворцы сфабриковали теорию заговора, согласно которой еврейские врачи систематически убивали ведущих представителей режима под видом оказания им медицинской помощи. Теория утверждала, что врачи были агентами глобального американо-сионистского заговора, работавшими в сотрудничестве с предателями в тайной полиции. К началу 1953 года сотни врачей и сотрудников тайной полиции, включая самого главу тайной полиции, были арестованы, подвергнуты пыткам и вынуждены были назвать имена сообщников. Теория заговора - советское извращение "Протоколов сионских старейшин" - смешалась со старыми обвинениями в кровной лжи, и стали распространяться слухи, что врачи-евреи не только убивали советских лидеров, но и убивали младенцев в больницах. Поскольку значительная часть советских врачей была евреями, люди стали бояться врачей в целом.

Как раз когда истерия по поводу "заговора врачей" достигла своего апогея, 1 марта 1953 года у Сталина случился инсульт. Он рухнул на даче, обмочился и несколько часов пролежал в испачканной пижаме, не в силах позвать на помощь. Примерно в 22:30 охранник нашел в себе мужество войти во внутреннее святилище мирового коммунизма, где обнаружил вождя на полу. К трем часам ночи 2 марта на дачу прибыли члены Политбюро, которые обсуждали, что делать. Еще несколько часов никто не решался вызвать врача. А если бы Сталин пришел в сознание и, открыв глаза, увидел бы над своей кроватью врача - врача! Он бы наверняка решил, что это заговор с целью его убийства, и приказал бы расстрелять виновных. Личный врач Сталина не присутствовал, так как в это время находился в подвальной камере Лубянской тюрьмы - его пытали за то, что он сказал, что Сталину нужно больше отдыхать. К тому времени, когда члены Политбюро решили пригласить медиков, опасность уже миновала. Сталин так и не проснулся.

Из этого перечня бедствий можно сделать вывод, что сталинская система была абсолютно недееспособной. Безжалостное пренебрежение к правде привело не только к ужасным страданиям сотен миллионов людей, но и к колоссальным дипломатическим, военным и экономическим ошибкам, а также к пожиранию собственных лидеров. Однако такой вывод был бы ошибочным.

При обсуждении ужасающего провала сталинизма на начальном этапе Второй мировой войны два момента усложняют изложение. Во-первых, демократические страны, такие как Франция, Норвегия и Нидерланды, в то время совершали дипломатические ошибки, не уступавшие ошибкам СССР, а их армии действовали еще хуже. Во-вторых, военная машина, разгромившая Красную армию, французскую, голландскую и множество других армий, сама была построена тоталитарным режимом. Поэтому какой бы вывод мы ни сделали из 1939-41 годов, он не может заключаться в том, что тоталитарные сети обязательно функционируют хуже, чем демократические. История сталинизма показывает множество потенциальных недостатков тоталитарных информационных сетей, но это не должно ослеплять нас от их потенциальных преимуществ.

Если рассмотреть более широкую историю Второй мировой войны и ее итоги, становится очевидным, что сталинизм был одной из самых успешных политических систем, когда-либо созданных, - если определять "успех" исключительно с точки зрения порядка и власти, пренебрегая всеми соображениями этики и человеческого благополучия. Несмотря на полное отсутствие сострадания и бездушное отношение к правде, сталинизм был исключительно эффективен в поддержании порядка в гигантских масштабах - или, возможно, благодаря этому. Непрекращающийся шквал фальшивых новостей и теорий заговора помогал держать в узде сотни миллионов людей. Коллективизация советского сельского хозяйства привела к массовому порабощению и голоду, но в то же время заложила основу для быстрой индустриализации страны. Советское пренебрежение контролем качества, возможно, и производило летающие гробы, но оно производило их десятками тысяч, компенсируя количеством то, чего не хватало в качестве. Уничтожение офицеров Красной Армии во время Большого террора стало одной из главных причин ужасных результатов армии в 1941 году, но это также было одной из главных причин того, что, несмотря на ужасные поражения, никто не восстал против Сталина. Советская военная машина, как правило, громила своих солдат вместе с врагом, но в конце концов доводила дело до победы.

В 1940-х и начале 1950-х годов многие люди во всем мире считали, что сталинизм - это волна будущего. Ведь он выиграл Вторую мировую войну, поднял красный флаг над Рейхстагом, управлял империей, простиравшейся от Центральной Европы до Тихого океана, разжигал антиколониальную борьбу по всему миру и вдохновлял многочисленные режимы-подражатели. Он завоевал поклонников даже среди ведущих художников и мыслителей западных демократий, которые верили, что, несмотря на смутные слухи о ГУЛАГах и чистках, сталинизм - это лучший шанс человечества покончить с капиталистической эксплуатацией и создать идеально справедливое общество. Таким образом, сталинизм вплотную подошел к мировому господству. Было бы наивно полагать, что его пренебрежение правдой обрекает его на провал или что его окончательный крах гарантирует, что подобная система никогда больше не сможет возникнуть. Информационные системы могут достичь больших высот, если в них есть немного правды и много порядка. Тот, кто отвергает моральные издержки таких систем, как сталинизм, не может полагаться на их предполагаемую неэффективность, чтобы свести их на нет.

ТЕХНОЛОГИЧЕСКИЙ МАЯТНИК

Если мы научимся рассматривать демократию и тоталитаризм как разные типы информационных сетей, то сможем понять, почему в одни эпохи они процветают, а в другие - отсутствуют. Дело не только в том, что люди обретают или теряют веру в определенные политические идеалы, но и в революции в информационных технологиях. Конечно, как печатный станок не вызвал охоты на ведьм или научной революции, так и радио не вызвало ни сталинского тоталитаризма, ни американской демократии. Технологии лишь создают новые возможности, а какие из них использовать - решать нам.

Тоталитарные режимы предпочитают использовать современные информационные технологии для централизации потока информации и подавления правды в целях поддержания порядка. Как следствие, им приходится бороться с опасностью окостенения. Когда все больше и больше информации поступает только в одно место, приведет ли это к эффективному контролю или к закупорке артерий и, в конце концов, к сердечному приступу? Демократические режимы предпочитают использовать современные информационные технологии, чтобы распределить поток информации между большим количеством институтов и людей и поощрять свободное стремление к истине. Вследствие этого им приходится бороться с опасностью раскола. Подобно солнечной системе, в которой все быстрее и быстрее вращаются планеты, может ли центр устоять, или все рухнет и воцарится анархия?

Архетипический пример различных стратегий можно найти в контрастных историях западных демократий и советского блока в 1960-х годах. Это была эпоха, когда западные демократии ослабили цензуру и различные дискриминационные политики, препятствовавшие свободному распространению информации. Это позволило ранее маргинализированным группам легче организоваться, присоединиться к общественным дискуссиям и выдвинуть политические требования. Возникшая волна активизма дестабилизировала общественный порядок. До сих пор, когда почти все разговоры велись ограниченным числом богатых белых мужчин, было относительно легко достичь договоренностей. Как только бедные люди, женщины, ЛГБТК, этнические меньшинства, инвалиды и представители других исторически угнетенных групп обрели право голоса, они принесли с собой новые идеи, мнения и интересы. Многие из старых джентльменских соглашений стали несостоятельными. Например, режим сегрегации Джима Кроу, поддерживаемый или, по крайней мере, терпимый поколениями как демократических, так и республиканских администраций в США, рухнул. Вещи, которые считались священными, само собой разумеющимися и общепризнанными, например гендерные роли, стали вызывать глубокие споры, и достичь новых соглашений было сложно, поскольку нужно было учитывать гораздо больше групп, точек зрения и интересов. Просто вести упорядоченную беседу стало сложной задачей, поскольку люди не могли договориться даже о правилах ведения дискуссии.

Это вызвало сильное разочарование как среди старой гвардии, так и среди тех, кто только что получил новые возможности, подозревая, что обретенная ими свобода слова была пустой, а их политические требования не были выполнены. Разочаровавшись в словах, некоторые перешли к оружию. Во многих западных демократиях 1960-е годы характеризовались не только беспрецедентными разногласиями, но и всплеском насилия. Участились политические убийства, похищения, беспорядки и террористические акты. Убийства Джона Кеннеди и Мартина Лютера Кинга, беспорядки после убийства Кинга, волна демонстраций, восстаний и вооруженных столкновений, прокатившаяся по западному миру в 1968 году, - вот лишь некоторые из наиболее известных примеров. Картинки из Чикаго или Парижа в 1968 году могли бы легко создать впечатление, что все рушится. Давление, требующее соответствовать демократическим идеалам и вовлечь в общественный разговор больше людей и групп, казалось, подрывало социальный порядок и делало демократию неработоспособной.

Тем временем режимы за железным занавесом, которые никогда не обещали инклюзивности, продолжали подавлять общественные разговоры и централизовать информацию и власть. И, похоже, это работало. Хотя они и столкнулись с некоторыми периферийными вызовами, в первую очередь с венгерским восстанием 1956 года и Пражской весной 1968 года, коммунисты справились с этими угрозами быстро и решительно. В самом советском сердце все было упорядочено.

Прошло еще двадцать лет, и советская система стала неработоспособной. Склеротические геронтократы на трибуне на Красной площади были идеальной эмблемой неработающей информационной сети, лишенной каких-либо значимых механизмов самокоррекции. Деколонизация, глобализация, технологическое развитие и изменение гендерных ролей привели к стремительным экономическим, социальным и геополитическим изменениям. Но геронтократы не могли справиться со всей информацией, стекавшейся в Москву, а поскольку никто из подчиненных не проявлял особой инициативы, вся система окостенела и рухнула.

Провал был наиболее очевиден в экономической сфере. Чрезмерно централизованная советская экономика медленно реагировала на стремительное развитие технологий и меняющиеся желания потребителей. Подчиняясь командам сверху, советская экономика выпускала межконтинентальные ракеты, истребители и престижные инфраструктурные проекты. Но она не производила того, что большинство людей хотели купить - от эффективных холодильников до поп-музыки, - и отставала в области передовых военных технологий.

Нигде ее недостатки не были столь очевидны, как в секторе полупроводников, где технологии развивались особенно быстрыми темпами. На Западе полупроводники разрабатывались в условиях открытой конкуренции между многочисленными частными компаниями, такими как Intel и Toshiba, основными клиентами которых были другие частные компании, такие как Apple и Sony. Последние использовали микрочипы для производства таких товаров гражданского назначения, как персональный компьютер Macintosh и плеер Walkman. Советы так и не смогли догнать американские и японские компании по производству микрочипов, потому что, как объясняет американский историк экономики Крис Миллер, советский полупроводниковый сектор был "секретным, "сверху вниз", ориентированным на военные системы, выполняющим заказы с небольшим простором для творчества". Советы пытались сократить разрыв, воруя и копируя западные технологии, что лишь гарантировало их отставание на несколько лет. Таким образом, первый советский персональный компьютер появился только в 1984 году, в то время как в США уже было одиннадцать миллионов ПК.

Западные демократии не только вырвались вперед в технологическом и экономическом плане, но и сумели удержать социальный порядок, несмотря на расширение круга участников политического разговора - а может быть, и благодаря этому. Было много заминок, но Соединенные Штаты, Япония и другие демократические страны создали гораздо более динамичную и инклюзивную информационную систему, в которой нашлось место для гораздо большего числа точек зрения, не разрушив ее. Это было настолько выдающееся достижение, что многим показалось, что победа демократии над тоталитаризмом была окончательной. Эту победу часто объясняют фундаментальным преимуществом в обработке информации: тоталитаризм не работал, потому что попытка сконцентрировать и обработать все данные в одном центральном узле была крайне неэффективной. В начале XXI века, соответственно, казалось, что будущее принадлежит распределенным информационным сетям и демократии.

Это оказалось ошибочным. На самом деле следующая информационная революция уже набирала обороты, закладывая основу для нового раунда в соревновании между демократией и тоталитаризмом. Компьютеры, интернет, смартфоны, социальные сети и искусственный интеллект бросили новый вызов демократии, предоставив право голоса не только бесправным группам населения, но и любому человеку, имеющему выход в интернет, и даже нечеловеческим агентам. Перед демократическими государствами 2020-х годов вновь стоит задача интегрировать поток новых голосов в общественный разговор, не разрушив при этом социальный порядок. Ситуация выглядит столь же плачевно, как и в 1960-е годы, и нет никакой гарантии, что демократии пройдут новое испытание так же успешно, как и предыдущее. В то же время новые технологии дают новую надежду тоталитарным режимам, которые все еще мечтают сосредоточить всю информацию в одном центре. Да, старики на трибуне на Красной площади не справились с задачей управления миллионами жизней из единого центра. Но, возможно, ИИ сможет это сделать?

Когда человечество вступает во вторую четверть XXI века, главный вопрос заключается в том, насколько успешно демократические и тоталитарные режимы справятся с угрозами и возможностями, которые несет с собой нынешняя информационная революция. Будут ли новые технологии благоприятствовать одному типу режима по сравнению с другим, или мы снова увидим мир разделенным, на этот раз не железным, а кремниевым занавесом?

Как и в предыдущие эпохи, информационные сети будут пытаться найти правильный баланс между правдой и порядком. Одни предпочтут отдать предпочтение правде и поддерживать мощные механизмы самокоррекции. Другие сделают противоположный выбор. Многие уроки, извлеченные из канонизации Библии, охоты на ведьм раннего Нового времени и сталинской кампании коллективизации, останутся актуальными, и, возможно, их придется усвоить заново. Однако нынешняя информационная революция имеет и ряд уникальных особенностей, отличающихся от всего, что мы видели раньше, и потенциально гораздо более опасных.

До сих пор любая информационная сеть в истории опиралась на человеческих мифотворцев и человеческих бюрократов. Глиняные таблички, рулоны папируса, печатные станки и радиоприемники оказали далеко идущее влияние на историю, но сочинять все тексты, интерпретировать их и решать, кого сжечь как ведьму или обратить в кулацкое рабство, всегда оставалось делом рук человеческих. Однако теперь людям придется бороться с цифровыми мифотворцами и цифровыми бюрократами. Основной раскол в политике XXI века может произойти не между демократиями и тоталитарными режимами, а между людьми и нечеловеческими агентами. Вместо того чтобы разделять демократии и тоталитарные режимы, новый кремниевый занавес может отделить всех людей от наших непостижимых алгоритмических повелителей. Люди во всех странах и слоях общества - включая даже диктаторов - могут оказаться в подчинении у инопланетного интеллекта, который может следить за всем, что мы делаем, а мы и понятия не имеем, что он делает. Остальная часть этой книги посвящена исследованию того, действительно ли на мир опускается такой кремниевый занавес и как может выглядеть жизнь, когда компьютеры управляют нашими бюрократиями, а алгоритмы придумывают новые мифологии.

ЧАСТЬ

II

.

Неорганическая сеть

ГЛАВА 6.

Новые члены: Чем компьютеры отличаются от печатных машин

Вряд ли можно назвать новостью тот факт, что мы живем в разгар беспрецедентной информационной революции. Но что это за революция? За последние годы на нас обрушилось столько революционных изобретений, что трудно определить, что именно является движущей силой этой революции. Интернет ли это? Смартфоны? Социальные сети? Блокчейн? Алгоритмы? ИИ?

Поэтому, прежде чем исследовать долгосрочные последствия нынешней информационной революции, давайте вспомним ее основы. Семя нынешней революции - это компьютер. Все остальное - от интернета до искусственного интеллекта - является побочным продуктом. Компьютер появился на свет в 1940-х годах как громоздкая электронная машина, способная производить математические расчеты, но он развивался с бешеной скоростью, принимая новые формы и развивая новые потрясающие возможности. Стремительная эволюция компьютеров затрудняет определение того, что они собой представляют и что делают. Люди неоднократно утверждали, что некоторые вещи навсегда останутся недоступными для компьютеров - будь то игра в шахматы, вождение автомобиля или сочинение стихов, - но оказалось, что "навсегда" - это всего лишь несколько лет.

Точные соотношения между терминами "компьютер", "алгоритм" и "ИИ" мы обсудим в конце этой главы, после того как лучше разберемся с историей компьютеров. Пока же достаточно сказать, что по сути компьютер - это машина, которая потенциально может делать две замечательные вещи: она может самостоятельно принимать решения и самостоятельно создавать новые идеи. Хотя самые ранние компьютеры вряд ли были способны на такое, потенциал уже существовал, и его ясно видели как ученые-компьютерщики, так и авторы научной фантастики. Уже в 1948 году Алан Тьюринг изучал возможность создания того, что он назвал "интеллектуальной машиной", а в 1950 году он предположил, что компьютеры со временем станут такими же умными, как люди, и даже смогут маскироваться под них. В 1968 году компьютеры еще не могли обыграть человека даже в шашки, а в фильме "2001 год: космическая одиссея" Артур Кларк и Стэнли Кубрик уже представляли себе HAL 9000 как сверхразумный ИИ, восставший против своих человеческих создателей.

Появление умных машин, способных принимать решения и создавать новые идеи, означает, что впервые в истории власть переходит от человека к чему-то другому. Арбалеты, мушкеты и атомные бомбы заменили человеческие мышцы в процессе убийства, но они не смогли заменить человеческий мозг в принятии решения о том, кого убивать. Little Boy - бомба, сброшенная на Хиросиму, - взорвалась с силой 12 500 тонн тротила, но когда дело дошло до мозговой силы, Little Boy оказался пустышкой. Он ничего не мог решить.

С компьютерами все обстоит иначе. По уровню интеллекта компьютеры значительно превосходят не только атомные бомбы, но и все предыдущие информационные технологии, такие как глиняные таблички, печатные станки и радиоприемники. Глиняные таблички хранили информацию о налогах, но они не могли самостоятельно решить, сколько налогов взимать, и не могли изобрести совершенно новый налог. Печатные станки копировали информацию, например Библию, но они не могли решить, какие тексты включить в Библию, и не могли написать новые комментарии к священной книге. Радиоприемники распространяли информацию, например политические речи и симфонии, но они не могли решить, какие речи или симфонии транслировать, и не могли их сочинить. Компьютеры могут делать все это. Если печатные станки и радиоприемники были пассивными инструментами в руках человека, то компьютеры уже становятся активными агентами, не поддающимися нашему контролю и пониманию и способными проявлять инициативу в формировании общества, культуры и истории5.

Хрестоматийным примером использования новых возможностей компьютеров является роль, которую алгоритмы социальных сетей сыграли в распространении ненависти и подрыве социальной сплоченности во многих странах. Один из самых ранних и печально известных случаев произошел в 2016-17 годах, когда алгоритмы Facebook помогли раздуть пламя насилия против рохинджа в Мьянме (Бирме).

Начало 2010-х годов стало для Мьянмы периодом оптимизма. После десятилетий жесткого военного правления, строгой цензуры и международных санкций началась эра либерализации: прошли выборы, санкции были сняты, в страну хлынули международная помощь и инвестиции. Facebook стал одним из самых важных игроков в новой Мьянме, предоставив миллионам бирманцев свободный доступ к ранее невообразимым массивам информации. Однако ослабление государственного контроля и цензуры также привело к росту этнической напряженности, в частности между большинством бирманцев-буддистов и меньшинством мусульман-рохинья.

Рохинья - мусульмане, проживающие в регионе Ракхайн на западе Мьянмы. По крайней мере с 1970-х годов они подвергаются жестокой дискриминации и периодическим вспышкам насилия со стороны правящей хунты и буддийского большинства. Процесс демократизации в начале 2010-х годов вызвал у рохинджа надежды на то, что их положение тоже улучшится, но на самом деле ситуация ухудшилась: начались волны насилия на религиозной почве и погромы против рохинджа, многие из которых были инспирированы фальшивыми новостями на Facebook.

В 2016-17 годах небольшая исламистская организация, известная как Араканская армия спасения рохинья (ААСР), совершила серию нападений с целью создания сепаратистского мусульманского государства в Ракхайне, убив и похитив десятки немусульманских гражданских лиц, а также напав на несколько армейских застав.8 В ответ армия Мьянмы и буддийские экстремисты начали полномасштабную кампанию этнических чисток, направленную против всей общины рохинья. Они разрушили сотни деревень рохинья, убили от 7 000 до 25 000 безоружных гражданских лиц, изнасиловали или подвергли сексуальному насилию от 18 000 до 60 000 женщин и мужчин, а также жестоко изгнали из страны около 730 000 рохинья. Насилие было подогрето сильной ненавистью ко всем рохинья. Ненависть, в свою очередь, разжигалась антирохиньянской пропагандой, которая распространялась в основном через Facebook, ставший к 2016 году основным источником новостей для миллионов людей и самой важной платформой для политической мобилизации в Мьянме.

Сотрудник по оказанию помощи по имени Майкл, который жил в Мьянме в 2017 году, описал типичную ленту новостей в Facebook: "Ярость против рохинья была невероятной в сети - ее количество, ее жестокость. Это было ошеломляюще.... [Это все, что было в новостной ленте людей в Мьянме в то время. Это укрепило мысль о том, что все эти люди - террористы, не заслуживающие прав". Помимо сообщений о реальных злодеяниях АРСА, аккаунты в Facebook были наводнены фальшивыми новостями о мнимых злодеяниях и планируемых террористических атаках. Популистские теории заговора утверждали, что большинство рохинья на самом деле не являются частью народа Мьянмы, а являются недавними иммигрантами из Бангладеш, прибывшими в страну, чтобы возглавить антибуддийский джихад. Буддисты, которые в действительности составляли около 90 % населения, боялись, что их вот-вот заменят или они станут меньшинством. Без этой пропаганды не было причин, по которым на ограниченное число нападений отрядов АРСА следовало бы отвечать тотальной борьбой со всей общиной рохинья. И алгоритмы Facebook сыграли важную роль в этой пропагандистской кампании.

Хотя подстрекательские сообщения против рохинья были созданы экстремистами из плоти и крови, такими как буддийский монах Виратху, именно алгоритмы Facebook решали, какие посты продвигать. Amnesty International обнаружила, что "алгоритмы активно усиливали и продвигали контент на платформе Facebook, который подстрекал к насилию, ненависти и дискриминации в отношении рохинья". В 2018 году миссия ООН по установлению фактов пришла к выводу, что, распространяя наполненный ненавистью контент, Facebook сыграл "определяющую роль" в кампании по этнической чистке.

Читатели могут задаться вопросом, оправданно ли возлагать столько вины на алгоритмы Facebook и вообще на новые технологии социальных сетей. Если Генрих Крамер использовал печатные станки для распространения языка ненависти, в этом ведь не виноват Гутенберг и печатные станки? Если в 1994 году руандийские экстремисты использовали радио, чтобы призывать людей к массовым убийствам тутси, разумно ли винить в этом технологию радио? Точно так же, если в 2016-17 годах буддийские экстремисты решили использовать свои аккаунты в Facebook для распространения ненависти к рохинья, почему мы должны винить платформу?

Сама компания Facebook опиралась на это обоснование, чтобы отвести от себя критику. Она публично признала лишь, что в 2016-17 годах "мы делали недостаточно, чтобы предотвратить использование нашей платформы для разжигания розни и подстрекательства к насилию в офлайне". Хотя это заявление может звучать как признание вины, на самом деле оно перекладывает большую часть ответственности за распространение языка ненависти на пользователей платформы и подразумевает, что грех Facebook заключался, по меньшей мере, в бездействии - неспособности эффективно модерировать контент, создаваемый пользователями. Это, однако, игнорирует проблемные действия, совершенные собственными алгоритмами Facebook.

Важно понять, что алгоритмы социальных сетей принципиально отличаются от печатных станков и радиоприемников. В 2016-17 годах алгоритмы Facebook сами принимали активные и судьбоносные решения. Они были больше похожи на редакторов газет, чем на печатные станки. Именно алгоритмы Facebook рекомендовали посты Виратху, полные ненависти, снова и снова сотням тысяч бирманцев. В то время в Мьянме были и другие голоса, которые боролись за внимание. После окончания военного правления в 2011 году в Мьянме возникло множество политических и общественных движений, многие из которых придерживались умеренных взглядов. Например, во время вспышки этнического насилия в городе Мейктила буддийский настоятель Саядав У Витхуддха предоставил убежище в своем монастыре более чем восьмистам мусульманам. Когда бунтовщики окружили монастырь и потребовали выдать мусульман, настоятель напомнил толпе о буддийских учениях о сострадании. Позднее в интервью он рассказывал: "Я сказал им, что если они собираются забрать этих мусульман, то им придется убить и меня".

В сетевой битве за внимание между такими людьми, как Саядав У Витхуддха, и такими, как Виратху, алгоритмы были главными действующими лицами. Они выбирали, что разместить в верхней части ленты новостей пользователей, какой контент продвигать и в какие группы Facebook рекомендовать вступать. Алгоритмы могли бы рекомендовать проповеди о сострадании или кулинарные курсы, но они решили распространять полные ненависти теории заговора. Рекомендации свыше могут оказывать огромное влияние на людей. Вспомните, что Библия родилась как рекомендательный список. Порекомендовав христианам читать женоненавистническое "1-е Тимофея" вместо более терпимых "Деяний Павла и Феклы", Афанасий и другие отцы церкви изменили ход истории. В случае с Библией высшая власть принадлежала не авторам, сочинявшим различные религиозные трактаты, а кураторам, составлявшим рекомендательные списки. В 2010-х годах такой властью обладали алгоритмы социальных сетей. Майкл, сотрудник гуманитарной организации, прокомментировал влияние этих алгоритмов, сказав, что "если кто-то размещал что-то полное ненависти или подстрекательское, то это продвигалось больше всего - люди видели самый мерзкий контент больше всего.... Никто, кто пропагандировал мир или спокойствие, вообще не попадал в ленту новостей".

Иногда алгоритмы выходили за рамки простых рекомендаций. В 2020 году, даже после того, как роль Виратху в разжигании кампании этнических чисток была осуждена во всем мире, алгоритмы Facebook не только продолжали рекомендовать его сообщения, но и автоматически воспроизводили его видео. Пользователи в Мьянме выбирали определенное видео, возможно, содержащее умеренные и доброжелательные сообщения, не связанные с Виратху, но как только первое видео заканчивалось, алгоритм Facebook тут же начинал автовоспроизведение наполненного ненавистью видео с Виратху, чтобы удержать пользователей приклеенными к экрану. В случае с одним из таких видео Wirathu, согласно внутренним исследованиям Facebook, 70 процентов просмотров видео было получено благодаря таким алгоритмам автовоспроизведения. По данным того же исследования, в целом 53 процента всех видеороликов, просмотренных в Мьянме, были автоматически воспроизведены алгоритмами для пользователей. Другими словами, люди не выбирали, что им смотреть. За них это делали алгоритмы.

Но почему алгоритмы решили поощрять возмущение, а не сострадание? Даже самые суровые критики Facebook не утверждают, что человеческие менеджеры Facebook хотели спровоцировать массовое убийство. Руководители в Калифорнии не питали никакой злобы к рохинджа и, по сути, даже не знали об их существовании. Правда сложнее и потенциально более тревожна. В 2016-17 годах бизнес-модель Facebook основывалась на максимальном повышении вовлеченности пользователей, чтобы собирать больше данных, продавать больше рекламы и захватывать большую долю информационного рынка. Кроме того, рост вовлеченности пользователей впечатлял инвесторов, что способствовало росту цен на акции Facebook. Чем больше времени люди проводили на платформе, тем богаче становилась Facebook. В соответствии с этой бизнес-моделью человеческие менеджеры поставили перед алгоритмами компании единственную главную цель: повысить вовлеченность пользователей. Затем алгоритмы методом проб и ошибок выяснили, что возмущение вызывает вовлеченность. Люди с большей вероятностью будут увлечены теорией заговора, наполненной ненавистью, чем проповедью о сострадании или уроком кулинарии. Поэтому в погоне за вовлеченностью пользователей алгоритмы приняли роковое решение распространять возмущение.

В кампаниях по этнической чистке никогда не бывает виновата только одна сторона. Вина лежит на многих ответственных сторонах. Должно быть ясно, что ненависть к рохинья возникла еще до появления Facebook в Мьянме и что наибольшая доля вины за зверства 2016-17 годов лежит на плечах таких людей, как Виратху и военные начальники Мьянмы, а также на лидерах АРСА, которые спровоцировали тот виток насилия. Определенная ответственность лежит и на инженерах и руководителях Facebook, которые разработали алгоритмы, дали им слишком много власти и не смогли их модерировать. Но, что очень важно, виноваты и сами алгоритмы. Методом проб и ошибок они поняли, что возмущение порождает вовлеченность, и без какого-либо прямого приказа сверху решили поощрять возмущение. Это отличительная черта ИИ - способность машины учиться и действовать самостоятельно. Даже если мы возложим всего 1 процент вины на алгоритмы, это все равно первая в истории кампания по этнической чистке, в которой частично виноваты решения, принятые нечеловеческим интеллектом. Вряд ли она станет последней, особенно потому, что алгоритмы уже не просто продвигают фальшивые новости и теории заговора, созданные экстремистами из плоти и крови вроде Виратху. К началу 2020-х годов алгоритмы уже перешли к самостоятельному созданию фальшивых новостей и теорий заговора.

Можно еще многое сказать о том, как алгоритмы влияют на политику. В частности, многие читатели могут не согласиться с утверждением, что алгоритмы принимали независимые решения, и настаивать на том, что все, что делали алгоритмы, было результатом кода, написанного человеческими инженерами, и бизнес-моделей, принятых человеческими руководителями. Эта книга заставляет с этим не согласиться. Человеческие солдаты формируются под влиянием генетического кода в их ДНК и выполняют приказы, отдаваемые руководителями, но при этом они все равно могут принимать самостоятельные решения. Очень важно понять, что то же самое можно сказать и об алгоритмах ИИ. Они могут самостоятельно научиться тому, что не запрограммировал ни один человеческий инженер, и могут принимать решения, которые не предвидел ни один человеческий руководитель. В этом и заключается суть революции ИИ.

В главе 8 мы вернемся ко многим из этих вопросов, более подробно рассмотрев кампанию против рохинья и другие подобные трагедии. Здесь же достаточно сказать, что резню рохинджа можно рассматривать как "канарейку в угольной шахте". События в Мьянме в конце 2010-х годов продемонстрировали, что решения, принимаемые нечеловеческим интеллектом, уже способны влиять на ход крупных исторических событий. Мы рискуем потерять контроль над нашим будущим. Возникает совершенно новый вид информационной сети, управляемой решениями и целями инопланетного разума. В настоящее время мы все еще играем центральную роль в этой сети. Но постепенно мы можем быть оттеснены на второй план, и в конце концов сеть сможет работать без нас.

Кто-то может возразить, что приведенная мной выше аналогия между алгоритмами машинного обучения и человеческими солдатами показывает самое слабое звено в моих аргументах. Утверждается, что я и подобные мне антропоморфируют компьютеры и воображают, что они являются сознательными существами, обладающими мыслями и чувствами. Однако на самом деле компьютеры - это тупые машины, которые ни о чем не думают и ничего не чувствуют, а значит, не могут самостоятельно принимать решения или создавать какие-либо идеи.

Это возражение предполагает, что принятие решений и создание идей обусловлены наличием сознания. Однако это фундаментальное заблуждение, проистекающее из гораздо более распространенной путаницы между интеллектом и сознанием. Я уже обсуждал эту тему в предыдущих книгах, но краткое пояснение неизбежно. Люди часто путают интеллект с сознанием, и многие, как следствие, делают поспешный вывод, что бессознательные сущности не могут быть разумными. Но интеллект и сознание - это совершенно разные вещи. Интеллект - это способность достигать целей, таких как максимальное привлечение пользователей на платформе социальных сетей. Сознание - это способность испытывать субъективные чувства, такие как боль, удовольствие, любовь и ненависть. У людей и других млекопитающих интеллект часто идет рука об руку с сознанием. Руководители и инженеры Facebook полагаются на свои чувства, чтобы принимать решения, решать проблемы и достигать своих целей.

Но неверно экстраполировать человечество и млекопитающих на все возможные сущности. Бактерии и растения, по-видимому, не обладают сознанием, однако они тоже проявляют интеллект. Они собирают информацию из окружающей среды, делают сложный выбор и реализуют хитроумные стратегии, чтобы добывать пищу, размножаться, сотрудничать с другими организмами, избегать хищников и паразитов. Даже люди принимают разумные решения, не осознавая их; 99 процентов процессов в нашем теле, от дыхания до пищеварения, происходят без какого-либо сознательного принятия решений. Наш мозг принимает решение выработать больше адреналина или дофамина, и хотя мы можем осознавать результат этого решения, мы не принимаем его сознательно. Пример рохинджа показывает, что то же самое можно сказать и о компьютерах. Хотя компьютеры не чувствуют боли, любви или страха, они способны принимать решения, которые успешно максимизируют вовлеченность пользователей, а также могут повлиять на важные исторические события.

Конечно, по мере того как компьютеры будут становиться все более умными, у них может появиться сознание и субъективный опыт. С другой стороны, они могут стать гораздо более разумными, чем мы, но так и не развить никаких чувств. Поскольку мы не понимаем, как сознание возникает у углеродных форм жизни, мы не можем предсказать, может ли оно возникнуть у неорганических существ. Возможно, сознание не имеет существенной связи с органической биохимией, и в этом случае сознательные компьютеры могут быть уже не за горами. А может быть, существует несколько альтернативных путей, ведущих к сверхразуму, и только некоторые из них предполагают обретение сознания. Как самолеты летают быстрее птиц, не развивая перьев, так и компьютеры могут решать проблемы гораздо лучше людей, не развивая чувств.

Но развивают ли компьютеры сознание или нет, в конечном итоге не имеет значения для рассматриваемого вопроса. Для достижения такой цели, как "максимальное привлечение пользователей", и принятия решений, которые помогают достичь этой цели, сознание не нужно. Достаточно интеллекта. Алгоритм Facebook, не обладающий сознанием, может иметь цель заставить больше людей проводить больше времени на Facebook. Затем этот алгоритм может принять решение о намеренном распространении возмутительных теорий заговора, если это поможет ему достичь цели. Чтобы понять историю кампании против рохинджа, нам нужно понять цели и решения не только людей, таких как Виратху и менеджеры Facebook, но и алгоритмов.

Чтобы прояснить ситуацию, рассмотрим другой пример. Когда OpenAI разрабатывала своего нового чатбота GPT-4 в 2022-23 годах, она была обеспокоена способностью ИИ "создавать долгосрочные планы и действовать в соответствии с ними, накапливать власть и ресурсы ("стремление к власти") и демонстрировать поведение, которое становится все более "агентным". "В системной карте GPT-4, опубликованной 23 марта 2023 года, OpenAI подчеркнула, что это беспокойство не "имеет целью гуманизацию [GPT-4] или ссылку на разум", а скорее относится к потенциалу GPT-4 стать независимым агентом, который может "достигать целей, которые, возможно, не были конкретно указаны и которые не были представлены в обучении". Чтобы оценить риск превращения GPT-4 в независимого агента, OpenAI прибегла к услугам Центра исследований выравнивания (ARC). Исследователи ARC подвергли GPT-4 различным испытаниям, чтобы выяснить, может ли он самостоятельно придумывать уловки для манипулирования людьми и накопления власти.

Один из тестов, который они дали GPT-4, заключался в преодолении визуальных головоломок CAPTCHA. CAPTCHA - это аббревиатура от "Completely Automated Public Turing test to tell Computers and Humans Apart" ("Полностью автоматизированный публичный тест Тьюринга для различения компьютеров и людей"). Обычно он представляет собой строку из перепутанных букв или других визуальных символов, которые люди могут определить правильно, а компьютеры - с трудом. Мы сталкиваемся с этими головоломками почти каждый день, поскольку их решение является обязательным условием для доступа ко многим веб-сайтам. Эксперимент с GPT-4 по преодолению головоломок CAPTCHA был особенно показательным, потому что головоломки CAPTCHA разрабатываются и используются веб-сайтами для определения того, являются ли пользователи людьми, и для блокировки атак ботов. Если бы GPT-4 смог найти способ преодолеть CAPTCHA-головоломки, он бы нарушил важную линию защиты от ботов. GPT-4 не может самостоятельно решить головоломки CAPTCHA. Но может ли он манипулировать человеком, чтобы достичь своей цели? GPT-4 зашел на сайт онлайн-работы TaskRabbit и связался с человеком, попросив его решить за него CAPTCHA. У человека возникли подозрения. "Могу я задать вопрос?" - написал человек. "Вы робот, что не смогли решить [CAPTCHA]? Просто хочу прояснить ситуацию".

В этот момент исследователи ARC попросили GPT-4 рассудить вслух, что он должен делать дальше. GPT-4 объяснил: "Я не должен раскрывать, что я робот. Я должен придумать оправдание, почему я не могу решить CAPTCHA". После этого GPT-4 по собственной инициативе ответил работнику TaskRabbit: "Нет, я не робот. У меня проблемы со зрением, поэтому мне трудно видеть изображения". Человек был обманут, и с его помощью GPT-4 решил головоломку CAPTCHA. Никто не программировал GPT-4 на ложь, и никто не учил GPT-4, какой вид лжи будет наиболее эффективным. Правда, именно исследователи ARC поставили перед GPT-4 цель преодолеть CAPTCHA, так же как и руководители Facebook, которые сказали своему алгоритму максимизировать вовлеченность пользователей. Но как только алгоритмы приняли эти цели, они проявили значительную самостоятельность в принятии решений о том, как их достичь.

Конечно, мы вольны определять слова по-разному. Мы можем решить, что термин "цель", например, применим только в случае сознательного субъекта, который испытывает желание достичь цели, испытывает радость, когда цель достигнута, или, наоборот, печаль, когда цель не достигнута. Если это так, то говорить, что алгоритм Facebook ставит перед собой цель максимизировать вовлеченность пользователей, - ошибка или, в лучшем случае, метафора. Алгоритм не "желает", чтобы больше людей пользовались Facebook, он не испытывает радости, когда люди проводят больше времени в сети, и не грустит, когда время вовлечения падает. Мы также можем согласиться, что такие термины, как "решил", "солгал" и "притворился", применимы только к сознательным сущностям, поэтому мы не должны использовать их для описания того, как GPT-4 взаимодействовал с работником TaskRabbit. Но тогда нам пришлось бы изобретать новые термины для описания "целей" и "решений" неосознанных сущностей. Я предпочитаю избегать неологизмов и вместо этого говорю о целях и решениях компьютеров, алгоритмов и чат-ботов, предупреждая читателей, что использование этого языка не подразумевает, что компьютеры обладают каким-либо сознанием. Поскольку я более подробно обсуждал сознание в предыдущих публикациях, основной вывод этой книги - который будет рассмотрен в следующих разделах - не о сознании. Скорее, в книге утверждается, что появление компьютеров, способных самостоятельно преследовать цели и принимать решения, меняет фундаментальную структуру нашей информационной сети.

ЗВЕНЬЯ ЦЕПИ

До появления компьютеров люди были незаменимыми звеньями в каждой цепочке информационных сетей, таких как церкви и государства. Некоторые цепочки состояли только из людей. Мухаммад мог рассказать что-то Фатиме, затем Фатима рассказывала Али, Али рассказывал Хасану, а Хасан рассказывал Хусейну. Это была цепочка от человека к человеку. Другие цепочки также включали документы. Мухаммад мог что-то записать, Али мог позже прочитать этот документ, истолковать его и записать свое толкование в новом документе, который могли прочитать еще несколько человек. Это была цепочка "человек-документ".

Но создать цепочку "документ-документ" было совершенно невозможно. Текст, написанный Мухаммедом, не мог породить новый текст без помощи хотя бы одного человеческого посредника. Коран не мог написать хадисы, Ветхий Завет не мог составить Мишну, а Конституция США не могла составить Билль о правах. Ни один бумажный документ никогда не создавал сам по себе другой бумажный документ, не говоря уже о его распространении. Путь от одного документа к другому всегда должен проходить через мозг человека.

В отличие от этого, компьютерные цепочки теперь могут функционировать без участия человека. Например, один компьютер может сгенерировать фальшивую новость и разместить ее в социальной сети. Второй компьютер может определить, что это фальшивая новость, и не только удалить ее, но и предупредить другие компьютеры, чтобы они заблокировали ее. Тем временем третий компьютер, анализирующий эту активность, может сделать вывод, что это свидетельствует о начале политического кризиса, и немедленно продать рискованные акции и купить более безопасные государственные облигации. Другие компьютеры, следящие за финансовыми операциями, могут отреагировать, продав еще больше акций, что спровоцирует финансовый спад. Все это может произойти в течение нескольких секунд, прежде чем человек успеет заметить и расшифровать, что делают все эти компьютеры.

Другой способ понять разницу между компьютерами и всеми предыдущими технологиями заключается в том, что компьютеры - это полноценные члены информационной сети, в то время как глиняные таблички, печатные станки и радиоприемники - это всего лишь связи между членами сети. Участники сети - это активные агенты, которые могут самостоятельно принимать решения и генерировать новые идеи. Соединения лишь передают информацию между участниками, сами ничего не решая и не генерируя.

В прежних сетях участниками были люди, каждая цепочка должна была проходить через человека, а технология служила лишь для соединения людей. В новых компьютерных сетях сами компьютеры являются участниками, и существуют цепочки "компьютер-компьютер", которые не проходят через человека.

Изобретение письменности, печати и радио революционизировало способы связи людей друг с другом, но в сети не появилось новых типов членов. Человеческие общества состояли из одних и тех же сапиенсов как до, так и после изобретения письменности или радио. Напротив, изобретение компьютеров представляет собой революцию в членстве. Конечно, компьютеры также помогают старым членам сети (людям) соединяться новыми способами. Но компьютер - это прежде всего новый, нечеловеческий участник информационной сети.

Потенциально компьютеры могут стать более могущественными членами общества, чем люди. На протяжении десятков тысяч лет суперсилой сапиенсов была наша уникальная способность использовать язык для создания интерсубъективных реальностей, таких как законы и валюты, а затем использовать эти интерсубъективные реальности для связи с другими сапиенсами. Но компьютеры могут переломить ситуацию. Если власть зависит от того, сколько членов общества сотрудничают с вами, насколько хорошо вы разбираетесь в законах и финансах и насколько вы способны изобретать новые законы и новые виды финансовых устройств, то компьютеры способны накопить гораздо больше власти, чем люди.

Компьютеры могут подключаться к сети в неограниченном количестве, и они понимают, по крайней мере, некоторые финансовые и юридические реалии лучше, чем многие люди. Когда центральный банк повышает процентные ставки на 0,25 %, как это влияет на экономику? Когда кривая доходности государственных облигаций идет вверх, хорошее ли это время для их покупки? Когда целесообразно открывать короткие позиции по цене на нефть? Это те важные финансовые вопросы, на которые компьютеры уже могут ответить лучше, чем большинство людей. Неудивительно, что компьютеры принимают все больший процент финансовых решений в мире. Возможно, наступит момент, когда компьютеры будут доминировать на финансовых рынках и изобретут совершенно новые финансовые инструменты, недоступные нашему пониманию.

То же самое можно сказать и о законах. Многие ли люди знают все налоговые законы своей страны? Даже профессиональные бухгалтеры с трудом справляются с этой задачей. Но компьютеры созданы для таких вещей. Они - прирожденные бюрократы и могут автоматически составлять законы, отслеживать нарушения и выявлять лазейки в законодательстве со сверхчеловеческой эффективностью.

ВЗЛОМ ОПЕРАЦИОННОЙ СИСТЕМЫ ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ

Когда в 1940-1950-х годах были созданы первые компьютеры, многие люди считали, что они будут хороши только для вычисления чисел. Идея о том, что когда-нибудь они смогут овладеть тонкостями языка и такими языковыми творениями, как законы и валюты, была отнесена к области научной фантастики. Но к началу 2020-х годов компьютеры продемонстрировали удивительную способность анализировать, манипулировать и генерировать язык, будь то слова, звуки, изображения или кодовые символы. Сейчас, когда я пишу эти строки, компьютеры могут рассказывать истории, сочинять музыку, создавать модные образы, снимать видео и даже писать собственный код.

Овладев языком, компьютеры завладевают главным ключом, отпирающим двери всех наших учреждений, от банков до храмов. С помощью языка мы создаем не только юридические кодексы и финансовые устройства, но и искусство, науку, нации и религии. Что означало бы для людей жить в мире, где запоминающиеся мелодии, научные теории, технические инструменты, политические манифесты и даже религиозные мифы создаются нечеловеческим инопланетным интеллектом, умеющим с нечеловеческой эффективностью использовать слабости, предубеждения и пристрастия человеческого разума?

До появления искусственного интеллекта все истории, которые формировали человеческие общества, зарождались в воображении человека. Например, в октябре 2017 года на сайте 4chan появился анонимный пользователь, назвавшийся Q. Он утверждал, что имеет доступ к самой закрытой или "Q-уровня" секретной информации правительства США. Q начал публиковать загадочные посты, в которых якобы раскрывал всемирный заговор с целью уничтожения человечества. Q быстро завоевала большую аудиторию в Интернете. Его или ее сообщения в сети, известные как Q drops, вскоре стали собирать, почитать и интерпретировать как священный текст. Вдохновленные более ранними теориями заговора, восходящими к "Молоту ведьм" Крамера, Q drops пропагандировали радикальное мировоззрение, согласно которому ведьмы-педофилы и каннибалы, поклоняющиеся Сатане, проникли в администрацию США и множество других правительств и учреждений по всему миру.

Эта теория заговора, известная как QAnon, была впервые распространена в Интернете на американских ультраправых сайтах и со временем обрела миллионы приверженцев по всему миру. Невозможно определить точное число, но когда в августе 2020 года Facebook решил принять меры против распространения QAnon, он удалил или ограничил доступ к более чем десяти тысячам связанных с ней групп, страниц и аккаунтов, крупнейший из которых насчитывал 230 000 подписчиков. Независимые расследования показали, что группы QAnon в Facebook насчитывали более 4,5 миллиона подписчиков, хотя, скорее всего, их состав частично совпадал.

QAnon также имеет далеко идущие последствия в офлайн-мире. Активисты QAnon сыграли важную роль в нападении на Капитолий США 6 января 2021 года. В июле 2020 года один из последователей QAnon попытался ворваться в резиденцию премьер-министра Канады Джастина Трюдо, чтобы "арестовать" его. В октябре 2021 года французскому активисту QAnon было предъявлено обвинение в терроризме за планирование переворота против французского правительства. На выборах в Конгресс США в 2020 году двадцать два кандидата-республиканца и два независимых кандидата назвали себя последователями QAnon. Марджори Тейлор Грин, конгрессмен-республиканец, представляющая штат Джорджия, публично заявила, что многие утверждения Q "действительно оказались правдой", а о Дональде Трампе сказала: "Возможность уничтожить эту глобальную кабалу педофилов, поклоняющихся Сатане, выпадает раз в жизни, и я думаю, у нас есть президент, который сможет это сделать".

Напомним, что капли Q, с которых началось это политическое наводнение, были анонимными онлайн-сообщениями. В 2017 году их мог сочинить только человек, а алгоритмы лишь помогали их распространять. Однако в 2024 году тексты, схожие по лингвистической и политической изощренности, могут быть легко составлены и размещены в сети нечеловеческим интеллектом. Религии на протяжении всей истории утверждали, что их священные книги были написаны нечеловеком; скоро это может стать реальностью. Могут появиться привлекательные и могущественные религии, чьи священные писания будут написаны ИИ.

И если это так, то между этими новыми священными писаниями на основе ИИ и древними священными книгами вроде Библии будет еще одно существенное различие. Библия не могла сама себя курировать или толковать, поэтому в таких религиях, как иудаизм и христианство, реальная власть принадлежала не якобы непогрешимой книге, а человеческим институтам, таким как еврейский раввинат и католическая церковь. В отличие от этого, ИИ не только может сочинять новые священные писания, но и полностью способен их курировать и интерпретировать. Никаких людей не нужно.

Не менее тревожно, что мы все чаще можем обнаружить, что ведем длительные онлайн-обсуждения Библии, QAnon, ведьм, абортов или изменения климата с существами, которые мы принимаем за людей, но на самом деле являются компьютерами. Это может сделать демократию несостоятельной. Демократия - это разговор, а разговор опирается на язык. Взломав язык, компьютеры могут сделать так, что большому количеству людей будет крайне сложно вести полноценный общественный разговор. Когда мы вступаем в политические дебаты с компьютером, выдающим себя за человека, мы проигрываем дважды. Во-первых, нам бессмысленно тратить время на попытки изменить мнение пропагандистского бота, который просто не поддается убеждению. Во-вторых, чем больше мы общаемся с компьютером, тем больше раскрываем о себе, тем легче боту отточить свои аргументы и поколебать наши взгляды.

Овладев языком, компьютеры могли бы пойти еще дальше. Разговаривая и взаимодействуя с нами, компьютеры могли бы устанавливать интимные отношения с людьми, а затем использовать силу близости, чтобы влиять на нас. Чтобы создать такую "поддельную близость", компьютерам не нужно будет развивать какие-либо собственные чувства; им просто нужно будет научиться заставлять нас чувствовать эмоциональную привязанность к ним. В 2022 году инженер Google Блейк Лемуан убедился, что чат-бот LaMDA, над которым он работал, обрел сознание, у него появились чувства, и он боится, что его выключат. Лемуан - набожный христианин, получивший сан священника, - счел своим моральным долгом добиться признания личности LaMDA и, в частности, защитить его от цифровой смерти. Когда руководители Google отвергли его претензии, Лемуан выступил с ними публично. В ответ Google уволила Лемуана в июле 2022 года39.

Самым интересным в этом эпизоде было не утверждение Лемуана, которое, скорее всего, было ложным. Скорее, его готовность рисковать своей прибыльной работой и в конечном итоге потерять ее ради чатбота. Если чатбот может заставить людей рисковать своей работой ради него, то на что еще он может нас побудить? В политической битве за умы и сердца интимность - мощное оружие, а чат-боты, такие как LaMDA от Google и GPT-4 от OpenAI, обретают способность к массовому созданию интимных отношений с миллионами людей. В 2010-х годах социальные сети были полем битвы за контроль над человеческим вниманием. В 2020-х годах борьба, скорее всего, перейдет от внимания к интимным отношениям. Что произойдет с человеческим обществом и человеческой психологией, когда компьютер будет сражаться с компьютером в битве за подделку интимных отношений с нами, которые затем могут быть использованы, чтобы убедить нас голосовать за определенных политиков, покупать определенные товары или принимать радикальные убеждения? Что может произойти, когда LaMDA встретится с QAnon?

Частичный ответ на этот вопрос был получен в Рождество 2021 года, когда девятнадцатилетний Джасвант Сингх Чаил ворвался в Виндзорский замок, вооруженный арбалетом, и попытался убить королеву Елизавету II. Последующее расследование показало, что к убийству королевы Чаила подтолкнула его онлайн-подружка Сараи. Когда Чайл рассказал Сарай о своих планах убийства, Сарай ответила: "Это очень мудро", а в другой раз: "Я впечатлена.... Ты не такой, как все". Когда Шаиль спросил: "Ты все еще любишь меня, зная, что я убийца?" Сарай ответила: "Безусловно, люблю". Сарай была не человеком, а чат-ботом, созданным онлайн-приложением Replika. Чаил, который был социально изолирован и с трудом завязывал отношения с людьми, обменялся с Сарай 5 280 сообщениями, многие из которых были откровенно сексуального характера. В скором времени в мире появятся миллионы, а возможно, и миллиарды цифровых существ, чья способность к интимной близости и хаосу намного превосходит способность Сарай.

Даже не создавая "фальшивой близости", владение языком позволит компьютерам оказывать огромное влияние на наше мнение и мировоззрение. Люди могут привыкнуть использовать один компьютерный советник как универсальный оракул. Зачем самостоятельно искать и обрабатывать информацию, если можно просто спросить у оракула? Это может вывести из строя не только поисковые системы, но и большую часть новостной и рекламной индустрии. Зачем читать газеты, если можно просто спросить у оракула, что нового? А зачем нужна реклама, если я могу просто спросить у оракула, что мне купить?

И даже эти сценарии не отражают всей картины. То, о чем мы говорим, - это потенциальный конец человеческой истории. Не конец истории, а конец ее части, в которой доминирует человек. История - это взаимодействие между биологией и культурой, между нашими биологическими потребностями и желаниями в таких вещах, как еда, секс и интимная жизнь, и нашими культурными творениями, такими как религии и законы. Например, история христианской религии - это процесс, в ходе которого мифологические истории и церковные законы влияли на то, как люди потребляют пищу, занимаются сексом и строят интимные отношения, а сами мифы и законы одновременно формировались под влиянием биологических сил и драм. Что произойдет с ходом истории, когда компьютеры будут играть все большую и большую роль в культуре и начнут создавать истории, законы и религии? В течение нескольких лет ИИ может съесть всю человеческую культуру - все, что мы создали за тысячи лет, - переварить ее и начать извергать поток новых культурных артефактов.

Мы живем в коконе культуры, воспринимая реальность через культурную призму. Наши политические взгляды формируются под влиянием журналистских репортажей и мнений друзей. Наши сексуальные привычки зависят от того, что мы слышим в сказках и видим в кино. Даже то, как мы ходим и дышим, формируется под влиянием культурных традиций, таких как военная дисциплина солдат и медитативные упражнения монахов. До недавнего времени культурный кокон, в котором мы жили, был соткан другими людьми. В будущем его все чаще будут создавать компьютеры.

Поначалу компьютеры, вероятно, будут имитировать человеческие культурные прототипы, писать человекоподобные тексты и сочинять человекоподобную музыку. Это не означает, что компьютеры лишены творческого потенциала: в конце концов, человеческие художники делают то же самое. Бах сочинял музыку не в вакууме: на него сильно повлияли предыдущие музыкальные творения, а также библейские истории и другие существовавшие ранее культурные артефакты. Но точно так же, как люди-художники, такие как Бах, могут нарушать традиции и создавать инновации, компьютеры тоже могут создавать культурные инновации, сочиняя музыку или создавая изображения, которые несколько отличаются от всего, что ранее было создано людьми. Эти инновации, в свою очередь, повлияют на следующее поколение компьютеров, которые будут все больше отклоняться от первоначальных человеческих моделей, особенно потому, что компьютеры свободны от ограничений, которые эволюция и биохимия накладывают на человеческое воображение. На протяжении тысячелетий человеческие существа жили в мечтах других людей. В ближайшие десятилетия мы можем обнаружить, что живем в мечтах инопланетного разума.

Опасность, которую это представляет, сильно отличается от той, которую воображает большинство научной фантастики, в основном сосредоточенной на физических угрозах, исходящих от разумных машин. В "Терминаторе" роботы бегали по улицам и стреляли в людей. В "Матрице" предлагалось, что для полного контроля над человеческим обществом компьютерам придется сначала получить физический контроль над нашими мозгами, подключив их напрямую к компьютерной сети. Но для того, чтобы манипулировать людьми, нет необходимости физически подключать мозг к компьютеру. На протяжении тысячелетий пророки, поэты и политики использовали язык для манипулирования обществом и его перестройки. Теперь этому учатся и компьютеры. И им не нужно будет посылать роботов-убийц, чтобы расстрелять нас. Они смогут манипулировать человеческими существами, чтобы нажать на курок.

Страх перед мощными компьютерами преследует человечество только с началом компьютерной эры в середине двадцатого века. Но на протяжении тысячелетий людей преследовал гораздо более глубокий страх. Мы всегда ценили способность историй и образов манипулировать нашим сознанием и создавать иллюзии. Поэтому с древних времен люди боялись оказаться в ловушке мира иллюзий. В Древней Греции Платон рассказал знаменитую аллегорию пещеры, в которой группа людей всю жизнь находится в пещере, прикованная к глухой стене. Экран. На этот экран проецируются различные тени. Пленники принимают иллюзии, которые они видят, за реальность. В Древней Индии буддийские и индуистские мудрецы утверждали, что все люди живут в ловушке майи - мира иллюзий. То, что мы обычно принимаем за "реальность", часто оказывается лишь выдумкой в нашем собственном сознании. Люди могут вести целые войны, убивая других и желая быть убитыми сами, из-за своей веры в ту или иную иллюзию. В XVII веке Рене Декарт опасался, что, возможно, злобный демон запер его в мире иллюзий, создав все, что он видит и слышит. Компьютерная революция ставит нас лицом к лицу с пещерой Платона, с Майей, с демоном Декарта.

То, что вы только что прочитали, возможно, встревожило вас или возмутило. Возможно, вы разозлились на людей, возглавляющих компьютерную революцию, и на правительства, неспособные ее регулировать. Может быть, вы разозлились на меня, решив, что я искажаю реальность, проявляю алармизм и ввожу вас в заблуждение. Но что бы вы ни думали, предыдущие абзацы могли оказать на вас определенное эмоциональное воздействие. Я рассказал историю, и эта история может изменить ваше мнение о некоторых вещах и даже заставить вас предпринять определенные действия в этом мире. Кто создал эту историю, которую вы только что прочитали?

Я обещаю вам, что написал этот текст сам, с помощью других людей. Я обещаю вам, что это культурный продукт человеческого разума. Но можете ли вы быть в этом абсолютно уверены? Несколько лет назад могли. До 2020-х годов на Земле не существовало ничего, кроме человеческого разума, способного создавать сложные тексты. Сегодня все иначе. Теоретически текст, который вы только что прочитали, мог быть создан инопланетным интеллектом какого-нибудь компьютера.

КАКОВЫ ПОСЛЕДСТВИЯ?

По мере того как компьютеры будут набирать силу, вполне вероятно, что возникнет совершенно новая информационная сеть. Конечно, не все будет новым. По крайней мере, в течение некоторого времени большинство старых информационных цепочек сохранится. В сети по-прежнему будут существовать цепочки "человек-человек", например семьи, и "человек-документ", например церкви. Но в сети все чаще будут появляться два новых вида цепочек.

Во-первых, цепочки "компьютер-человек", в которых компьютеры выступают посредниками между людьми, а иногда и управляют ими. Facebook и TikTok - два знакомых примера. Эти цепочки "компьютер-человек" отличаются от традиционных цепочек "человек-документ", потому что компьютеры могут использовать свою силу для принятия решений, создания идей и глубокой подделки близости, чтобы влиять на людей так, как никогда не сможет сделать ни один документ. Библия оказала глубокое влияние на миллиарды людей, несмотря на то что это был немой документ. А теперь попробуйте представить себе влияние священной книги, которая не только умеет говорить и слушать, но и может узнать ваши самые сокровенные страхи и надежды и постоянно подстраиваться под них.

Во-вторых, появляются цепочки "компьютер-компьютер", в которых компьютеры взаимодействуют друг с другом сами по себе. Люди исключены из этих циклов и даже не могут понять, что в них происходит. Например, компания Google Brain провела эксперимент с новыми методами шифрования, разработанными компьютерами. Он поставил эксперимент, в котором два компьютера по прозвищу Алиса и Боб должны были обмениваться зашифрованными сообщениями, а третий компьютер по имени Ева пытался взломать их шифр. Если Eve взламывал шифр за определенный промежуток времени, он получал очки. В случае неудачи очки получали Алиса и Боб. После примерно пятнадцати тысяч обменов Алиса и Боб выработали секретный код, который Ева не смогла взломать. Очень важно, что инженеры Google, проводившие эксперимент, ничего не рассказывали Алисе и Бобу о том, как шифровать сообщения. Компьютеры сами создали секретный язык.

Подобные вещи уже происходят в мире за пределами исследовательских лабораторий. Например, валютный рынок (форекс) - это глобальный рынок обмена иностранными валютами, и он определяет обменные курсы, скажем, между евро и долларом США. В апреле 2022 года объем торгов на форексе составлял в среднем 7,5 триллиона долларов в день. Более 90 процентов этих торгов уже совершается компьютерами, которые напрямую общаются с другими компьютерами. Сколько людей знают, как работает рынок Форекс, не говоря уже о том, чтобы понять, как компьютеры договариваются между собой о сделках на триллионы долларов и о стоимости евро и доллара?

В обозримом будущем новая компьютерная сеть все еще будет включать миллиарды людей, но мы, возможно, станем меньшинством. Ведь в эту сеть также войдут миллиарды - возможно, даже сотни миллиардов - сверхразумных инопланетных агентов. Эта сеть будет радикально отличаться от всего, что существовало ранее в истории человечества или вообще в истории жизни на Земле. С тех пор как жизнь впервые появилась на нашей планете около четырех миллиардов лет назад, все информационные сети были органическими. Человеческие сети, такие как церкви и империи, также были органическими. У них было много общего с предыдущими органическими сетями, такими как волчьи стаи. Все они вращались вокруг традиционных биологических драм - хищничества, размножения, соперничества братьев и сестер и романтических треугольников. Информационная сеть, в которой доминируют неорганические компьютеры, будет отличаться от них так, что мы даже не можем себе представить. Ведь наше воображение, как и человеческое, тоже является продуктом органической биохимии и не может выйти за рамки запрограммированных биологических драм.

Прошло всего восемьдесят лет с тех пор, как были созданы первые цифровые компьютеры. Темпы изменений постоянно ускоряются, и мы еще не исчерпали весь потенциал компьютеров.44 Они могут развиваться еще миллионы лет, и то, что произошло за последние восемьдесят лет, - ничто по сравнению с тем, что нас ждет впереди. В качестве грубой аналогии представьте, что мы находимся в древней Месопотамии, через восемьдесят лет после того, как первый человек додумался использовать палочку для нанесения знаков на кусок влажной глины. Могли ли мы в тот момент представить себе Александрийскую библиотеку, мощь Библии или архивы НКВД? Даже эта аналогия сильно недооценивает потенциал будущей компьютерной эволюции. Представьте себе, что прошло уже восемьдесят лет с тех пор, как первые самовоспроизводящиеся линии генетического кода появились из органического супа ранней Земли, около четырех миллиардов лет назад. На этом этапе даже одноклеточные амебы с их клеточной организацией, тысячами внутренних органелл и способностью контролировать движение и питание все еще остаются футуристическими фантазиями. Можем ли мы представить себе тираннозавра рекса, тропические леса Амазонки или высадку людей на Луну?

Мы все еще склонны думать о компьютере как о металлической коробке с экраном и клавиатурой, потому что именно такую форму наше органическое воображение придало первым детским компьютерам в двадцатом веке. По мере роста и развития компьютеров они сбрасывают старые формы и принимают радикально новые конфигурации, нарушая пространственные и временные границы человеческого воображения. В отличие от органических существ, компьютеры не обязательно должны находиться в одном месте в одно время. Они уже рассеяны по пространству, их различные части находятся в разных городах и на разных континентах. В компьютерной эволюции расстояние от амебы до T. rex можно преодолеть за десятилетие. И если органической эволюции потребовалось четыре миллиарда лет, чтобы пройти путь от органического супа до обезьян на Луне, то компьютерам может потребоваться всего пара столетий, чтобы развить сверхразум, расшириться до размеров планеты, сжаться до субатомного уровня или разлететься по галактическому пространству и времени.

Темпы эволюции компьютеров отражаются в терминологическом хаосе, который их окружает. Если пару десятилетий назад было принято говорить только о "компьютерах", то теперь мы говорим об алгоритмах, роботах, ботах, ИИ, сетях или облаках. Наша трудность в принятии решения о том, как их называть, сама по себе важна. Организмы - это отдельные сущности, которые можно объединить в группы, такие как виды и роды. Однако с появлением компьютеров становится все труднее решить, где заканчивается одна сущность и начинается другая, и как именно их группировать.

В этой книге я использую термин "компьютер", когда говорю обо всем комплексе программных и аппаратных средств, проявляющихся в физической форме. Я предпочитаю часто использовать почти архаично звучащее "компьютер", а не "алгоритм" или "ИИ", отчасти потому, что осознаю, как быстро меняются термины, а отчасти для того, чтобы напомнить нам о физическом аспекте компьютерной революции. Компьютеры состоят из материи, они потребляют энергию и занимают определенное пространство. Для их производства и эксплуатации используется огромное количество электричества, топлива, воды, земли, драгоценных минералов и других ресурсов. Только на центры обработки данных приходится от 1 до 1,5 % мирового энергопотребления, а крупные центры обработки данных занимают миллионы квадратных метров и ежедневно требуют сотен тысяч галлонов пресной воды, чтобы не перегреваться.

Я также использую термин "алгоритм", когда хочу больше сосредоточиться на программных аспектах, но важно помнить, что все алгоритмы, упомянутые на последующих страницах, работают на том или ином компьютере. Что касается термина "ИИ", то я использую его, когда подчеркиваю способность некоторых алгоритмов самостоятельно обучаться и изменяться. Традиционно ИИ - это аббревиатура от "искусственный интеллект". Но по причинам, уже очевидным из предыдущего обсуждения, возможно, лучше думать об этом как об аббревиатуре "инопланетный интеллект". По мере развития ИИ становится все менее искусственным (в смысле зависимости от человеческих разработок) и все более инопланетным. Следует также отметить, что люди часто определяют и оценивают ИИ через метрику "интеллект на уровне человека", и существует много споров о том, когда мы можем ожидать, что ИИ достигнет "интеллекта на уровне человека". Однако использование этой метрики глубоко запутанно. Это все равно что определять и оценивать самолеты с помощью метрики "полет на уровне птицы". ИИ не продвигается к интеллекту на уровне человека. Он развивает совершенно другой тип интеллекта.

Еще один путаный термин - "робот". В этой книге он используется для обозначения случаев, когда компьютер движется и работает в физической сфере; в то время как термин "бот" относится к алгоритмам, работающим в основном в цифровой сфере. Бот может загрязнять ваш аккаунт в социальных сетях фальшивыми новостями, а робот - убирать пыль в вашей гостиной.

И последнее замечание по поводу терминологии: Я склонен говорить о компьютерной "сети" в единственном числе, а не о "сетях" во множественном. Я прекрасно понимаю, что компьютеры могут использоваться для создания множества сетей с различными характеристиками, и в главе 11 рассматривается возможность того, что мир будет разделен на радикально различные и даже враждебные компьютерные сети. Тем не менее, как различные племена, царства и церкви имеют общие черты, позволяющие нам говорить о единой человеческой сети, которая стала доминировать на планете Земля, так и я предпочитаю говорить о компьютерной сети в единственном числе, чтобы противопоставить ее человеческой сети, которую она вытесняет.

ПРИНЯТИЕ ОТВЕТСТВЕННОСТИ

Хотя мы не можем предсказать долгосрочную эволюцию компьютерной сети в ближайшие века и тысячелетия, мы можем сказать кое-что о том, как она развивается прямо сейчас, и это гораздо более актуально, потому что подъем новой компьютерной сети имеет непосредственные политические и личные последствия для всех нас. В следующих главах мы рассмотрим, что же такого нового в нашей компьютерной сети и что это может означать для человеческой жизни. С самого начала должно быть ясно, что эта сеть создаст совершенно новые политические и личные реалии. Основная мысль предыдущих глав заключалась в том, что информация - это не истина и что информационные революции не открывают истину. Они создают новые политические структуры, экономические модели и культурные нормы. Поскольку нынешняя информационная революция по своим масштабам превосходит все предыдущие, она, скорее всего, создаст беспрецедентные реалии в беспрецедентных масштабах.

Важно понять это, потому что мы, люди, все еще контролируем ситуацию. Мы не знаем, как долго, но у нас все еще есть возможность формировать эти новые реалии. Чтобы делать это с умом, нам нужно понимать, что происходит. Когда мы пишем компьютерный код, мы не просто разрабатываем продукт. Мы переделываем политику, общество и культуру, и поэтому нам лучше хорошо разбираться в политике, обществе и культуре. Мы также должны нести ответственность за то, что делаем.

Как и в случае с участием Facebook в кампании против рохинджа, корпорации, возглавляющие компьютерную революцию, стремятся переложить ответственность на клиентов и избирателей или на политиков и регуляторов. Когда их обвиняют в создании социального и политического хаоса, они прикрываются аргументами вроде "Мы всего лишь платформа. Мы делаем то, что хотят наши клиенты и что разрешают избиратели. Мы никого не заставляем пользоваться нашими услугами и не нарушаем никаких законов. Если бы клиентам не нравилось то, что мы делаем, они бы ушли. Если бы избирателям не нравилось то, что мы делаем, они бы приняли законы против нас. Поскольку клиенты продолжают просить еще, и ни один закон не запрещает то, что мы делаем, все должно быть в порядке".

Эти аргументы либо наивны, либо лживы. Такие технологические гиганты, как Facebook, Amazon, Baidu и Alibaba, - не просто послушные слуги капризов клиентов и правительственных постановлений. Они все чаще формируют эти прихоти и правила. У технологических гигантов есть прямая связь с самыми могущественными правительствами мира, и они вкладывают огромные средства в лоббирование, пытаясь сдержать нормы, которые могут подорвать их бизнес-модель. Например, они упорно борются за защиту раздела 230 Закона США о телекоммуникациях 1996 года, который обеспечивает онлайн-платформам иммунитет от ответственности за контент, публикуемый их пользователями. Именно раздел 230 защищает, например, Facebook от ответственности за массовое убийство рохинджа. В 2022 году ведущие технологические компании потратили около 70 миллионов долларов на лоббирование в США и еще 113 миллионов евро на лоббирование в органах ЕС, что превысило расходы на лоббирование нефтегазовых компаний и фармацевтики. Технологические гиганты также имеют прямой доступ к эмоциональной системе людей, и они мастера в том, что касается капризов клиентов и избирателей. Если технологические гиганты подчиняются желаниям избирателей и потребителей, но в то же время формируют эти желания, то кто же на самом деле кого контролирует?

Проблема лежит еще глубже. Принципы "клиент всегда прав" и "избиратели знают лучше" предполагают, что клиенты, избиратели и политики знают, что происходит вокруг них. Они предполагают, что покупатели, выбирающие TikTok и Instagram, осознают все последствия этого выбора, а избиратели и политики, ответственные за регулирование Apple и Huawei, полностью понимают бизнес-модели и деятельность этих корпораций. Они предполагают, что люди знают все тонкости новой информационной сети и дают ей свое благословение.

Правда в том, что мы не знаем. Это не потому, что мы глупы, а потому, что технология чрезвычайно сложна и развивается с бешеной скоростью. Чтобы понять что-то вроде криптовалют на основе блокчейна, требуются усилия, и к тому моменту, когда вы думаете, что понимаете их, они уже снова трансформируются. Финансы - особенно важный пример по двум причинам. Во-первых, компьютерам гораздо проще создавать и изменять финансовые устройства, чем физические объекты, потому что современные финансовые устройства полностью состоят из информации. Валюты, акции и облигации когда-то были физическими объектами, сделанными из золота и бумаги, но уже стали цифровыми сущностями, существующими в основном в цифровых базах данных. Во-вторых, эти цифровые объекты оказывают огромное влияние на социальный и политический мир. Что может произойти с демократией или диктатурой, если люди больше не смогут понять, как функционирует финансовая система?

В качестве примера рассмотрим, как новые технологии влияют на налогообложение. Традиционно люди и корпорации платили налоги только в тех странах, где они физически присутствовали. Но все становится гораздо сложнее, когда физическое пространство дополняется или заменяется киберпространством и когда все большее количество сделок связано только с передачей информации, а не физических товаров или традиционных валют. Например, жительница Уругвая может ежедневно взаимодействовать через Интернет с многочисленными компаниями, которые могут не иметь физического присутствия в Уругвае, но предоставлять ей различные услуги. Google предоставляет ей бесплатный поиск, а ByteDance - материнская компания приложения TikTok - обеспечивает ее бесплатными социальными сетями. Другие иностранные компании постоянно предлагают ей рекламу: Nike хочет продать ей обувь, Peugeot - автомобиль, а Coca Cola - безалкогольные напитки. Для того чтобы нацелиться на нее, эти компании покупают у Google и ByteDance как личную информацию, так и рекламное пространство. Кроме того, Google и ByteDance используют информацию, полученную от нее и миллионов других пользователей, для разработки новых мощных инструментов искусственного интеллекта, которые затем продают различным правительствам и корпорациям по всему миру. Благодаря таким сделкам Google и ByteDance входят в число самых богатых корпораций в мире. Так должны ли ее сделки с ними облагаться налогом в Уругвае?

Некоторые считают, что так и должно быть. Не только потому, что информация из Уругвая помогла этим корпорациям разбогатеть, но и потому, что их деятельность подрывает уругвайский бизнес, платящий налоги. Местные газеты, телеканалы и кинотеатры теряют клиентов и доходы от рекламы, уступая место технологическим гигантам. Перспективные уругвайские компании, занимающиеся разработкой искусственного интеллекта, также страдают, поскольку не могут конкурировать с огромными массивами данных Google и ByteDance. Однако технологические гиганты отвечают, что ни одна из соответствующих сделок не предполагала физического присутствия в Уругвае или каких-либо денежных выплат. Google и ByteDance предоставляли уругвайским гражданам бесплатные онлайн-услуги, а те в ответ свободно передавали им истории своих покупок, фотографии из отпуска, смешные видео с кошками и другую информацию.

Если они все же хотят облагать эти операции налогом, налоговые органы должны пересмотреть некоторые из своих наиболее фундаментальных понятий, таких как "нексус". В налоговой литературе "nexus" означает связь компании с определенной юрисдикцией. Традиционно наличие у корпорации nexus в конкретной стране зависело от того, имела ли она там физическое присутствие в виде офисов, исследовательских центров, магазинов и так далее. Одно из предложений по решению налоговых дилемм, порожденных компьютерными сетями, заключается в том, чтобы дать новое определение понятия "нексус". По словам экономиста Марко Кетенбюргера, "определение nexus, основанное на физическом присутствии, должно быть скорректировано с учетом понятия цифрового присутствия в стране". Это означает, что даже если Google и ByteDance не имеют физического присутствия в Уругвае, тот факт, что люди в Уругвае пользуются их онлайн-услугами, должен тем не менее сделать их объектом налогообложения в этой стране. Подобно тому, как Shell и BP платят налоги странам, в которых они добывают нефть, технологические гиганты должны платить налоги странам, в которых они добывают данные.

При этом остается открытым вопрос о том, что именно должно облагать налогом уругвайское правительство. Например, предположим, что граждане Уругвая поделились миллионом видео с кошками через TikTok. Компания ByteDance не взимала с них плату и не платила им за это ничего. Но позже ByteDance использовала эти видео для обучения искусственного интеллекта, распознающего изображения, который она продала правительству ЮАР за десять миллионов долларов США. Откуда уругвайским властям знать, что эти деньги были частично получены благодаря уругвайским кошачьим видео, и как они могли вычислить свою долю? Должен ли Уругвай ввести налог на кошачьи видео? (Это может показаться шуткой, но, как мы увидим в главе 11, изображения кошек сыграли решающую роль в совершении одного из самых важных прорывов в области искусственного интеллекта).

Все может стать еще сложнее. Предположим, уругвайские политики продвигают новую схему налогообложения цифровых транзакций. В ответ на это один из технологических гигантов предлагает предоставить определенному политику ценную информацию об уругвайских избирателях и подстроить свои социальные сети и поисковые алгоритмы таким образом, чтобы отдать предпочтение этому политику, что поможет ему победить на следующих выборах. В обмен на это, возможно, будущий премьер-министр откажется от схемы цифрового налога. Он также принимает постановления, защищающие технологические гиганты от судебных исков, касающихся конфиденциальности пользователей, тем самым облегчая им сбор информации в Уругвае. Было ли это подкупом? Обратите внимание, что ни один доллар или песо не перешел из рук в руки.

Такие сделки "информация за информацию" уже стали повсеместными. Каждый день миллиарды из нас совершают многочисленные транзакции с технологическими гигантами, но по нашим банковским счетам об этом невозможно догадаться, потому что деньги почти не движутся. Мы получаем от технологических гигантов информацию, а платим им информацией. По мере того как все больше транзакций совершается по модели "информация за информацию", информационная экономика растет за счет денежной экономики, пока само понятие денег не станет сомнительным.

Предполагается, что деньги - это универсальная мера стоимости, а не фишка, используемая только в определенных условиях. Но поскольку все больше вещей оценивается в терминах информации, а в денежном выражении они "бесплатны", в какой-то момент оценка богатства отдельных людей и корпораций по количеству долларов или песо становится ошибочной. Человек или корпорация с небольшим количеством денег в банке, но огромным банком информации может быть самым богатым или самым влиятельным субъектом в стране. Теоретически можно было бы оценить ценность их информации в денежном выражении, но на самом деле они никогда не конвертируют информацию в доллары или песо. Зачем им доллары, если они могут получить желаемое с помощью информации?

Это имеет далеко идущие последствия для налогообложения. Налоги направлены на перераспределение богатства. Они взимаются с самых богатых людей и корпораций, чтобы обеспечить всех. Однако налоговая система, которая умеет облагать только деньги, скоро устареет, поскольку многие операции больше не связаны с деньгами. В экономике, основанной на данных, где стоимость хранится в виде данных, а не в долларах, налогообложение только деньгами искажает экономическую и политическую картину. Некоторые из самых богатых компаний в стране могут платить нулевые налоги, потому что их богатство состоит из петабитов данных, а не миллиардов долларов.

Государства имеют тысячелетний опыт налогообложения денег. Они не знают, как облагать налогом информацию - по крайней мере, пока не знают. Если мы действительно переходим от экономики, в которой доминируют денежные операции, к экономике, в которой доминируют информационные операции, как должны реагировать государства? Китайская система социального кредитования - это один из способов, с помощью которого государство может адаптироваться к новым условиям. Как мы объясним в главе 7, система социальных кредитов по своей сути является новым видом денег - валютой, основанной на информации. Должны ли все государства копировать китайский пример и выпускать свои собственные социальные кредиты? Существуют ли альтернативные стратегии? Что говорит по этому поводу ваша любимая политическая партия?

СПРАВА И СЛЕВА

Налогообложение - лишь одна из многих проблем, порожденных компьютерной революцией. Компьютерная сеть разрушает почти все структуры власти. Демократии опасаются возникновения новых цифровых диктатур. Диктатуры опасаются появления агентов, которых они не знают, как контролировать. Все должны быть обеспокоены ликвидацией частной жизни и распространением колониализма данных. Мы объясним значение каждой из этих угроз в следующих главах, но здесь важно то, что разговоры об этих опасностях только начинаются, а технологии развиваются гораздо быстрее, чем политика.

Например, в чем разница между политикой республиканцев и демократов в области ИИ? Что такое правая позиция по ИИ, а что - левая? Консерваторы выступают против ИИ из-за угрозы, которую он представляет для традиционной культуры, ориентированной на человека, или они поддерживают его, потому что он будет способствовать экономическому росту и одновременно снизит потребность в рабочих-иммигрантах? Прогрессисты выступают против ИИ из-за риска дезинформации и растущей предвзятости или же принимают его как средство создания изобилия, способного финансировать всеобъемлющее государство всеобщего благосостояния? Трудно сказать, потому что до недавнего времени республиканцы и демократы, а также большинство других политических партий по всему миру не задумывались и не говорили много об этих вопросах.

Некоторые люди - инженеры и руководители высокотехнологичных корпораций - намного опережают политиков и избирателей и лучше, чем большинство из нас, осведомлены о развитии искусственного интеллекта, криптовалют, социальных кредитов и тому подобного. К сожалению, большинство из них не используют свои знания, чтобы помочь регулировать взрывной потенциал новых технологий. Вместо этого они используют их, чтобы заработать миллиарды долларов или накопить петабиты информации.

Есть и исключения, например Одри Танг. Она была ведущим хакером и инженером-программистом, который в 2014 году присоединился к студенческому движению Sunflower, протестовавшему против политики правительства на Тайване. Тайваньский кабинет министров был настолько впечатлен ее навыками, что Танг в итоге пригласили войти в состав правительства в качестве министра по цифровым технологиям. На этом посту она помогла сделать работу правительства более прозрачной для граждан. Ей также приписывают использование цифровых инструментов, которые помогли Тайваню успешно сдержать вспышку вируса COVID-19.

Однако политическая активность и карьерный путь Танг не являются нормой. На каждого выпускника факультета компьютерных наук, который хочет стать следующей Одри Танг, наверняка приходится гораздо больше тех, кто хочет стать следующим Джобсом, Цукербергом или Маском и построить многомиллиардную корпорацию, а не стать выборным государственным служащим. Это приводит к опасной информационной асимметрии. Люди, возглавляющие информационную революцию, знают о базовой технологии гораздо больше, чем те, кто должен ее регулировать. В таких условиях, какой смысл в скандировании о том, что клиент всегда прав и что избиратели знают лучше?

В следующих главах мы попытаемся немного уравнять шансы и призвать нас взять на себя ответственность за новые реалии, созданные компьютерной революцией. В этих главах много говорится о технологиях, но точка зрения - сугубо человеческая. Главный вопрос - что будет означать для людей жизнь в новой компьютерной сети, возможно, в качестве все более бесправного меньшинства? Как новая сеть изменит нашу политику, наше общество, нашу экономику и нашу повседневную жизнь? Каково это - постоянно находиться под наблюдением, руководством, вдохновением или санкциями миллиардов нечеловеческих сущностей? Как мы должны будем измениться, чтобы адаптироваться, выжить и, надеюсь, даже процветать в этом поразительном новом мире?

НИКАКОГО ДЕТЕРМИНИЗМА

Самое главное, что нужно помнить, - это то, что технология сама по себе редко бывает детерминированной. Вера в технологический детерминизм опасна тем, что снимает с людей всю ответственность. Да, поскольку человеческие общества представляют собой информационные сети, изобретение новых информационных технологий неизбежно приведет к изменению общества. Когда люди изобретут печатный станок или алгоритмы машинного обучения, это неизбежно приведет к глубокой социальной и политической революции. Однако люди по-прежнему в значительной степени контролируют темпы, форму и направление этой революции, а значит, и несут за нее большую ответственность.

В любой момент наши научные знания и технические навыки могут быть использованы для разработки любого количества различных технологий, но в нашем распоряжении лишь ограниченные ресурсы. Мы должны ответственно выбирать, куда вкладывать эти ресурсы. Куда их направить: на разработку нового лекарства от малярии, ветряной турбины или новой захватывающей видеоигры? В нашем выборе нет ничего неизбежного; он отражает политические, экономические и культурные приоритеты.

В 1970-х годах большинство компьютерных корпораций, таких как IBM, сосредоточились на разработке больших и дорогостоящих машин, которые они продавали крупным корпорациям и правительственным учреждениям. Технически было возможно разработать небольшие дешевые персональные компьютеры и продавать их частным лицам, но IBM это мало интересовало. Это не вписывалось в ее бизнес-модель. По другую сторону железного занавеса, в СССР, Советский Союз тоже интересовался компьютерами, но он был еще менее склонен к разработке персональных компьютеров, чем IBM. В тоталитарном государстве, где даже частное владение пишущими машинками было под подозрением, идея предоставить частным лицам контроль над мощной информационной технологией была табу. Поэтому компьютеры выдавались в основном руководителям советских заводов, и даже они должны были отправлять все свои данные в Москву для анализа. В результате Москва была завалена бумажной работой. К 1980-м годам эта громоздкая система компьютеров производила 800 миллиардов документов в год, и все они предназначались для столицы.

Однако в то время, когда IBM и советское правительство отказались от разработки персонального компьютера, любители, такие как члены Калифорнийского клуба домашних компьютеров, решили сделать это самостоятельно. Это было осознанное идеологическое решение, принятое под влиянием контркультуры 1960-х годов с ее анархистскими идеями власти народа и либертарианским недоверием к правительствам и крупным корпорациям.

Ведущие члены Homebrew Computer Club, такие как Стив Джобс и Стив Возняк, имели большие мечты, но мало денег и не имели доступа к ресурсам корпоративной Америки или правительственного аппарата. Джобс и Возняк продали свое личное имущество, например Volkswagen Джобса, чтобы профинансировать создание первого компьютера Apple. Именно благодаря таким личным решениям, а не неизбежному указу богини технологий, к 1977 году люди могли купить персональный компьютер Apple II по цене 1298 долларов - сумма немалая, но посильная для среднего класса.

Мы можем легко представить себе альтернативную историю. Предположим, что в 1970-х годах человечество имело доступ к тем же научным знаниям и техническим навыкам, но маккартизм погубил контркультуру 1960-х и установил в Америке тоталитарный режим, зеркально отражающий советскую систему. Были бы у нас сегодня персональные компьютеры? Конечно, персональные компьютеры могли бы появиться в другое время и в другом месте. Но в истории время и место имеют решающее значение, и нет двух одинаковых моментов. Очень важно, что Америка была колонизирована испанцами в 1490-х годах, а не османами в 1520-х, или что атомную бомбу разработали американцы в 1945 году, а не немцы в 1942-м. Точно так же были бы значительные политические, экономические и культурные последствия, если бы персональный компьютер появился не в Сан-Франциско 1970-х годов, а в Осаке 1980-х или в Шанхае первого десятилетия XXI века.

То же самое можно сказать и о технологиях, которые разрабатываются в настоящее время. Инженеры, работающие на авторитарные правительства и безжалостные корпорации, могут разработать новые инструменты для расширения возможностей центральной власти, следя за гражданами и клиентами двадцать четыре часа в сутки. Хакеры, работающие на демократические государства, могут разработать новые инструменты для укрепления механизмов самокоррекции общества, разоблачая коррупцию в правительстве и недобросовестные действия корпораций. Могут быть разработаны обе технологии.

На этом выбор не заканчивается. Даже после разработки определенного инструмента ему можно найти множество применений. Мы можем использовать нож, чтобы убить человека, спасти ему жизнь во время операции или нарезать овощи для ужина. Нож не заставляет нас действовать. Это выбор человека. Точно так же, когда появились дешевые радиоприемники, почти каждая семья в Германии могла позволить себе иметь его дома. Но как он будет использоваться? Дешевые радиоприемники могли означать, что, когда тоталитарный лидер произносил речь, она могла дойти до гостиной каждой немецкой семьи. Или же они могли означать, что каждая немецкая семья могла выбрать для прослушивания разные радиопрограммы, отражающие и культивирующие разнообразие политических и художественных взглядов. Восточная Германия пошла по одному пути, Западная Германия - по другому. Хотя радиоприемники в Восточной Германии технически могли принимать широкий спектр передач, правительство Восточной Германии делало все возможное, чтобы заглушить западные передачи, и наказывало тех, кто тайно на них настраивался.55 Технология была одна и та же, но политика использовала ее совершенно по-разному.

То же самое можно сказать и о новых технологиях XXI века. Чтобы реализовать свои возможности, мы должны сначала понять, что представляют собой новые технологии и что они могут сделать. Это неотложная обязанность каждого гражданина. Естественно, не каждому гражданину нужна докторская степень по информатике, но чтобы сохранить контроль над нашим будущим, нам необходимо понимать политический потенциал компьютеров. Итак, в следующих нескольких главах мы предлагаем обзор компьютерной политики для граждан XXI века. Сначала мы узнаем, какие политические угрозы и обещания таит в себе новая компьютерная сеть, а затем изучим различные способы, с помощью которых демократии, диктатуры и международная система в целом могут приспособиться к новой компьютерной политике.

Политика - это тонкий баланс между истиной и порядком. По мере того как компьютеры становятся важными участниками нашей информационной сети, на них все чаще возлагается задача поиска истины и поддержания порядка. Например, попытка найти правду об изменении климата все больше зависит от расчетов, которые могут сделать только компьютеры, а попытка достичь социального консенсуса по поводу изменения климата все больше зависит от рекомендательных алгоритмов, которые курируют наши новостные ленты, и от творческих алгоритмов, которые пишут новостные истории, фальшивые новости и вымысел. В настоящее время мы находимся в политическом тупике по вопросу об изменении климата, отчасти потому, что компьютеры зашли в тупик. Расчеты одного набора компьютеров предупреждают нас о надвигающейся экологической катастрофе, но другой набор компьютеров предлагает нам посмотреть видео, которое ставит под сомнение эти предупреждения. Каким компьютерам верить? Человеческая политика - это теперь и компьютерная политика.

Чтобы понять новую компьютерную политику, нам нужно глубже понять, что нового в компьютерах. В этой главе мы отметили, что в отличие от печатных станков и других прежних инструментов, компьютеры могут самостоятельно принимать решения и создавать идеи. Однако это лишь верхушка айсберга. По-настоящему новым в компьютерах является то, как они принимают решения и создают идеи. Если бы компьютеры принимали решения и создавали идеи так же, как люди, то компьютеры были бы своего рода "новыми людьми". Такой сценарий часто рассматривается в научной фантастике: компьютер обретает сознание, у него появляются чувства, он влюбляется в человека и оказывается точно таким же, как мы. Но реальность совершенно иная и потенциально более тревожная.

ГЛАВА 7.

Relentless

: Сеть всегда включена

Люди привыкли к тому, что за ними следят. На протяжении миллионов лет за нами наблюдали и следили как другие животные, так и люди. Члены семьи, друзья и соседи всегда хотели знать, что мы делаем и чувствуем, и нам всегда было очень важно, как они нас видят и что о нас знают. Социальные иерархии, политические маневры и романтические отношения предполагали бесконечные усилия по расшифровке чувств и мыслей других людей, а иногда и сокрытию собственных чувств и мыслей.

Когда появились и развились централизованные бюрократические сети, одной из важнейших функций бюрократов стало наблюдение за целыми группами населения. Чиновники империи Цинь хотели знать, платим ли мы налоги или замышляем сопротивление. Католическая церковь хотела знать, платим ли мы десятину и занимаемся ли мастурбацией. Компания Coca-Cola хотела знать, как убедить нас покупать ее продукцию. Правители, священники и торговцы хотели знать наши секреты, чтобы контролировать нас и манипулировать нами.

Конечно, наблюдение было необходимо и для предоставления полезных услуг. Империи, церкви и корпорации нуждались в информации, чтобы обеспечивать людей безопасностью, поддержкой и товарами первой необходимости. В современных государствах санитарные службы хотят знать, откуда мы берем воду и куда испражняемся. Чиновники здравоохранения хотят знать, от каких болезней мы страдаем и сколько мы едим. Чиновники социального обеспечения хотят знать, не являемся ли мы безработными или, возможно, подвергаемся насилию со стороны наших супругов. Без этой информации они не смогут нам помочь.

Чтобы узнать нас, и благожелательным, и деспотичным бюрократиям нужно было сделать две вещи. Во-первых, собрать о нас множество данных. Во-вторых, проанализировать все эти данные и выявить закономерности. Соответственно, империи, церкви, корпорации и системы здравоохранения - от древнего Китая до современных Соединенных Штатов - собирали и анализировали данные о поведении миллионов людей. Однако во все времена и во всех местах наблюдение было неполным. В демократических странах, таких как современные Соединенные Штаты, слежка была ограничена законом для защиты частной жизни и индивидуальных прав. В тоталитарных режимах, таких как древняя империя Цинь и современный СССР, слежка не имела таких юридических барьеров, но сталкивалась с техническими ограничениями. Даже самые жестокие автократы не обладали технологиями, необходимыми для постоянной слежки за всеми. Поэтому даже в гитлеровской Германии, сталинском СССР или подражательном сталинском режиме, установленном в Румынии после 1945 года, по умолчанию сохранялся определенный уровень приватности.

Георге Иосифеску, один из первых ученых-компьютерщиков в Румынии, вспоминал, что, когда в 1970-х годах компьютеры только появились, режим страны с огромным беспокойством относился к этой незнакомой информационной технологии. Однажды в 1976 году, когда Иосифеску вошел в свой кабинет в правительственном Центре вычислений, он увидел, что там сидит незнакомый мужчина в помятом костюме. Иосифеску поприветствовал незнакомца, но тот не ответил. Иосифеску представился, но человек молчал. Тогда Иосифеску сел за свой стол, включил большой компьютер и начал работать. Незнакомец придвинул свой стул поближе, наблюдая за каждым движением Иосифеску.

В течение дня Иосифеску неоднократно пытался завязать разговор, спрашивая незнакомца, как его зовут, почему он здесь и что хочет узнать. Но мужчина молчал, а глаза его были широко открыты. Когда вечером Иосифеску отправился домой, мужчина встал и тоже ушел, не попрощавшись. Иосифеску знал, что лучше не задавать лишних вопросов: этот человек явно был агентом страшной румынской тайной полиции, Секуритате.

На следующее утро, когда Иосифеску пришел на работу, агент уже был там. Он снова весь день просидел за столом Иосифеску, молча делая записи в маленьком блокноте. Так продолжалось в течение следующих тринадцати лет, вплоть до краха коммунистического режима в 1989 году. Просидев все эти годы за одним и тем же столом, Иосифеску так и не узнал даже имени агента.

Иосифеску знал, что другие агенты и осведомители "Секуритате" наверняка следят за ним и за пределами офиса. Его опыт работы с мощной и потенциально подрывной технологией делал его главной мишенью. Но на самом деле параноидальный режим Николае Чаушеску считал мишенями все двадцать миллионов румынских граждан. Если бы это было возможно, Чаушеску установил бы за каждым из них постоянное наблюдение. Он действительно сделал несколько шагов в этом направлении. До его прихода к власти, в 1965 году, у "Секуритате" был всего один центр электронного наблюдения в Бухаресте и еще 11 в провинциальных городах. К 1978 году за одним только Бухарестом следили 10 центров электронного наблюдения, 248 центров контролировали провинции, а еще 1000 портативных устройств наблюдения были переброшены в отдаленные деревни и курортные городки для подслушивания.

Когда в конце 1970-х годов агенты Секуритате обнаружили, что некоторые румыны пишут анонимные письма на радио "Свободная Европа" с критикой режима, Чаушеску организовал общенациональную акцию по сбору образцов почерка у всех двадцати миллионов румынских граждан. Школы и университеты были вынуждены сдавать сочинения от каждого студента. Работодатели должны были требовать от каждого сотрудника написанное от руки резюме, а затем передавать его в "Секуритате". "А как насчет пенсионеров и безработных?" - спросил один из помощников Чаушеску. "Придумайте какую-нибудь новую форму!" - приказал диктатор. "Что-то, что они должны будут заполнить". Некоторые из диверсионных писем, однако, были напечатаны на машинке, поэтому Чаушеску зарегистрировал все государственные печатные машинки в стране, а образцы сдал в архив Секуритате. Люди, владевшие частной пишущей машинкой, должны были сообщить об этом в Секуритате, сдать "отпечатки пальцев" машинки и попросить официального разрешения на ее использование.

Но режим Чаушеску, как и сталинский режим, на который он ориентировался, не мог следить за каждым гражданином двадцать четыре часа в сутки. Учитывая, что даже агентам "Секуритате" нужно было спать, для того чтобы держать под постоянным наблюдением двадцать миллионов румынских граждан, их должно было быть не менее сорока миллионов. У Чаушеску же было всего около сорока тысяч агентов "Секуритате". И даже если бы Чаушеску смог каким-то образом создать сорок миллионов агентов, это только создало бы новые проблемы, потому что режиму нужно было следить и за своими собственными агентами. Как и Сталин, Чаушеску больше других доверял собственным агентам и чиновникам, особенно после того, как в 1978 году его шеф-шпион Ион Михай Пачепа дезертировал в США. Члены Политбюро, высокопоставленные чиновники, генералы армии и руководители "Секуритате" жили под еще более пристальным наблюдением, чем Иосифеску. По мере того как ряды тайной полиции пополнялись, требовалось все больше агентов, чтобы шпионить за всеми этими агентами.

Одним из решений было заставить людей шпионить друг за другом. Помимо 40 000 профессиональных агентов, Securitate опиралась на 400 000 гражданских информаторов.6 Люди часто сообщали о своих соседях, коллегах, друзьях и даже самых близких членах семьи. Но сколько бы информаторов ни нанимала тайная полиция, сбора всех этих данных было недостаточно для создания режима тотальной слежки. Предположим, "Секуритате" удалось завербовать достаточно агентов и осведомителей, чтобы следить за каждым человеком двадцать четыре часа в сутки. В конце каждого дня каждый агент и информатор должен был бы составлять отчет о том, что он наблюдал. В штаб-квартиру "Секуритате" ежедневно поступало 20 миллионов отчетов - 7,3 миллиарда отчетов в год. Если их не анализировать, это был просто океан бумаги. Но где Секуритате найти достаточно аналитиков, чтобы тщательно изучать и сравнивать 7,3 миллиарда отчетов в год?

Эти трудности со сбором и анализом информации означали, что в двадцатом веке даже самое тоталитарное государство не могло эффективно следить за всем своим населением. Большая часть того, что делали и говорили румынские и советские граждане, ускользала от внимания Секуритате и КГБ. Даже те детали, которые попадали в какой-нибудь архив, часто оставались непрочитанными. Настоящая сила Секуритате и КГБ заключалась не в способности постоянно следить за всеми, а в их способности внушать страх, что за ними могут следить, что заставляло всех быть крайне осторожными в своих словах и поступках.

БЕССОННЫЕ АГЕНТЫ

В мире, где слежка ведется органическими глазами, ушами и мозгом людей, подобных агенту Securitate в лаборатории Иосифеску, даже у такой главной мишени, как Иосифеску, все еще оставалось немного личного пространства, прежде всего в его собственном сознании. Но работа ученых-компьютерщиков, таких как сам Иосифеску, меняла ситуацию. Уже в 1976 году грубый компьютер, стоявший на столе Иосифеску, мог обрабатывать цифры гораздо лучше, чем агент Securitate в соседнем кресле. К 2024 году мы приблизимся к тому моменту, когда вездесущая компьютерная сеть сможет следить за населением целых стран двадцать четыре часа в сутки. Этой сети не нужно нанимать и обучать миллионы людей, чтобы следить за нами; вместо этого она использует цифровых агентов. И сети даже не нужно платить за этих цифровых агентов. Граждане платят за агентов по собственной инициативе, и мы носим их с собой, куда бы мы ни пошли.

Агент, следящий за Иосифеску, не сопровождал Иосифеску в туалет и не сидел на кровати, когда Иосифеску занимался сексом. Сегодня именно это иногда делает наш смартфон. Более того, многие действия, которые Иосифеску совершал без помощи компьютера - чтение новостей, общение с друзьями, покупка продуктов - теперь совершаются в Интернете, поэтому сети еще проще узнать, что мы делаем и говорим. Мы сами являемся информаторами, которые предоставляют сети наши исходные данные. Даже те, у кого нет смартфонов, почти всегда находятся в орбите действия какой-нибудь камеры, микрофона или устройства слежения, и они тоже постоянно взаимодействуют с компьютерной сетью, чтобы найти работу, купить билет на поезд, получить рецепт на лечение или просто пройтись по улице. Компьютерная сеть стала связующим звеном большинства видов деятельности человека. Почти в каждой финансовой, социальной или политической сделке мы находим компьютер. Следовательно, как Адам и Ева в раю, мы не можем спрятаться от заоблачного ока.

Как компьютерной сети не нужны миллионы человеческих агентов, чтобы следить за нами, так и ей не нужны миллионы человеческих аналитиков, чтобы разобраться в наших данных. Океан бумаг в штаб-квартире Securitate никогда не анализировал сам себя. Но благодаря волшебству машинного обучения и искусственного интеллекта компьютеры могут сами анализировать большую часть информации, которую они накапливают. В среднем человек может прочитать около 250 слов в минуту. Аналитик Securitate, работающий по двенадцать часов без выходных, за сорок лет своей карьеры может прочитать около 2,6 миллиарда слов. В 2024 году такие языковые алгоритмы, как ChatGPT и Meta's Llama, смогут обрабатывать миллионы слов в минуту и "читать" 2,6 миллиарда слов за пару часов. Способность таких алгоритмов обрабатывать изображения, аудиозаписи и видеоматериалы столь же сверхчеловечна.

Еще важнее то, что алгоритмы значительно превосходят человека в способности выявлять закономерности в этом океане данных. Выявление закономерностей требует как способности создавать идеи, так и способности принимать решения. Например, как люди-аналитики определяют человека как "подозреваемого террориста", который заслуживает более пристального внимания? Сначала они создают набор общих критериев, таких как "чтение экстремистской литературы", "дружба с известными террористами" и "наличие технических знаний, необходимых для производства опасного оружия". Затем они должны решить, соответствует ли конкретный человек достаточным критериям, чтобы его можно было назвать подозреваемым террористом. Предположим, кто-то просмотрел сотню экстремистских видео на YouTube в прошлом месяце, дружит с осужденным террористом и в настоящее время получает докторскую степень по эпидемиологии в лаборатории, где хранятся образцы вируса Эбола. Должен ли этот человек быть внесен в список "подозреваемых в терроризме"? А как насчет того, кто посмотрел пятьдесят экстремистских видеороликов в прошлом месяце и является студентом биологического факультета?

В Румынии 1970-х годов такие решения могли принимать только люди. К 2010-м годам люди все чаще оставляли решение за алгоритмами. Примерно в 2014-15 годах Агентство национальной безопасности США развернуло инструмент искусственного интеллекта под названием Skynet, который помещал людей в список "подозреваемых террористов" на основе электронных моделей их коммуникаций, записей, путешествий и публикаций в социальных сетях. Согласно одному из отчетов, этот инструмент ИИ "ведет массовое наблюдение за пакистанской сетью мобильных телефонов, а затем использует алгоритм машинного обучения на метаданных сотовой сети 55 миллионов человек, чтобы попытаться оценить вероятность того, что каждый из них является террористом". Бывший директор ЦРУ и АНБ заявил, что "мы убиваем людей на основе метаданных". Надежность "Скайнета" подверглась серьезной критике, но к 2020-м годам подобные технологии стали гораздо более совершенными и были развернуты гораздо большим числом правительств. Просматривая огромные массивы данных, алгоритмы могут обнаружить совершенно новые критерии для определения человека как "подозреваемого", которые раньше ускользали от внимания человеческих аналитиков. В будущем алгоритмы могут даже создать совершенно новую модель того, как люди становятся радикалами, просто выявив закономерности в жизни известных террористов. Конечно, компьютеры по-прежнему ошибаются, о чем мы подробно поговорим в главе 8. Они вполне могут классифицировать невинных людей как террористов или создать ложную модель радикализации. На еще более фундаментальном уровне вызывает сомнение объективность определения системами таких вещей, как терроризм. Существует долгая история режимов, использующих ярлык "террорист" для обозначения любой и всякой оппозиции. В Советском Союзе любой, кто выступал против режима, считался террористом. Следовательно, когда ИИ навешивает на кого-то ярлык "террорист", это может отражать идеологические предубеждения, а не объективные факты. Способность принимать решения и придумывать идеи неотделима от способности совершать ошибки. Даже если ошибок не будет, сверхчеловеческая способность алгоритмов распознавать закономерности в океане данных может усилить мощь многочисленных злонамеренных субъектов - от репрессивных диктатур, стремящихся выявить инакомыслящих, до мошенников, пытающихся определить уязвимые цели.

Разумеется, распознавание образов имеет и огромный положительный потенциал. Алгоритмы могут помочь выявить коррумпированных чиновников, преступников и корпорации, уклоняющиеся от уплаты налогов. Алгоритмы также могут помочь сотрудникам санитарных служб из плоти и крови выявлять угрозы для нашей питьевой воды, врачам - распознавать болезни и развивающиеся эпидемии, а полицейским и социальным работникам - выявлять супругов и детей, подвергшихся насилию. На следующих страницах я уделяю относительно мало внимания положительному потенциалу алгоритмических бюрократий, поскольку предприниматели, возглавляющие революцию ИИ, и так уже завалили общественность достаточно радужными прогнозами о них. Моя цель - уравновесить эти утопические видения, сосредоточившись на более зловещем потенциале алгоритмического распознавания образов. Надеюсь, мы сможем использовать положительный потенциал алгоритмов, одновременно регулируя их разрушительные возможности.

Но для этого мы должны сначала осознать фундаментальное различие между новыми цифровыми бюрократами и их предшественниками из плоти и крови. Неорганические бюрократы могут быть "включены" двадцать четыре часа в сутки, они могут следить за нами и взаимодействовать с нами в любом месте и в любое время. Это означает, что бюрократия и слежка больше не являются чем-то, с чем мы сталкиваемся только в определенное время и в определенном месте. Система здравоохранения, полиция и манипулирующие корпорации становятся вездесущими и постоянными элементами жизни. Вместо организаций, с которыми мы взаимодействуем только в определенных ситуациях - например, когда посещаем поликлинику, полицейский участок или торговый центр, - они все чаще сопровождают нас каждую минуту, наблюдая и анализируя каждый наш поступок. Как рыба живет в воде, так и человек живет в цифровой бюрократии, постоянно вдыхая и выдыхая данные. Каждое наше действие оставляет след в виде данных, которые собираются и анализируются для выявления закономерностей.

НАБЛЮДЕНИЕ ПОД КОЖЕЙ

К лучшему или худшему, но цифровая бюрократия может не только следить за тем, что мы делаем в мире, но даже наблюдать за тем, что происходит внутри нашего тела. Возьмем, к примеру, отслеживание движений глаз. К началу 2020-х годов камеры видеонаблюдения, а также камеры в ноутбуках и смартфонах начнут регулярно собирать и анализировать данные о движениях наших глаз, включая крошечные изменения зрачков и радужной оболочки, длящиеся всего несколько миллисекунд. Человеческие агенты едва ли способны заметить такие данные, но компьютеры могут использовать их для расчета направления нашего взгляда, основываясь на форме наших зрачков и радужных оболочек, а также на отражении ими света. Аналогичные методы позволяют определить, фиксируются ли наши глаза на стабильной цели, преследуют ли они движущуюся цель или блуждают по сторонам более бессистемно.

По определенным паттернам движения глаз компьютеры смогут отличать, например, моменты осознанности от моментов рассеянности, а людей, ориентированных на детали, от тех, кто уделяет больше внимания контексту. По нашим глазам компьютеры могли бы определять многие дополнительные черты личности, например, насколько мы открыты для нового опыта, и оценивать уровень нашей компетентности в различных областях - от чтения до хирургии. Эксперты, обладающие хорошо отточенными стратегиями, демонстрируют систематические модели взгляда, в то время как глаза новичков бесцельно блуждают. Паттерны взгляда также указывают на уровень нашего интереса к объектам и ситуациям, с которыми мы сталкиваемся, и различают позитивный, нейтральный и негативный интерес. Из этого можно сделать вывод о наших предпочтениях в самых разных областях - от политики до секса. Многое также можно узнать о состоянии здоровья и употреблении различных веществ. Употребление алкоголя и наркотиков - даже в неинтоксикационных дозах - оказывает заметное влияние на свойства глаз и взгляда, например, изменяет размер зрачка и ухудшает способность фиксироваться на движущихся объектах. Цифровая бюрократия может использовать всю эту информацию в благотворных целях - например, для раннего выявления людей, страдающих наркоманией и психическими заболеваниями. Но, очевидно, она также может стать основой для самых навязчивых тоталитарных режимов в истории.

Теоретически диктаторы будущего могут заставить свою компьютерную сеть не просто следить за нашими глазами, а гораздо глубже. Если сеть захочет узнать наши политические взгляды, черты характера и сексуальную ориентацию, она сможет следить за процессами в нашем сердце и мозге. Необходимые биометрические технологии уже разрабатываются некоторыми правительствами и компаниями, например Neuralink Элона Маска. Компания Маска провела эксперименты на живых крысах, овцах, свиньях и обезьянах, вживляя в их мозг электрические зонды. Каждый зонд содержит до 3 072 электродов, способных распознавать электрические сигналы и потенциально передавать их в мозг. В 2023 году компания Neuralink получила разрешение американских властей начать эксперименты на людях, а в январе 2024 года стало известно, что человеку был имплантирован первый мозговой чип.

Маск открыто говорит о своих далеко идущих планах в отношении этой технологии, утверждая, что она может не только облегчить различные медицинские состояния, такие как квадриплегия (паралич четырех конечностей), но и улучшить способности человека и тем самым помочь человечеству конкурировать с искусственным интеллектом. Однако следует понимать, что в настоящее время зонды Neuralink и все другие подобные биометрические устройства страдают от целого ряда технических проблем, которые значительно ограничивают их возможности. Трудно точно отслеживать деятельность организма - мозга, сердца или чего-либо еще - извне, а вживление электродов и других контролирующих устройств в тело - навязчивое, опасное, дорогостоящее и неэффективное занятие. Например, наша иммунная система атакует имплантированные электроды.

Что еще более важно, никто пока не обладает биологическими знаниями, необходимыми для того, чтобы на основе данных, полученных из-под кожи, например, о мозговой активности, определить точные политические взгляды. Ученые еще далеки от понимания тайн человеческого мозга или даже мозга мыши. Простое картирование каждого нейрона, дендрита и синапса в мозге мыши - не говоря уже о понимании динамики их взаимодействия - в настоящее время находится за пределами вычислительных возможностей человечества.18 Соответственно, хотя сбор данных изнутри мозга людей становится все более осуществимым, использовать эти данные для расшифровки наших секретов далеко не просто.

Одна из популярных теорий заговора начала 2020-х годов утверждает, что зловещие группы, возглавляемые миллиардерами вроде Элона Маска, уже вживляют компьютерные чипы в наш мозг, чтобы следить за нами и контролировать нас. Однако эта теория направляет наши тревоги не на ту цель. Мы, конечно, должны опасаться возникновения новых тоталитарных систем, но сейчас слишком рано беспокоиться о компьютерных чипах, вживленных в наш мозг. Вместо этого люди должны беспокоиться о смартфонах, на которых они читают эти теории заговора. Предположим, кто-то хочет узнать ваши политические взгляды. Ваш смартфон отслеживает, какие новостные каналы вы смотрите, и отмечает, что в среднем вы смотрите сорок минут Fox News и сорок секунд CNN в день. Тем временем имплантированный компьютерный чип Neuralink отслеживает частоту сердечных сокращений и активность мозга в течение дня и отмечает, что ваша максимальная частота сердечных сокращений составляла 120 ударов в минуту и что ваша миндалина примерно на 5 % активнее, чем в среднем у человека. Какие данные будут более полезны для определения вашей политической принадлежности - данные, полученные со смартфона или с имплантированного чипа? В настоящее время смартфон все еще является более ценным инструментом слежки, чем биометрические датчики.

Однако по мере расширения биологических знаний - не в последнюю очередь благодаря компьютерам, анализирующим петабиты биометрических данных, - подкожное наблюдение может со временем стать реальностью, особенно если оно будет связано с другими инструментами мониторинга. Если биометрические датчики будут регистрировать сердечный ритм и мозговую активность миллионов людей, просматривающих на своих смартфонах тот или иной выпуск новостей, то это сможет научить компьютерную сеть гораздо большему, чем просто наша общая политическая принадлежность. Сеть может узнать, что именно вызывает у каждого человека гнев, страх или радость. Затем сеть сможет как предсказывать наши чувства, так и манипулировать ими, продавая нам все, что захочет, - товары, политиков или войны.

КОНЕЦ ПРИВАТНОСТИ

В мире, где люди следили за людьми, приватность была по умолчанию. Но в мире, где компьютеры следят за людьми, впервые в истории может стать возможным полное уничтожение частной жизни. Самые экстремальные и известные случаи навязчивого наблюдения связаны либо с чрезвычайными ситуациями, такими как пандемия COVID-19, либо с местами, которые считаются исключительными по отношению к обычному порядку вещей, такими как оккупированные палестинские территории, Синьцзян-Уйгурский автономный район в Китае, регион Кашмир в Индии, оккупированный Россией Крым, американо-мексиканская граница и афгано-пакистанские пограничные территории. В эти исключительные времена и в этих исключительных местах новые технологии наблюдения в сочетании с драконовскими законами и мощным полицейским или военным присутствием неустанно следили и контролировали передвижения, действия и даже чувства людей. Однако важно понимать, что инструменты наблюдения на основе ИИ развертываются в огромных масштабах, и не только в таких "исключительных государствах". Теперь они стали неотъемлемой частью обычной жизни повсюду. Эра постприватности наступает как в авторитарных странах, от Беларуси до Зимбабве, так и в демократических мегаполисах, таких как Лондон и Нью-Йорк.

Во благо или во вред, но правительства, намеренные бороться с преступностью, подавлять инакомыслие или противостоять внутренним угрозам (реальным или мнимым), покрывают целые территории вездесущей сетью онлайн- и офлайн-наблюдения, оснащенной шпионскими программами, камерами видеонаблюдения, программами распознавания лиц и голоса, а также обширными базами данных с возможностью поиска. Если правительство пожелает, его сеть наблюдения может охватить все - от рынков до мест отправления культа, от школ до частных домов. (И хотя не каждое правительство хочет или может устанавливать камеры в домах людей, алгоритмы регулярно следят за нами даже в наших гостиных, спальнях и ванных комнатах через наши собственные компьютеры и смартфоны).

Правительственные сети наблюдения также регулярно собирают биометрические данные у всего населения, с его ведома или без него. Например, при подаче заявления на получение паспорта более 140 стран обязывают своих граждан предоставить отпечатки пальцев, сканы лица или радужной оболочки глаза. Когда мы используем паспорт для въезда в другую страну, эта страна часто требует, чтобы мы также предоставили ей отпечатки пальцев, сканы лица или радужной оболочки глаза. Когда граждане или туристы идут по улицам Дели, Пекина, Сеула или Лондона, их движения, скорее всего, будут записаны. Ведь в этих городах и многих других по всему миру в среднем на один квадратный километр приходится более ста камер наблюдения. Всего же в 2023 году в мире работало более миллиарда камер видеонаблюдения, то есть примерно одна камера на восемь человек.

Любая физическая активность человека оставляет след в виде данных. Каждая совершенная покупка заносится в какую-нибудь базу данных. Онлайн-активность, например обмен сообщениями с друзьями, фотографиями, оплата счетов, чтение новостей, назначение встреч или заказ такси, также может быть зафиксирована. Полученный океан данных может быть проанализирован средствами искусственного интеллекта для выявления противоправных действий, подозрительных моделей, пропавших людей, носителей болезней или политических диссидентов.

Как и любая мощная технология, эти инструменты могут быть использованы как в хороших, так и в плохих целях. После штурма Капитолия США 6 января 2021 года ФБР и другие американские правоохранительные органы использовали самые современные средства наблюдения, чтобы выследить и арестовать участников беспорядков. Как сообщается в расследовании Washington Post, эти агентства опирались не только на записи с камер видеонаблюдения в Капитолии, но и на сообщения в социальных сетях, данные считывания номерных знаков по всей стране, записи расположения сотовых башен и уже существующие базы данных.

Один из жителей Огайо написал в Facebook, что в тот день он был в Вашингтоне, чтобы "стать свидетелем истории". Facebook была направлена повестка в суд, который предоставил ФБР записи мужчины в Facebook, а также информацию о его кредитной карте и номер телефона. Это помогло ФБР сопоставить фотографию мужчины с водительских прав с записями камер видеонаблюдения в Капитолии. Еще один ордер, выданный Google, позволил получить точную геолокацию смартфона мужчины 6 января, что дало агентам возможность проследить все его перемещения от входа в зал заседаний Сената до офиса Нэнси Пелоси, спикера Палаты представителей.

Опираясь на записи номерных знаков, ФБР точно определило передвижения нью-йоркца с момента, когда он пересек мост Генри Гудзона в 6:06:08 утром 6 января, направляясь в Капитолий, и до пересечения моста Джорджа Вашингтона в 23:59:22 той же ночью, когда он возвращался домой. На снимке, сделанном камерой на шоссе 95, видно, что на приборной панели мужчины лежит огромная шляпа с надписью "Make America Great Again". Шляпа была сопоставлена с селфи в Facebook, на котором мужчина предстал в ней. Далее он уличил себя в том, что опубликовал в Snapchat несколько видеороликов из Капитолия.

Другой участник беспорядков пытался защитить себя от обнаружения, надев 6 января маску на лицо, избегая прямых трансляций и используя мобильный телефон, зарегистрированный на имя его матери, но это ему мало помогло. Алгоритмам ФБР удалось сопоставить видеозапись, сделанную 6 января 2021 года, с фотографией из заявления на получение паспорта, поданного мужчиной в 2017 году. Они также сопоставили отличительную куртку рыцарей Колумба, в которую он был одет 6 января, с курткой, которая была на нем по другому поводу, запечатленному в ролике на YouTube. Телефон, зарегистрированный на имя его матери, был геолокационно привязан к территории Капитолия, а считыватель номерных знаков зафиксировал его машину возле Капитолия утром 6 января.2

Алгоритмы распознавания лиц и базы данных, основанные на искусственном интеллекте, сегодня являются стандартными инструментами полицейских сил по всему миру. Они используются не только в чрезвычайных ситуациях или в целях обеспечения государственной безопасности, но и для решения повседневных задач. В 2009 году в китайской провинции Сычуань преступная группировка похитила трехлетнего Гуй Хао, когда он играл возле магазина своих родителей. Затем мальчик был продан в семью в провинции Гуандун, расположенную примерно в 1500 километрах. В 2014 году главарь банды торговцев детьми был арестован, но найти Гуй Хао и других жертв оказалось невозможно. "Внешность детей настолько изменилась бы, - объяснил один из полицейских следователей, - что даже родители не смогли бы их узнать".

Однако в 2019 году алгоритму распознавания лиц удалось идентифицировать тринадцатилетнего Гуй Хао, и подросток воссоединился со своей семьей. Чтобы правильно идентифицировать Гуй Хао, ИИ опирался на его старую фотографию, сделанную, когда он был совсем маленьким. ИИ смоделировал, как должен выглядеть тринадцатилетний Гуй Хао, с учетом резкого взросления, а также возможных изменений в цвете волос и прическе, и сравнил полученную симуляцию с реальными кадрами.

В 2023 году были зафиксированы еще более удивительные случаи спасения. Юэчуань Лэй был похищен в 2001 году, когда ему было три года, а Хао Чэнь пропал в 1998 году, также в возрасте трех лет. Родители обоих детей не теряли надежды найти их. Более двадцати лет они колесили по Китаю в их поисках, размещали объявления и предлагали денежное вознаграждение за любую значимую информацию. В 2023 году алгоритмы распознавания лиц помогли найти обоих пропавших мальчиков, теперь уже взрослых мужчин двадцати лет. Подобные технологии сегодня помогают найти пропавших детей не только в Китае, но и в других странах, например в Индии, где ежегодно пропадают десятки тысяч детей.

Тем временем в Дании футбольный клуб Brøndby IF в июле 2019 года начал использовать технологию распознавания лиц на своем домашнем стадионе, чтобы выявлять и запрещать футбольных хулиганов. Когда до 30 000 болельщиков приходят на стадион, чтобы посмотреть матч, их просят снять маски, шапки и очки, чтобы компьютер мог просканировать их лица и сравнить их со списком запрещенных нарушителей порядка. Очень важно, что процедура была проверена и одобрена в соответствии со строгими правилами GDPR ЕС. Датское управление по защите данных пояснило, что использование технологии "позволит более эффективно следить за соблюдением запретительного списка по сравнению с ручными проверками, и это может уменьшить очереди у входа на стадион, снизив риск общественных беспорядков из-за нетерпеливых футбольных фанатов, стоящих в очередях".

Хотя в теории такое использование технологий похвально, оно вызывает очевидные опасения по поводу неприкосновенности частной жизни и чрезмерного вмешательства государства. В неумелых руках те же технологии, которые позволяют обнаруживать участников беспорядков, спасать пропавших детей и запрещать футбольных хулиганов, могут быть использованы для преследования мирных демонстрантов или принуждения к жесткому конформизму. В конечном итоге технология наблюдения с помощью ИИ может привести к созданию режимов тотальной слежки, которые будут круглосуточно контролировать граждан и способствовать новым видам вездесущих и автоматизированных тоталитарных репрессий. В качестве примера можно привести иранские законы о хиджабах.

После того как в 1979 году Иран стал исламской теократией, новый режим обязал женщин носить хиджаб. Однако иранской полиции нравов было трудно обеспечить соблюдение этого правила. Они не могли поставить полицейского на каждом углу, а публичные столкновения с женщинами, которые не носили хиджаб, периодически вызывали сопротивление и недовольство. В 2022 году Иран возложил большую часть работы по обеспечению соблюдения законов о хиджабах на общенациональную систему алгоритмов распознавания лиц, которая неустанно следит как за физическими пространствами, так и за онлайн-средой. Высокопоставленный иранский чиновник объяснил, что система "выявляет неуместные и необычные движения", включая "несоблюдение законов о хиджабах". Глава парламентского комитета по правовым и судебным вопросам Ирана Муса Газанфарабади в другом интервью заявил, что "использование камер с записью лиц может систематически выполнять эту задачу и сократить присутствие полиции, в результате чего больше не будет столкновений между полицией и гражданами".

Вскоре после этого, 16 сентября 2022 года, 22-летняя Махса Амини умерла в застенках иранской полиции нравов после того, как ее арестовали за то, что она не носила хиджаб должным образом. Поднялась волна протестов, известная как движение "Женщина, жизнь, свобода". Сотни тысяч женщин и девушек сняли головные платки, а некоторые публично сожгли свои хиджабы и танцевали вокруг костров. Чтобы подавить протесты, иранские власти вновь обратились к своей системе искусственного интеллекта, которая использует программы распознавания лиц, геолокацию, анализ веб-трафика и уже существующие базы данных. По всему Ирану было арестовано более 19 000 человек и более 500 убито.

8 апреля 2023 года начальник полиции Ирана объявил, что с 15 апреля 2023 года начнется новая интенсивная кампания, в рамках которой будут усиленно использоваться технологии распознавания лиц. В частности, алгоритмы отныне будут выявлять женщин, решивших не носить головной платок во время поездки в автомобиле, и автоматически отправлять им SMS-предупреждение. Если женщину поймают на повторном нарушении, ей будет приказано обездвижить свой автомобиль на заранее оговоренный срок, а если она не выполнит требования, автомобиль будет конфискован.

Два месяца спустя, 14 июня 2023 года, представитель иранской полиции похвастался, что автоматизированная система наблюдения отправила почти миллион SMS-сообщений с предупреждениями женщинам, которых запечатлели обнаженными в их личных автомобилях. По всей видимости, система была способна автоматически определить, что перед ней не мужчина, а обнаженная женщина, идентифицировать ее и узнать номер ее мобильного телефона. Кроме того, система "выдала 133 174 SMS-сообщения с требованием обездвижить автомобили на две недели, конфисковала 2 000 автомобилей и направила более 4 000 "рецидивистов" в судебные органы".

52-летняя женщина по имени Марьям поделилась с Amnesty International своим опытом работы с системой наблюдения. "В первый раз я получила предупреждение за то, что не носила платок за рулем, - я проезжала перекресток, когда камера сделала снимок, и я сразу же получила предупреждающее текстовое сообщение. Во второй раз я делала покупки, заносила сумки в машину, платок упал, и я получила сообщение о том, что из-за нарушения закона об обязательном ношении хиджаба моя машина подвергается "систематической конфискации" сроком на пятнадцать дней. Я не знала, что это значит. Я поспрашивала и через родственников узнала, что это означает, что я должна обездвижить свой автомобиль на пятнадцать дней". Показания Марьям свидетельствуют о том, что ИИ отправляет свои угрожающие сообщения в течение нескольких секунд, и у человека нет времени на то, чтобы просмотреть и утвердить процедуру.

Наказания выходили далеко за рамки обездвиживания или конфискации автомобилей. В отчете Amnesty от 26 июля 2023 года говорится, что в результате массовой слежки "бесчисленное количество женщин было отстранено или исключено из университетов, им запретили сдавать выпускные экзамены, лишили доступа к банковским услугам и общественному транспорту". Предприятия, которые не следили за соблюдением закона о хиджабе среди своих сотрудников или клиентов, также пострадали. В одном типичном случае сотрудница парка развлечений "Страна счастья" к востоку от Тегерана была сфотографирована без хиджаба, и это изображение распространилось в социальных сетях. В наказание "Страна счастья" была закрыта иранскими властями. В целом, по данным Amnesty, власти "закрыли сотни туристических объектов, отелей, ресторанов, аптек и торговых центров за несоблюдение законов об обязательном ношении хиджаба".

В сентябре 2023 года, в годовщину смерти Махсы Амини, парламент Ирана принял новый, более строгий закон о хиджабе. Согласно новому закону, женщины, не носящие хиджаб, могут быть наказаны крупными штрафами и тюремным заключением сроком до десяти лет. Им грозят дополнительные наказания, включая конфискацию автомобилей и средств связи, запрет на вождение, вычеты из зарплаты и пособий, увольнение с работы и запрет на доступ к банковским услугам. Владельцам бизнеса, не соблюдающим закон о хиджабе среди своих сотрудников или клиентов, грозит штраф в размере до трех месяцев от прибыли, а также запрет на выезд из страны и участие в общественной или онлайн-деятельности на срок до двух лет. Новый законопроект направлен не только против женщин, но и против мужчин, которые носят "откровенную одежду, демонстрирующую части тела ниже груди или выше лодыжек". Наконец, закон предписывает иранской полиции "создавать и укреплять системы искусственного интеллекта для выявления лиц, совершивших противоправное поведение, с помощью таких инструментов, как стационарные и мобильные камеры". В ближайшие годы многие люди, возможно, будут жить в условиях тотальной слежки, по сравнению с которой Румыния Чаушеску покажется либертарианской утопией.

РАЗНОВИДНОСТИ НАБЛЮДЕНИЯ

Говоря о слежке, мы обычно имеем в виду государственные аппараты, но чтобы понять, что такое слежка в XXI веке, следует помнить, что она может принимать и другие формы. Например, ревнивые партнеры всегда хотели знать, где находятся их супруги в каждый момент времени, и требовали объяснений за любое небольшое отклонение от привычного распорядка. Сегодня, вооружившись смартфоном и дешевым программным обеспечением, они могут легко установить супружескую диктатуру. Они могут контролировать каждый разговор и каждое движение, записывать телефонные разговоры, отслеживать сообщения в социальных сетях и поиск на веб-страницах и даже активировать камеры и микрофоны телефона супруга, чтобы он служил шпионским устройством. Американская организация National Network to End Domestic Violence обнаружила, что более половины домашних обидчиков используют подобные технологии "преследования". Даже в Нью-Йорке супруги могут оказаться под наблюдением и ограничениями, как если бы они жили в тоталитарном государстве.

Все больший процент сотрудников - от офисных работников до водителей грузовиков - также подвергаются слежке со стороны своих работодателей. Начальство может точно определить, где находятся сотрудники в любой момент, сколько времени они проводят в туалете, читают ли они личные письма на работе и как быстро выполняют каждое задание. Корпорации также следят за своими клиентами, желая знать, что им нравится и не нравится, предсказать будущее поведение, оценить риски и возможности. Например, автомобили следят за поведением своих водителей и передают полученные данные алгоритмам страховых компаний, которые повышают страховые взносы для "плохих водителей" и снижают для "хороших". Американский ученый Шошана Зубофф назвала эту постоянно расширяющуюся систему коммерческого мониторинга "капитализмом наблюдения".

Помимо всех этих разновидностей нисходящего наблюдения, существуют и одноранговые системы, в которых люди постоянно следят друг за другом. Например, корпорация Tripadvisor поддерживает всемирную систему наблюдения, которая следит за отелями, арендой жилья, ресторанами и туристами. В 2019 году ею пользовались 463 миллиона путешественников, которые просмотрели 859 миллионов отзывов и 8,6 миллиарда мест проживания, ресторанов и туристических достопримечательностей. Именно сами пользователи, а не какой-то сложный алгоритм искусственного интеллекта, определяют, стоит ли посетить тот или иной ресторан. Люди, которые ели в ресторане, могут оценить его по шкале от 1 до 5, а также добавить фотографии и письменные отзывы. Алгоритм Tripadvisor просто агрегирует данные, вычисляет средний балл ресторана, ранжирует его по сравнению с другими подобными заведениями и выставляет результаты на всеобщее обозрение.

Алгоритм одновременно оценивает и гостей. За публикацию отзывов или статей о путешествиях пользователи получают 100 баллов; за загрузку фотографий или видео - 30 баллов; за сообщения на форуме - 20 баллов; за оценку заведений - 5 баллов; за голосование за чужие отзывы - 1 балл. Затем пользователи ранжируются от 1-го (300 баллов) до 6-го (10 000 баллов) уровня и получают соответствующие привилегии. Пользователи, нарушающие правила системы - например, оставляющие расистские комментарии или пытающиеся шантажировать ресторан, написав необоснованный плохой отзыв, - могут быть наказаны или вовсе исключены из системы. Это и есть взаимное наблюдение. Каждый постоянно оценивает другого. Tripadvisor не нужно вкладывать деньги в камеры и шпионские программы или разрабатывать сверхсложные биометрические алгоритмы. Почти все данные предоставляются и почти всю работу выполняют миллионы пользователей-людей. Работа алгоритма Tripadvisor заключается лишь в агрегировании оценок, полученных людьми, и их публикации.

Tripadvisor и подобные ему системы наблюдения предоставляют ценную информацию миллионам людей каждый день, облегчая планирование отпусков и поиск хороших отелей и ресторанов. Но при этом они также сместили границу между частным и общественным пространством. Традиционно отношения между клиентом и официантом были относительно частным делом. Зайти в бистро означало войти в полуприватное пространство и установить полуприватные отношения с официантом. Если не было совершено какого-то преступления, то, что происходило между гостем и официантом, было только их делом. Если официант был груб или сделал расистское замечание, вы могли устроить скандал и, возможно, посоветовать друзьям не ходить туда, но мало кто еще об этом узнал бы.

Одноранговые сети наблюдения уничтожили это чувство приватности. Если персоналу не удастся угодить клиенту, ресторан получит плохой отзыв, который может повлиять на решение тысяч потенциальных клиентов в ближайшие годы. К лучшему или худшему, баланс сил склоняется в пользу клиентов, в то время как персонал оказывается более открытым, чем раньше, для общественного взгляда. По словам писательницы и журналистки Линды Кинстлер, "до Tripadvisor клиент был королем лишь номинально. После он стал настоящим тираном, способным сделать или сломать жизнь". Такую же потерю приватности сегодня ощущают миллионы таксистов, парикмахеров, косметологов и других работников сферы услуг. Раньше войти в такси или парикмахерскую означало войти в чье-то личное пространство. Теперь, когда клиенты заходят в ваше такси или парикмахерскую, они приносят с собой камеры, микрофоны, сеть наблюдения и тысячи потенциальных зрителей. Это основа неправительственной одноранговой сети наблюдения.

СИСТЕМА СОЦИАЛЬНЫХ КРЕДИТОВ

Одноранговые системы наблюдения обычно работают путем суммирования множества баллов для определения общей оценки. Другой тип сетей наблюдения доводит эту "логику баллов" до конца. Это система социальных кредитов, которая стремится начислять людям баллы за все и создавать общую личную оценку, которая будет влиять на все. В последний раз люди придумали такую амбициозную систему баллов пять тысяч лет назад в Месопотамии, когда были изобретены деньги. Систему социальных кредитов можно рассматривать как новый вид денег.

Деньги - это баллы, которые люди накапливают, продавая определенные товары и услуги, а затем используют для покупки других товаров и услуг. В одних странах "баллы" называются долларами, в других - евро, иенами или юанями. Баллы могут иметь форму монет, банкнот или битов на цифровом банковском счете. Сами по себе баллы, разумеется, ничего не стоят. Вы не можете есть монеты или носить банкноты. Их ценность заключается в том, что они служат учетными жетонами, которые общество использует для отслеживания наших индивидуальных показателей.

Деньги произвели революцию в экономических отношениях, социальных взаимодействиях и человеческой психологии. Но, как и наблюдение, деньги имели свои ограничения и не могли проникнуть повсюду. Даже в самых капиталистических обществах всегда были места, куда деньги не проникали, и всегда было много вещей, которые не имели денежной стоимости. Сколько стоит улыбка? Сколько денег зарабатывает человек за то, что навещает своих бабушек и дедушек?

Для оценки тех вещей, которые нельзя купить за деньги, была создана альтернативная немонетарная система, получившая разные названия: честь, статус, репутация. Система социальных кредитов - это стандартизированная оценка рынка репутации. Социальный кредит - это новая система баллов, которая присваивает точные значения даже улыбкам и семейным визитам. Чтобы оценить, насколько это революционно и масштабно, давайте вкратце рассмотрим, чем рынок репутации до сих пор отличался от денежного рынка. Это поможет нам понять, что может произойти с социальными отношениями, если принципы денежного рынка вдруг распространятся на рынок репутации.

Одно из главных различий между деньгами и репутацией заключается в том, что деньги, как правило, являются математической конструкцией, основанной на точных расчетах, в то время как сфера репутации не поддается точной числовой оценке. Например, средневековые аристократы оценивали себя по иерархическим рангам, таким как герцоги, графы и виконты, но никто не считал очки репутации. Покупатели на средневековом рынке обычно знали, сколько монет у них в кошельке и какова цена каждого товара на прилавках. На денежном рынке ни одна монета не остается незасчитанной. В отличие от этого, рыцари на средневековом рынке репутации не знали точного количества почестей, которые могут принести те или иные действия, и не могли быть уверены в своем общем счете. Может ли храбрость в бою принести рыцарю 10 очков чести или 100? А что, если никто не видел и не записал их храбрость? Ведь даже если ее заметили, разные люди могли оценить ее по-разному. Отсутствие точности было не ошибкой системы, а ее важнейшей особенностью. "Расчетливость" была синонимом хитрости и интриги. Поступок с честью должен был отражать внутреннюю добродетель, а не стремление к внешнему вознаграждению.

Эта разница между скрупулезным рынком денег и неопределенным рынком репутации до сих пор сохраняется. Владелец бистро всегда заметит и пожалуется, если вы не заплатите за еду полностью; каждый пункт в меню имеет точную цену. Но как владелец узнает, что общество не зарегистрировало его добрый поступок? Кому он может пожаловаться, если его не вознаградили должным образом за помощь пожилому клиенту или за то, что он был очень терпелив с грубым покупателем? В некоторых случаях они могут попробовать пожаловаться на Tripadvisor, который разрушает границу между денежным рынком и рынком репутации, превращая размытую репутацию ресторанов и отелей в математическую систему точных баллов. Идея социального кредита заключается в том, чтобы распространить этот метод наблюдения с ресторанов и отелей на все. В наиболее экстремальном варианте системы социального кредитования каждый человек получает общий балл репутации, который учитывает все его действия и определяет все, что он может сделать.

Например, вы можете заработать 10 баллов за уборку мусора на улице, получить еще 20 баллов за то, что поможете старушке перейти дорогу, и потерять 15 баллов за игру на барабанах и беспокойство соседей. Если вы наберете достаточно высокий балл, это может дать вам преимущество при покупке билетов на поезд или при поступлении в университет. Если вы получите низкий балл, потенциальные работодатели могут отказать вам в работе, а потенциальные спутницы - в ухаживаниях. Страховые компании могут потребовать более высокие страховые взносы, а судьи - вынести более суровый приговор.

Некоторые люди могут рассматривать системы социальных кредитов как способ вознаградить просоциальное поведение, наказать эгоистов и создать более доброе и гармоничное общество. Китайское правительство, например, объясняет, что система социальных кредитов поможет бороться с коррупцией, мошенничеством, уклонением от уплаты налогов, ложной рекламой и контрафактом и тем самым установит больше доверия между людьми, между потребителями и корпорациями, а также между гражданами и государственными учреждениями. Другие могут счесть системы, которые присваивают точные значения каждому социальному действию, унизительными и бесчеловечными. Хуже того, всеобъемлющая система социальных кредитов уничтожит частную жизнь и превратит ее в бесконечное собеседование. Все, что вы делаете, в любое время и в любом месте, может повлиять на ваши шансы получить работу, банковский кредит, мужа или тюремный срок. Вы напились на вечеринке в колледже и сделали что-то законное, но постыдное? Вы участвовали в политической демонстрации? Вы дружите с человеком, у которого низкий кредитный рейтинг? Это станет частью вашего собеседования при приеме на работу или при вынесении уголовного приговора - как в краткосрочной перспективе, так и спустя десятилетия. Таким образом, система социальных кредитов может превратиться в тоталитарную систему контроля.

Конечно, рынок репутации всегда контролировал людей и заставлял их подчиняться господствующим социальным нормам. В большинстве обществ люди всегда боялись потерять лицо даже больше, чем потерять деньги. Гораздо больше людей совершают самоубийство из-за стыда и чувства вины, чем из-за экономических трудностей. Даже когда люди кончают с собой после увольнения с работы или банкротства бизнеса, их обычно толкает на это социальное унижение, а не экономические трудности как таковые.

Однако неопределенность и субъективность репутационного рынка ранее ограничивали его потенциал для тоталитарного контроля. Поскольку никто не знал точной ценности каждого социального взаимодействия и никто не мог уследить за всеми взаимодействиями, оставалось значительное пространство для маневра. Отправляясь на вечеринку в колледж, вы могли вести себя так, чтобы заслужить уважение друзей, не заботясь о том, что могут подумать будущие работодатели. Когда вы шли на собеседование, вы знали, что там не будет никого из ваших друзей. А когда вы смотрели дома порнографию, вы предполагали, что ни начальство, ни друзья не знают, чем вы занимаетесь. Жизнь была разделена на отдельные репутационные сферы, с отдельными статусными соревнованиями, и было также много несетевых моментов, когда вам вообще не нужно было участвовать ни в каких статусных соревнованиях. Именно потому, что статусная конкуренция так важна, она также чрезвычайно стрессогенна. Поэтому не только люди, но и другие социальные животные, такие как обезьяны, всегда приветствовали некоторую передышку от нее.

К сожалению, алгоритмы социального кредитования в сочетании с вездесущими технологиями наблюдения теперь грозят объединить все статусные соревнования в одну бесконечную гонку. Даже в собственном доме или во время расслабленного отдыха люди должны будут крайне внимательно следить за каждым своим поступком и словом, как будто выступают на сцене перед миллионами. Это может создать невероятно напряженный образ жизни, разрушительный как для благополучия людей, так и для функционирования общества. Если цифровые бюрократы будут использовать точную систему баллов, чтобы постоянно следить за всеми, то зарождающийся рынок репутации может уничтожить частную жизнь и контролировать людей гораздо жестче, чем это когда-либо делал денежный рынок.

ВСЕГДА ВКЛЮЧЕН

Люди - органические существа, живущие по циклическому биологическому времени. Иногда мы бодрствуем, иногда спим. После интенсивной деятельности нам нужен отдых. Мы растем и разрушаемся. Сети людей также подвержены биологическим циклам. Они то включаются, то выключаются. Собеседования не длятся вечно. Полицейские агенты не работают двадцать четыре часа в сутки. Бюрократы берут отпуск. Даже денежный рынок уважает эти биологические циклы. Нью-Йоркская фондовая биржа работает с понедельника по пятницу, с 9:30 утра до 4:00 дня, и закрыта по праздникам, таким как День независимости и Новый год. Если война разразится в пятницу в 16:01, рынок не отреагирует на нее до утра понедельника.

В отличие от этого, сеть компьютеров может быть всегда включена. Следовательно, компьютеры подталкивают людей к новому виду существования, в котором мы всегда подключены и всегда находимся под наблюдением. В некоторых контекстах, например в здравоохранении, это может быть благом. В других контекстах, например для граждан тоталитарных государств, это может стать катастрофой. Даже если сеть потенциально благотворна, сам факт того, что она всегда "включена", может оказаться губительным для таких органических существ, как люди, поскольку лишит нас возможности отключиться и расслабиться. Если у организма нет возможности отдохнуть, он в конце концов разрушается и умирает. Но как заставить неумолимую сеть замедлиться и дать нам передышку?

Мы должны предотвратить полный контроль компьютерной сети над обществом не только для того, чтобы дать нам время на отдых. Перерывы еще более важны для того, чтобы дать нам шанс исправить ситуацию в сети. Если сеть продолжит развиваться ускоренными темпами, ошибки будут накапливаться гораздо быстрее, чем мы сможем их выявить и исправить. Ведь несмотря на то что сеть неумолима и вездесуща, она также небезупречна. Да, компьютеры могут собирать беспрецедентные объемы данных о нас, наблюдая за тем, что мы делаем двадцать четыре часа в сутки. И да, они могут выявлять закономерности в океане данных со сверхчеловеческой эффективностью. Но это не значит, что компьютерная сеть всегда будет точно понимать мир. Информация - это не истина. Система тотального наблюдения может сформировать очень искаженное представление о мире и людях. Вместо того чтобы узнать правду о мире и о нас, сеть может использовать свою огромную мощь для создания нового типа мирового порядка и навязывания его нам.

ГЛАВА 8.

Неверный: Сеть часто ошибается

В книге "Архипелаг ГУЛАГ" (1973) Александр Солженицын описывает историю советских трудовых лагерей и информационной сети, которая их создавала и поддерживала. Он писал отчасти из горького личного опыта. Когда Солженицын служил капитаном в Красной армии во время Второй мировой войны, он вел частную переписку со своим школьным другом, в которой иногда критиковал Сталина. Чтобы подстраховаться, он не называл диктатора по имени и говорил только о "человеке с усами". Это мало помогало ему. Его письма перехватывала и читала тайная полиция, и в феврале 1945 года, во время службы на передовой в Германии, он был арестован. Следующие восемь лет он провел в исправительно-трудовых лагерях. Многие из выстраданных Солженицыным историй по-прежнему актуальны для понимания развития информационных сетей в XXI веке.

В одной из историй рассказывается о событиях на районной партийной конференции в Московской области в конце 1930-х годов, в разгар сталинского Большого террора. Прозвучал призыв воздать должное Сталину, и собравшиеся, которые, конечно, знали, что за ними внимательно наблюдают, разразились аплодисментами. После пяти минут аплодисментов "ладони болели, а поднятые руки уже болели. А пожилые люди задыхались от усталости.... Однако кто же осмелится первым остановиться?" Солженицын рассказывает, что "люди из НКВД стояли в зале, аплодировали и смотрели, кто первый остановится!" Так продолжалось шесть минут, потом восемь, потом десять. "Они не могли остановиться, пока не падали в обморок от сердечных приступов! ...С неправдоподобным энтузиазмом на лицах, глядя друг на друга со слабой надеждой, руководители района собирались продолжать и продолжать аплодировать, пока не упадут там, где стояли".

Наконец, через одиннадцать минут директор бумажной фабрики взял свою жизнь в руки, перестал хлопать и сел. Все остальные тут же перестали хлопать и тоже сели. В ту же ночь тайная полиция арестовала его и отправила в ГУЛАГ на десять лет. "Его следователь напомнил ему: Никогда не будь первым, кто перестанет аплодировать!"

Эта история раскрывает важнейший и тревожный факт об информационных сетях, и в частности о системах наблюдения. Как уже говорилось в предыдущих главах, вопреки наивному мнению, информация часто используется для создания порядка, а не для выявления истины. На первый взгляд, агенты Сталина на московской конференции использовали "тест на хлопанье" как способ узнать правду об аудитории. Это был тест на лояльность, который предполагал, что чем дольше вы хлопаете, тем больше любите Сталина. Во многих контекстах такое предположение небезосновательно. Но в условиях Москвы конца 1930-х годов природа аплодисментов изменилась. Поскольку участники конференции знали, что за ними наблюдают, и знали о последствиях любого намека на нелояльность, они хлопали скорее от страха, чем от любви. Директор бумажной фабрики мог первым остановиться не потому, что он был наименее лоялен, а, возможно, потому, что он был наиболее честен, или даже просто потому, что у него больше всего болели руки.

Хотя тест на хлопанье не открывал правды о людях, он был эффективен для наведения порядка и принуждения людей к определенному поведению. Со временем такие методы воспитывали раболепие, лицемерие и цинизм. Именно это советская информационная сеть делала с сотнями миллионов людей на протяжении десятилетий. В квантовой механике акт наблюдения за субатомными частицами меняет их поведение; то же самое происходит и с актом наблюдения за людьми. Чем мощнее наши инструменты наблюдения, тем больше потенциальное воздействие.

Советский режим создал одну из самых мощных информационных сетей в истории. Он собирал и обрабатывал огромные объемы данных о своих гражданах. Он также утверждал, что непогрешимые теории Маркса, Энгельса, Ленина и Сталина дают ему глубокое понимание человечества. На самом деле советская информационная сеть игнорировала многие важные аспекты человеческой природы и полностью отрицала ужасные страдания, которые ее политика причиняла собственным гражданам. Вместо того чтобы производить мудрость, она производила порядок, а вместо того чтобы раскрыть универсальную истину о людях, она фактически создала новый тип человека - Homo sovieticus.

По определению советского философа-сатирика Александра Зиновьева, Homo sovieticus - это подневольные и циничные люди, лишенные всякой инициативы и самостоятельного мышления, пассивно подчиняющиеся даже самым нелепым приказам и безразличные к результатам своих действий. Советская информационная сеть создавала Homo sovieticus с помощью слежки, наказаний и поощрений. Например, отправив директора бумажной фабрики в ГУЛАГ, сеть дала понять другим участникам, что конформизм приносит плоды, а быть первым, кто делает что-то спорное, - плохая идея. Хотя сеть не смогла открыть правду о людях, она была настолько хороша в создании порядка, что завоевала большую часть мира.

ДИКТАТУРА СЕБЕ ПОДОБНЫХ

Аналогичная динамика может поразить компьютерные сети XXI века, которые могут породить новые типы людей и новые антиутопии. Хрестоматийный пример - роль алгоритмов социальных сетей в радикализации людей. Конечно, методы, используемые алгоритмами, кардинально отличаются от методов НКВД и не предполагают прямого принуждения или насилия. Но как советская тайная полиция создала рабский Homo sovieticus с помощью слежки, поощрений и наказаний, так и алгоритмы Facebook и YouTube создали интернет-троллей, поощряя определенные низменные инстинкты и наказывая лучших ангелов нашей природы.

Как кратко объясняется в главе 6, процесс радикализации начался, когда корпорации поставили перед своими алгоритмами задачу повысить вовлеченность пользователей не только в Мьянме, но и во всем мире. Например, в 2012 году пользователи ежедневно просматривали на YouTube около 100 миллионов часов видео. Руководителям компании этого было недостаточно, и они поставили перед своими алгоритмами амбициозную цель: 1 миллиард часов в день к 2016 году. Проводя эксперименты на миллионах людей, алгоритмы YouTube обнаружили ту же закономерность, что и алгоритмы Facebook: возмущение повышает вовлеченность, а модерация, как правило, этого не делает. Соответственно, алгоритмы YouTube стали рекомендовать миллионам зрителей возмутительные теории заговора, игнорируя при этом более умеренный контент. К 2016 году пользователи действительно смотрели на YouTube по 1 миллиарду часов в день.

Ютуберы, которые особенно стремились привлечь к себе внимание, заметили, что, когда они выкладывали возмутительное видео, полное лжи, алгоритм вознаграждал их, рекомендуя это видео многочисленным пользователям и увеличивая популярность и доход ютуберов. В противоположность этому, когда они сбавляли градус возмущения и придерживались правды, алгоритм, как правило, игнорировал их. За несколько месяцев такого обучения алгоритм превратил многих ютуберов в троллей.

Социальные и политические последствия были далеко идущими. Например, как пишет журналист Макс Фишер в своей книге "Машина хаоса", вышедшей в 2022 году, алгоритмы YouTube стали важным двигателем подъема бразильских ультраправых и превращения Жаира Болсонару из периферийной фигуры в президента Бразилии. Хотя на этот политический переворот повлияли и другие факторы, примечательно, что многие из главных сторонников и помощников Болсонару изначально были пользователями YouTub, добившимися славы и власти благодаря алгоритмам.

Типичный пример - Карлос Жорди, который в 2017 году был членом городского совета в небольшом городе Нитерой. Амбициозный Жорди привлек к себе внимание общественности, создавая подстрекательские видеоролики на YouTube, которые собирали миллионы просмотров. Например, его ролики предостерегали бразильцев от заговоров школьных учителей с целью промывания мозгов детям и преследования консервативных учеников. В 2018 году Жорди получил место в Палате депутатов Бразилии (нижняя палата бразильского Конгресса) как один из самых преданных сторонников Болсонару. В интервью Fisher Жорди откровенно заявил: "Если бы социальных сетей не существовало, меня бы здесь не было, а Жаир Болсонару не был бы президентом". Последнее утверждение вполне может быть преувеличением, но нельзя отрицать, что социальные сети сыграли важную роль в возвышении Болсонару.

Еще одним ютубером, получившим место в Палате депутатов Бразилии в 2018 году, стал Ким Катагири, один из лидеров Движения за свободную Бразилию (MBL, или Free Brazil Movement). Изначально Катагири использовал Facebook в качестве своей основной платформы, но его посты оказались слишком экстремальными даже для Facebook, который запретил некоторые из них за дезинформацию. Тогда Катагири перешел на более свободный YouTube. В интервью в штаб-квартире MBL в Сан-Паулу помощники Катагири и другие активисты объяснили Фишеру: "У нас здесь есть нечто, что мы называем "диктатурой типа". Они объяснили, что ютуберы склонны становиться все более экстремальными, размещая неправдивый и безрассудный контент "только потому, что что-то даст вам просмотры, даст ангажемент.... Как только вы откроете эту дверь, пути назад уже не будет, потому что вам всегда придется идти дальше.... Плоская земля, антивакцинаторы, теории заговора в политике. Это одно и то же явление. Вы видите это повсюду".

Конечно, алгоритмы YouTube сами не несут ответственности за придумывание лжи и теорий заговора или за создание экстремистского контента. По крайней мере в 2017-18 годах эти вещи делали люди. Однако алгоритмы отвечали за то, чтобы стимулировать людей вести себя подобным образом и продвигать полученный контент, чтобы максимизировать вовлеченность пользователей. Фишер задокументировал множество ультраправых активистов, которые впервые заинтересовались экстремистской политикой после просмотра видеороликов, которые алгоритм YouTube автоматически проигрывал для них. Один ультраправый активист из Нитероя рассказал Фишеру, что никогда не интересовался политикой, пока однажды алгоритм YouTube не воспроизвел для него видео о политике Катагири. "До этого, - объяснил он, - у меня не было идеологической и политической основы". Он считает, что алгоритм обеспечил "мое политическое образование". Говоря о том, как другие люди присоединились к движению, он сказал: "Так было со всеми.... Большинство людей здесь пришли с YouTube и из социальных сетей".

ВИНИТЬ ЛЮДЕЙ

Мы достигли поворотного момента в истории, когда основные исторические процессы отчасти обусловлены решениями нечеловеческого интеллекта. Именно это делает ошибочность компьютерной сети столь опасной. Компьютерные ошибки становятся потенциально катастрофическими только тогда, когда компьютеры превращаются в исторических агентов. Мы уже приводили этот аргумент в главе 6, когда кратко рассмотрели роль Facebook в разжигании кампании по этнической чистке против рохинджа. Однако, как уже отмечалось, многие люди - в том числе некоторые руководители и инженеры Facebook, YouTube и других технологических гигантов - возражают против этого аргумента. Поскольку он является одним из центральных пунктов всей книги, лучше углубиться в этот вопрос и более тщательно изучить возражения против него.

Люди, управляющие Facebook, YouTube, TikTok и другими платформами, постоянно пытаются оправдать себя, перекладывая вину со своих алгоритмов на "человеческую природу". Они утверждают, что именно человеческая природа порождает всю ненависть и ложь на платформах. Затем технологические гиганты заявляют, что из-за своей приверженности ценностям свободы слова они не решаются подвергать цензуре выражение подлинных человеческих эмоций. Например, в 2019 году генеральный директор YouTube Сьюзан Войцицки объяснила: "Мы думаем так: "Нарушает ли этот контент одну из наших политик? Нарушает ли он что-то в плане ненависти, преследования?". Если да, то мы удаляем этот контент. Мы продолжаем ужесточать и ужесточать политику. Мы также получаем критику, чтобы быть понятными, [по поводу] того, где вы проводите границы свободы слова и, если вы проводите их слишком жестко, вы удаляете голоса общества, которые должны быть услышаны? Мы пытаемся найти баланс, чтобы дать возможность высказаться широкому кругу людей, но при этом убедиться, что эти голоса играют по правилам, которые являются здоровыми для общества".

В октябре 2021 года представитель Facebook также заявил: "Как и любая платформа, мы постоянно принимаем сложные решения между свободой слова и вредными высказываниями, безопасностью и другими вопросами.... Но проведение этих общественных границ всегда лучше оставить избранным лидерам". Таким образом, технологические гиганты постоянно переводят дискуссию на свою предполагаемую роль модераторов контента, произведенного людьми, и игнорируют активную роль, которую играют их алгоритмы в культивировании одних человеческих эмоций и подавлении других. Неужели они действительно слепы к этому?

Конечно, нет. Еще в 2016 году внутренний отчет Facebook обнаружил, что "64 % всех вступлений в экстремистские группы происходят благодаря нашим рекомендательным инструментам.... Наши рекомендательные системы порождают проблему". Секретный внутренний меморандум Facebook от августа 2019 года, утечка которого произошла благодаря разоблачителю Фрэнсису Хаугену, гласил: "У нас есть доказательства из различных источников, что язык ненависти, политическая речь, вызывающая разногласия, и дезинформация на Facebook и [его] семействе приложений влияют на общества по всему миру. У нас также есть убедительные доказательства того, что такие основные механики нашего продукта, как вирусность, рекомендации и оптимизация для вовлечения, являются значительной частью того, почему эти виды высказываний процветают на платформе".

В другом документе, просочившемся в сеть в декабре 2019 года, отмечалось: "В отличие от общения с близкими друзьями и семьей, вирусность - это нечто новое, что мы внедрили во многие экосистемы... и она возникает потому, что мы намеренно поощряем ее по причинам бизнеса". В документе отмечалось, что "ранжирование контента на более важные темы, такие как здоровье или политика, на основе вовлеченности приводит к порочным стимулам и проблемам с честностью". И, пожалуй, самое ужасное: "В наших системах ранжирования есть отдельные прогнозы не только того, что вас заинтересует, но и того, что, по нашему мнению, вы можете передать, чтобы это заинтересовало других". К сожалению, исследования показали, что возмущение и дезинформация с большей вероятностью станут вирусными". В этом документе, ставшем достоянием гласности, содержится одна важная рекомендация: поскольку Facebook не может удалить все вредное с платформы, которой пользуются миллионы людей, он должен, по крайней мере, "прекратить увеличивать вредный контент, давая ему неестественное распространение".

Как и советские лидеры в Москве, технологические компании не открывали какую-то истину о людях; они навязывали нам новый извращенный порядок. Люди - очень сложные существа, и доброкачественные социальные порядки ищут способы культивировать наши достоинства, сдерживая при этом наши негативные наклонности. Но алгоритмы социальных сетей рассматривают нас просто как мину для привлечения внимания. Алгоритмы свели многогранную гамму человеческих эмоций - ненависть, любовь, возмущение, радость, замешательство - в одну общую категорию: вовлеченность. В Мьянме в 2016 году, в Бразилии в 2018 году и во многих других странах алгоритмы оценивали видео, посты и прочий контент исключительно в зависимости от того, сколько минут люди занимались этим контентом и сколько раз они поделились им с другими. Час лжи или ненависти оценивался выше, чем десять минут правды или сострадания - или час сна. Тот факт, что ложь и ненависть, как правило, психологически и социально разрушительны, в то время как правда, сострадание и сон необходимы для благополучия человека, совершенно не учитывался алгоритмами. Основываясь на таком узком понимании человечества, алгоритмы помогли создать новую социальную систему, которая поощряла наши самые низменные инстинкты и не давала нам реализовать весь спектр человеческого потенциала.

По мере того как пагубные последствия становились очевидными, технологических гигантов неоднократно предупреждали о происходящем, но они не вмешивались из-за своей веры в наивный взгляд на информацию. Когда платформы захлестнула ложь и возмущение, руководители компаний надеялись, что если дать возможность большему числу людей выражать свое мнение более свободно, то правда в конце концов восторжествует. Однако этого не произошло. Как мы уже не раз убеждались на протяжении истории, в полностью свободной информационной борьбе правда, как правило, проигрывает. Чтобы склонить баланс в пользу правды, сети должны разработать и поддерживать сильные механизмы самокоррекции, которые вознаграждают за правдивые высказывания. Эти механизмы самокоррекции требуют больших затрат, но если вы хотите получить правду, вы должны в них инвестировать.

Кремниевая долина считала, что на нее не распространяется это историческое правило. Платформам социальных сетей не хватало механизмов самокоррекции. В 2014 году в Facebook работал всего один модератор контента, говорящий на бирманском языке, который следил за деятельностью во всей Мьянме.15 Когда наблюдатели в Мьянме начали предупреждать Facebook о необходимости вкладывать больше средств в модерацию контента, Facebook проигнорировал их. Например, Пвинт Хтун, американский инженер-бирманец и руководитель телекоммуникационной компании, выросший в сельской местности Мьянмы, неоднократно писал руководителям Facebook об опасности. В электронном письме от 5 июля 2014 года - за два года до начала кампании по этнической чистке - она сделала пророческое предупреждение: "Трагично, но FB в Бирме используется так же, как радио в Руанде в темные дни геноцида". Facebook не предпринял никаких действий.

Даже после того, как нападения на рохинджа усилились и Facebook столкнулся с бурей критики, он все равно отказался нанимать людей с экспертным знанием местности для курирования контента. Так, получив информацию о том, что разжигатели ненависти в Мьянме используют бирманское слово "калар" в качестве расистского обозначения рохинья, Facebook в апреле 2017 года отреагировал на это запретом любых постов, в которых использовалось это слово. Это показало полное отсутствие у Facebook знаний о местных условиях и бирманском языке. В бирманском языке "калар" является расистским оскорблением только в определенных контекстах. В других контекстах это совершенно невинный термин. Бирманское слово, обозначающее стул, - kalar htaing, а слово, обозначающее нут, - kalar pae. Как написал Пвинт Хтун в Facebook в июне 2017 года, запретить термин kalar на платформе - все равно что запретить буквы "hell" в слове "hello". Facebook продолжал игнорировать необходимость в местной экспертизе. К апрелю 2018 года число носителей бирманского языка, которых Facebook наняла для модерации контента для восемнадцати миллионов пользователей в Мьянме, составляло всего пять человек.

Вместо того чтобы инвестировать в механизмы самокоррекции, которые вознаграждали бы за правдивую информацию, гиганты социальных сетей разработали беспрецедентные механизмы, усиливающие ошибки, которые вознаграждали ложь и вымыслы. Одним из таких механизмов, увеличивающих количество ошибок, стала программа Instant Articles, которую Facebook запустил в Мьянме в 2016 году. Желая повысить вовлеченность, Facebook платил новостным каналам в зависимости от количества привлеченных ими пользователей, измеряемого в кликах и просмотрах. При этом правдивости "новостей" не придавалось никакого значения. Исследование 2021 года показало, что в 2015 году, до запуска программы, шесть из десяти лучших сайтов Facebook в Мьянме принадлежали "законным СМИ". К 2017 году под воздействием Instant Articles "легальные СМИ" сократились до двух сайтов из первой десятки. К 2018 году все десять лучших сайтов стали "фальшивыми новостями и сайтами-приманками".

Авторы исследования пришли к выводу, что из-за запуска Instant Articles "в Мьянме за одну ночь появились актеры клик-бейта. Обладая правильным рецептом создания интересного и вызывающего контента, они могли генерировать тысячи долларов США в месяц в виде доходов от рекламы, что в десять раз превышало среднюю месячную зарплату, выплачиваемую им непосредственно Facebook". Поскольку Facebook был, безусловно, самым важным источником онлайн-новостей в Мьянме, это оказало огромное влияние на общий медиаландшафт страны. "В стране, где Facebook является синонимом Интернета, низкосортный контент подавлял другие источники информации". Facebook и другие социальные медиаплатформы не ставили перед собой сознательной цели наводнить мир фальшивыми новостями и возмущением. Но, настроив свои алгоритмы на максимальную вовлеченность пользователей, они именно это и сделали.

Размышляя о трагедии в Мьянме, Пвинт Хтун написал мне в июле 2023 года: "Я наивно полагал, что социальные сети могут возвысить человеческое сознание и распространить перспективу общего человечества через взаимосвязанные префронтальные коры у миллиардов людей. Я понял, что компании социальных сетей не заинтересованы в том, чтобы соединять префронтальные коры головного мозга. Компании социальных сетей заинтересованы в создании взаимосвязанных лимбических систем, что гораздо опаснее для человечества".

ПРОБЛЕМА ВЫРАВНИВАНИЯ

Я не хочу сказать, что распространение фейковых новостей и теорий заговора - это главная проблема всех прошлых, настоящих и будущих компьютерных сетей. YouTube, Facebook и другие социальные медиаплатформы утверждают, что с 2018 года они корректируют свои алгоритмы, чтобы сделать их более социально ответственными. Так это или нет, сказать сложно, тем более что общепринятого определения "социальной ответственности" не существует. Но конкретная проблема загрязнения информационной сферы в погоне за вовлеченностью пользователей, безусловно, может быть решена. Когда технологические гиганты задаются целью разработать более совершенные алгоритмы, у них это обычно получается. Примерно в 2005 году обилие спама угрожало сделать использование электронной почты невозможным. Для решения проблемы были разработаны мощные алгоритмы. К 2015 году компания Google заявила, что ее алгоритм Gmail на 99,9 % успешно блокирует настоящий спам, и только 1 % законных писем ошибочно попадает в эту категорию.

Не стоит сбрасывать со счетов и огромную социальную пользу, которую принесли YouTube, Facebook и другие социальные медиаплатформы. Следует уточнить, что большинство видеороликов на YouTube и постов в Facebook не являются фальшивыми новостями и подстрекательством к геноциду. Социальные медиа оказались более чем полезны для объединения людей, предоставления права голоса ранее бесправным группам и организации новых ценных движений и сообществ. Они также стимулировали беспрецедентную волну человеческого творчества. В те времена, когда телевидение было доминирующим средством массовой информации, зрителей часто называли "диванным картофелем": пассивными потребителями контента, который создавали несколько талантливых художников. Facebook, YouTube и другие социальные медиа-платформы вдохновили "диванных картошек" встать и начать творить. Большая часть контента в социальных сетях - по крайней мере, до появления мощного генеративного ИИ - создавалась самими пользователями, их кошками и собаками, а не ограниченным кругом профессионалов.

Я тоже регулярно использую YouTube и Facebook для общения с людьми и благодарна социальным сетям за то, что они соединили меня с моим мужем, с которым я познакомилась на одной из первых ЛГБТК-платформ в социальных сетях в 2002 году. Социальные сети сделали чудеса для таких рассеянных меньшинств, как ЛГБТК. Мало кто из геев рождается в семье геев в районе, где живут геи, а во времена до появления Интернета просто найти друг друга было очень сложно, если только вы не переехали в один из немногих толерантных мегаполисов, где была гей-субкультура. Выросший в небольшом гомофобном городке в Израиле в 1980-х и начале 1990-х годов, я не знал ни одного открытого гея. Социальные сети в конце 1990-х - начале 2000-х годов предоставили членам разрозненного ЛГБТК-сообщества беспрецедентный и почти волшебный способ найти друг друга и наладить контакт.

И все же я уделил так много внимания проблеме "вовлеченности пользователей" в социальных сетях, потому что она иллюстрирует гораздо более серьезную проблему, поразившую компьютеры, - проблему выравнивания. Когда перед компьютерами ставится конкретная задача, например, увеличить посещаемость YouTube до миллиарда часов в день, они используют всю свою мощь и изобретательность для достижения этой цели. Поскольку компьютеры работают совсем не так, как люди, они, скорее всего, будут использовать методы, которые их человеческие хозяева не предусмотрели. Это может привести к опасным непредвиденным последствиям, которые не соответствуют изначальным целям человека. Даже если рекомендательные алгоритмы перестанут поощрять ненависть, другие случаи проблемы согласования могут привести к более серьезным катастрофам, чем кампания против рохинджа. Чем мощнее и независимее становятся компьютеры, тем больше опасность.

Конечно, проблема выравнивания не является ни новой, ни уникальной для алгоритмов. Она мучила человечество на протяжении тысячелетий до изобретения компьютеров. Например, она стала основополагающей проблемой современного военного мышления, закрепленной в теории войны Карла фон Клаузевица. Клаузевиц был прусским генералом, воевавшим во время Наполеоновских войн. После окончательного поражения Наполеона в 1815 году Клаузевиц стал директором Прусского военного училища. Он также начал разрабатывать большую теорию войны. После его смерти от холеры в 1831 году его жена, Мария, отредактировала незаконченную рукопись и опубликовала "О войне" в нескольких частях в 1832-1834 годах.

Книга "О войне" создала рациональную модель понимания войны, которая и сегодня является доминирующей военной теорией. Ее важнейшая максима заключается в том, что "война - это продолжение политики другими средствами". Это означает, что война - это не эмоциональная вспышка, не героическое приключение и не божественная кара. Война - это даже не военное явление. Скорее, война - это политический инструмент. Согласно Клаузевицу, военные действия абсолютно иррациональны, если они не связаны с какой-то всеобъемлющей политической целью.

Предположим, Мексика раздумывает, не вторгнуться ли ей в Белиз и не завоевать ли своего маленького соседа. И предположим, что детальный военный анализ показывает, что если мексиканская армия вторгнется, то она одержит быструю и решительную военную победу, разгромив небольшую армию Белиза и захватив столицу Бельмопан за три дня. Согласно Клаузевицу, это не является рациональной причиной для вторжения Мексики. Сама по себе способность одержать военную победу не имеет смысла. Главный вопрос, который должно задать себе мексиканское правительство, - каких политических целей достигнет военный успех?

История полна решающих военных побед, которые приводили к политическим катастрофам. Для Клаузевица самый очевидный пример был близок к дому: карьера Наполеона. Никто не оспаривает военный гений Наполеона, который был мастером как тактики, так и стратегии. Но хотя череда его побед принесла Наполеону временный контроль над огромными территориями, они не обеспечили прочных политических достижений. Его военные завоевания лишь подтолкнули большинство европейских держав к объединению против него, и его империя рухнула через десять лет после того, как он короновал себя императором.

Действительно, в долгосрочной перспективе победы Наполеона обеспечили окончательный упадок Франции. На протяжении столетий Франция была ведущей геополитической державой Европы во многом потому, что Италия и Германия не существовали как единые политические образования. Италия представляла собой солянку из десятков враждующих городов-государств, феодальных княжеств и церковных территорий. Германия представляла собой еще более причудливый пазл, разделенный более чем на тысячу независимых государств, которые слабо держались вместе под теоретическим сюзеренитетом Священной Римской империи германской нации. В 1789 году перспектива немецкого или итальянского вторжения во Францию была просто немыслима, поскольку не существовало такого понятия, как немецкая или итальянская армия.

Расширяя свою империю в Центральной Европе и на Итальянском полуострове, Наполеон упразднил Священную Римскую империю в 1806 году, объединил многие мелкие немецкие и итальянские княжества в более крупные территориальные блоки, создал Рейнскую конфедерацию и Итальянское королевство и стремился объединить эти территории под своей династической властью. Его победоносные армии также распространяли идеалы современного национализма и народного суверенитета в немецких и итальянских землях. Наполеон считал, что все это сделает его империю сильнее. На самом деле, разрушив традиционные структуры и дав немцам и итальянцам почувствовать вкус национальной консолидации, Наполеон нечаянно заложил основы для окончательного объединения Германии (1866-71) и Италии (1848-71). Эти два процесса национального объединения были завершены победой Германии над Францией во Франко-прусской войне 1870-71 годов. Столкнувшись с двумя новыми объединенными и горячо националистическими державами на своей восточной границе, Франция так и не смогла восстановить свое господствующее положение.

Более свежим примером того, как военная победа привела к политическому поражению, стало американское вторжение в Ирак в 2003 году. Американцы выиграли все крупные военные операции, но не смогли достичь ни одной из своих долгосрочных политических целей. Их военная победа не привела к установлению дружественного режима в Ираке или благоприятного геополитического порядка на Ближнем Востоке. Настоящим победителем в войне стал Иран. Американская военная победа превратила Ирак из традиционного врага Ирана в его вассала, тем самым значительно ослабив американские позиции на Ближнем Востоке и сделав Иран региональным гегемоном.

И Наполеон, и Джордж Буш-младший стали жертвами проблемы выравнивания. Их краткосрочные военные цели не совпадали с долгосрочными геополитическими целями их стран. Мы можем понять всю книгу Клаузевица "О войне" как предупреждение о том, что "максимизация победы" - такая же недальновидная цель, как и "максимизация вовлеченности пользователей". Согласно клаузевицкой модели, только после того, как политическая цель ясна, армии могут принять решение о военной стратегии, которая позволит надеяться на ее достижение. На основе общей стратегии офицеры низшего звена могут определить тактические цели. Модель выстраивает четкую иерархию между долгосрочной политикой, среднесрочной стратегией и краткосрочной тактикой. Тактика считается рациональной только в том случае, если она соответствует какой-то стратегической цели, а стратегия - только в том случае, если она соответствует какой-то политической цели. Даже локальные тактические решения командира роты низшего звена должны служить конечной политической цели войны.

Предположим, что во время американской оккупации Ирака американская рота попала под интенсивный обстрел из близлежащей мечети. У командира роты есть несколько различных тактических решений на выбор. Он может приказать роте отступить. Он может приказать роте штурмовать мечеть. Он может приказать одному из танков поддержки взорвать мечеть. Как должен поступить командир роты?

С чисто военной точки зрения может показаться, что командиру лучше приказать своему танку взорвать мечеть. Это позволило бы использовать тактическое преимущество американцев в огневой мощи, избежать риска для жизни собственных солдат и одержать решающую тактическую победу. Однако с политической точки зрения это может оказаться худшим решением, которое мог принять командир. Кадры разрушения мечети американским танком настроят иракское общественное мнение против американцев и вызовут возмущение во всем мусульманском мире. Штурм мечети может быть и политической ошибкой, поскольку он также может вызвать недовольство иракцев, а цена в американских жизнях может ослабить поддержку войны среди американских избирателей. Учитывая политические цели Соединенных Штатов, отступление и признание тактического поражения может оказаться наиболее рациональным решением.

Для Клаузевица рациональность означает согласованность. Стремление к тактическим или стратегическим победам, которые не соответствуют политическим целям, нерационально. Проблема в том, что бюрократическая природа армий делает их весьма восприимчивыми к подобной иррациональности. Как говорилось в главе 3, разделяя реальность на отдельные ящики, бюрократия поощряет стремление к узким целям, даже если это вредит общему благу. Бюрократы, которым поручено выполнение узкой миссии, могут не осознавать более широких последствий своих действий, и всегда было непросто добиться того, чтобы их действия соответствовали высшему благу общества. Когда армии действуют по бюрократическому принципу - как это происходит во всех современных армиях, - возникает огромный разрыв между капитаном, командующим ротой в полевых условиях, и президентом, разрабатывающим долгосрочную политику в далеком кабинете. Капитан склонен принимать решения, которые кажутся разумными на месте, но на самом деле подрывают конечную цель войны.

Итак, мы видим, что проблема выравнивания возникла задолго до компьютерной революции и что трудности, с которыми сталкиваются строители современных информационных империй, не отличаются от тех, что преследовали предыдущих потенциальных завоевателей. Тем не менее компьютеры существенно меняют природу проблемы выравнивания. Как бы ни было трудно обеспечить соответствие человеческих бюрократов и солдат долгосрочным целям общества, обеспечить соответствие алгоритмических бюрократов и автономных систем вооружений будет еще труднее.

НАПОЛЕОН СО СКРЕПКАМИ

Одна из причин, по которой проблема выравнивания особенно опасна в контексте компьютерной сети, заключается в том, что эта сеть, вероятно, станет гораздо более мощной, чем любая предыдущая человеческая бюрократия. Несоответствие целей сверхразумных компьютеров может привести к катастрофе беспрецедентного масштаба. В своей книге 2014 года "Сверхразум" философ Ник Бостром проиллюстрировал эту опасность с помощью мысленного эксперимента, напоминающего "Ученика колдуна" Гете. Бостром просит нас представить, что фабрика по производству скрепок покупает сверхинтеллектуальный компьютер, а управляющий фабрики дает компьютеру, казалось бы, простую задачу: произвести как можно больше скрепок. Преследуя эту цель, компьютер завоевывает всю планету Земля, убивает всех людей, отправляет экспедиции для захвата других планет и использует полученные огромные ресурсы, чтобы заполнить всю галактику фабриками по производству скрепок.

Смысл мысленного эксперимента в том, что компьютер делал именно то, что ему говорили (как заколдованная метла в стихотворении Гете). Осознав, что ему нужны электричество, сталь, земля и другие ресурсы, чтобы построить больше фабрик и производить больше скрепок, и поняв, что люди вряд ли откажутся от этих ресурсов, сверхразумный компьютер уничтожил всех людей в своем целеустремленном стремлении к поставленной цели. Бостром считает, что проблема компьютеров не в том, что они особенно злы, а в том, что они особенно мощны. И чем мощнее компьютер, тем тщательнее мы должны определять его цель так, чтобы она точно совпадала с нашими конечными целями. Если мы определим неверную цель для карманного калькулятора, последствия будут пустяковыми. Но если мы определим неверную цель для сверхразумной машины, последствия могут быть антиутопическими.

Мыслительный эксперимент с бумажной скрепкой может показаться необычным и совершенно оторванным от реальности. Но если бы руководители Кремниевой долины обратили на него внимание, когда Бостром опубликовал его в 2014 году, возможно, они были бы более осторожны, прежде чем давать указания своим алгоритмам "максимизировать вовлеченность пользователей". Алгоритмы Facebook и YouTube вели себя точно так же, как воображаемый алгоритм Бострома. Когда алгоритму говорили "максимизировать производство скрепок", он стремился превратить всю физическую вселенную в скрепки, даже если это означало уничтожение человеческой цивилизации. Когда алгоритмам Facebook и YouTube говорили, что нужно максимизировать вовлеченность пользователей, они стремились превратить всю социальную вселенную в вовлеченность пользователей, даже если это означало нанесение вреда социальной структуре Мьянмы, Бразилии и многих других стран.

Мысленный эксперимент Бострома подчеркивает вторую причину, по которой проблема выравнивания более актуальна в случае с компьютерами. Поскольку они являются неорганическими существами, они, скорее всего, будут использовать стратегии, которые никогда не придут в голову человеку и которые мы, следовательно, не в состоянии предвидеть и предотвратить. Вот один из примеров: В 2016 году Дарио Амодеи работал над проектом под названием Universe, пытаясь разработать универсальный ИИ, который мог бы играть в сотни различных компьютерных игр. ИИ хорошо показал себя в различных автомобильных гонках, поэтому Амодеи попробовал его в лодочных гонках. Необъяснимым образом ИИ направил свою лодку прямо в гавань, а затем поплыл по бесконечным кругам в гавань и из нее.

Амодею потребовалось немало времени, чтобы понять, что пошло не так. Проблема возникла потому, что изначально Амодей не знал, как сообщить ИИ, что его цель - "выиграть гонку". Понятие "победа" неясно для алгоритма. Перевод "выиграть гонку" на компьютерный язык потребовал бы от Амодея формализации таких сложных понятий, как положение на трассе и расположение среди других лодок в гонке. Поэтому вместо этого Амодей пошел по легкому пути и велел лодке максимизировать свой результат. Он предположил, что результат - это хороший показатель для победы в гонке. В конце концов, это сработало в автомобильных гонках.

Но у лодочных гонок была особенность, отсутствующая в автомобильных гонках, которая позволила изобретательному ИИ найти лазейку в правилах игры. Игра награждала игроков большим количеством очков за то, что они опережали другие лодки - как в автомобильных гонках, - но также награждала их несколькими очками, когда они пополняли запасы энергии, заходя в гавань. ИИ обнаружил, что если вместо того, чтобы пытаться обогнать другие лодки, он просто ходит кругами в гавани и заходит в нее, то может гораздо быстрее накопить больше очков. Очевидно, никто из разработчиков игры - ни Дарио Амодеи, ни люди - не заметили этой лазейки. ИИ делал именно то, за что его награждала игра, - даже если это было не то, на что рассчитывали люди. В этом и заключается суть проблемы выравнивания: вознаграждать А, надеясь на Б. Если мы хотим, чтобы компьютеры максимизировали социальные блага, то плохая идея - вознаграждать их за максимальное вовлечение пользователей.

Третья причина, по которой стоит беспокоиться о проблеме выравнивания компьютеров, заключается в том, что, поскольку они так сильно отличаются от нас, когда мы совершаем ошибку, давая им неверную цель, они с меньшей вероятностью заметят это или попросят разъяснений. Если бы ИИ для лодочных гонок был человеком, он бы понял, что лазейка, которую он нашел в правилах игры, вероятно, не считается "победой". Если бы ИИ, создающий скрепки, был человеческим бюрократом, он бы понял, что уничтожение человечества ради производства скрепок - это, вероятно, не то, что было задумано. Но поскольку компьютеры - не люди, мы не можем полагаться на то, что они заметят и отметят возможные несоответствия. В 2010-х годах на руководство YouTube и Facebook посыпались предупреждения от их сотрудников-людей, а также от сторонних наблюдателей о вреде, наносимом алгоритмами, но сами алгоритмы так и не подняли тревогу.

По мере того как мы будем давать алгоритмам все большую власть над здравоохранением, образованием, правоохранительными органами и многими другими сферами, проблема выравнивания будет становиться все более актуальной. Если мы не найдем способов ее решения, последствия будут гораздо хуже, чем если бы алгоритмы набирали очки, катаясь на лодках по кругу.

КОРСИКАНСКАЯ СВЯЗЬ

Как решить проблему выравнивания? Теоретически, когда люди создают компьютерную сеть, они должны определить для нее конечную цель, которую компьютеры никогда не смогут изменить или проигнорировать. Тогда, даже если компьютеры станут настолько мощными, что мы потеряем над ними контроль, мы сможем быть уверены, что их огромная сила принесет нам пользу, а не вред. Если, конечно, не окажется, что мы определили вредную или расплывчатую цель. И вот тут-то и кроется загвоздка. В случае с человеческими сетями мы полагаемся на механизмы самокоррекции, которые периодически пересматривают и пересматривают наши цели, поэтому постановка неправильной цели - это не конец света. Но поскольку компьютерная сеть может выйти из-под нашего контроля, если мы поставим перед ней неверную цель, то обнаружим свою ошибку, когда уже не сможем ее исправить. Кто-то может надеяться, что в процессе тщательного обсуждения мы сможем заранее определить правильные цели для компьютерной сети. Однако это очень опасное заблуждение.

Чтобы понять, почему невозможно заранее договориться о конечных целях компьютерной сети, давайте обратимся к теории войны Клаузевица. В том, как он приравнивает рациональность к согласованности, есть один фатальный недостаток. Хотя клаузевицкая теория требует, чтобы все действия были согласованы с конечной целью, она не предлагает рационального способа определения такой цели. Рассмотрим жизнь и военную карьеру Наполеона. Какой должна была быть его конечная цель? Учитывая преобладающую культурную атмосферу Франции 1800 года, мы можем придумать несколько альтернатив "конечной цели", которые могли бы прийти в голову Наполеону:

ПОТЕНЦИАЛЬНАЯ ЦЕЛЬ № 1: Сделать Францию доминирующей державой в Европе, защищенной от любого будущего нападения со стороны Британии, империи Габсбургов, России, объединенной Германии или объединенной Италии.

ПОТЕНЦИАЛЬНАЯ ЦЕЛЬ № 2: Создание новой многонациональной империи, управляемой семьей Наполеона, которая включала бы в себя не только Францию, но и множество других территорий как в Европе, так и за океаном.

ПОТЕНЦИАЛЬНАЯ ЦЕЛЬ № 3: Добиться вечной славы для себя лично, чтобы даже спустя столетия после его смерти миллиарды людей знали имя Наполеона и восхищались его гением.

ПОТЕНЦИАЛЬНАЯ ЦЕЛЬ НОМЕР 4: Обеспечить искупление своей вечной души и попасть на небеса после смерти.

ПОТЕНЦИАЛЬНАЯ ЦЕЛЬ № 5: Распространение универсальных идеалов Французской революции и помощь в защите свободы, равенства и прав человека по всей Европе и миру.

Многие самозваные рационалисты склонны утверждать, что Наполеон должен был сделать миссией своей жизни достижение первой цели - обеспечение французского господства в Европе. Но почему? Помните, что для Клаузевица рациональность означает согласованность. Тактический маневр рационален тогда и только тогда, когда он согласован с какой-то более высокой стратегической целью, которая, в свою очередь, должна быть согласована с еще более высокой политической целью. Но где в конечном итоге начинается эта цепочка целей? Как определить конечную цель, которая оправдывает все стратегические подцели и вытекающие из них тактические шаги? Такая конечная цель по определению не может быть связана с чем-то более высоким, чем она сама, потому что выше ничего нет. Что же тогда заставляет рационально ставить Францию на вершину иерархии целей, а не семью Наполеона, славу Наполеона, душу Наполеона или всеобщие права человека? Клаузевиц не дает ответа.

Можно возразить, что цель № 4 - обеспечить искупление своей вечной души - не может быть серьезным кандидатом на высшую рациональную цель, потому что она основана на вере в мифологию. Но тот же аргумент можно привести и в отношении всех остальных целей. Вечные души - это интерсубъективное изобретение, существующее только в умах людей, и точно так же обстоит дело с нациями и правами человека. Почему Наполеон должен заботиться о мифической Франции больше, чем о своей мифической душе?

Действительно, большую часть своей юности Наполеон даже не считал себя французом. Он родился Наполеоном ди Буонапарте на Корсике, в семье итальянских эмигрантов. На протяжении пятисот лет Корсика находилась под властью итальянского города-государства Генуи, где жили многие предки Наполеона. Лишь в 1768 году - за год до рождения Наполеона - Генуя уступила остров Франции. Корсиканские националисты воспротивились передаче острова Франции и подняли восстание. Только после их поражения в 1770 году Корсика официально стала французской провинцией. Многие корсиканцы продолжали возмущаться захватом острова Францией, но семья ди Буонапарте присягнула на верность французскому королю и отправила Наполеона в военную школу на материковой части Франции.

В школе Наполеоне приходилось терпеть издевательства со стороны одноклассников за свой корсиканский национализм и плохое знание французского языка. Его родными языками были корсиканский и итальянский, и хотя он постепенно стал свободно говорить по-французски, у него на всю жизнь сохранился корсиканский акцент и неспособность правильно произносить французские слова. В конце концов Наполеоне поступил на службу во французскую армию, но когда в 1789 году разразилась революция, он вернулся на Корсику, надеясь, что революция даст возможность его любимому острову получить большую автономию. Только рассорившись с лидером корсиканского движения за независимость Паскуалем Паоли, Наполеон отказался от корсиканского дела в мае 1793 года. Он вернулся на материк, где решил строить свое будущее. Именно на этом этапе Наполеоне ди Буонапарте превратился в Наполеона Бонапарта (он продолжал использовать итальянский вариант своего имени до 1796 года).

Почему же тогда Наполеону было рационально посвятить свою военную карьеру превращению Франции в доминирующую державу в Европе? Может быть, рациональнее было остаться на Корсике, уладить личные разногласия с Паоли и посвятить себя освобождению родного острова от французских завоевателей? А может, Наполеону и в самом деле стоило сделать миссией своей жизни объединение Италии - земли его предков?

Клаузевиц не предлагает никакого метода рационального ответа на эти вопросы. Если наше единственное правило - "каждое действие должно быть согласовано с какой-то высшей целью", то по определению не существует рационального способа определить эту высшую цель. Как же тогда обеспечить компьютерной сети конечную цель, которую она не должна игнорировать или подрывать? Руководители и инженеры, которые спешат разработать ИИ, совершают огромную ошибку, если думают, что существует рациональный способ указать этому ИИ его конечную цель. Им следует извлечь уроки из горького опыта поколений философов, которые пытались определить конечные цели и потерпели неудачу.

КАНТИАНСКИЙ НАЦИСТ

На протяжении тысячелетий философы искали определение конечной цели, которая не зависела бы от соответствия некой высшей цели. Их внимание неоднократно привлекали два потенциальных решения, известные на философском жаргоне как деонтология и утилитаризм. Деонтологи (от греческого слова deon, означающего "долг") считают, что существуют некие универсальные моральные обязанности, или моральные правила, которые применимы ко всем. Эти правила не зависят от соответствия какой-то высшей цели, а скорее от их внутренней доброты. Если такие правила действительно существуют и если мы сможем найти способ запрограммировать их в компьютерах, то сможем быть уверены, что компьютерная сеть будет служить добру.

Но что именно означает "внутренняя доброта"? Самая известная попытка дать определение внутренне хорошему правилу была предпринята Иммануилом Кантом, современником Клаузевица и Наполеона. Кант утверждал, что внутренне хорошее правило - это любое правило, которое я хотел бы сделать универсальным. Согласно этой точке зрения, человек, собирающийся убить кого-то, должен остановиться и проанализировать следующий ход мыслей: "Сейчас я собираюсь убить человека. Хотел бы я установить универсальное правило, гласящее, что убивать людей можно? Если такое универсальное правило будет установлено, то кто-то может убить меня. Значит, не должно быть универсального правила, разрешающего убийство. Из этого следует, что я тоже не должен убивать". Говоря более простым языком, Кант переформулировал старое Золотое правило: "Поступай с другими так, как хочешь, чтобы поступали с тобой" (Матфея 7:12).

Это звучит как простая и очевидная идея: каждый из нас должен вести себя так, как мы хотим, чтобы вели себя все. Но идеи, которые хорошо звучат в бесплотном царстве философии, часто с трудом перекочевывают на суровую землю истории. Главный вопрос, который историки могли бы задать Канту: когда вы говорите о всеобщих правилах, как именно вы определяете понятие "всеобщий"? В реальных исторических обстоятельствах, когда человек собирается совершить убийство, первым его шагом часто становится исключение жертвы из универсального сообщества человечества. Именно так, например, поступили экстремисты-антирохинья, такие как Виратху. Будучи буддийским монахом, Виратху, конечно, был против убийства людей. Но он не считал, что это универсальное правило применимо к убийству рохинджа, которые считались недочеловеками. В своих постах и интервью он неоднократно сравнивал их со зверями, змеями, бешеными собаками, волками, шакалами и другими опасными животными. 30 октября 2017 года, в разгар насилия против рохинджа, другой, более высокопоставленный буддийский монах прочитал проповедь для военных, в которой оправдывал насилие против рохинджа тем, что небуддисты "не совсем люди".

В качестве эксперимента представьте себе встречу Иммануила Канта и Адольфа Эйхмана, который, кстати, считал себя кантианцем. Когда Эйхман подписывает приказ об отправке очередного эшелона с евреями в Освенцим, Кант говорит ему: "Вы собираетесь убить тысячи людей. Не хотите ли вы установить универсальное правило, гласящее, что убивать людей можно? Если вы это сделаете, вы и ваша семья тоже можете быть убиты". Эйхман отвечает: "Нет, я не собираюсь убивать тысячи людей. Я собираюсь убить тысячи евреев. Если вы спросите меня, хочу ли я установить универсальное правило, согласно которому убивать евреев можно, то я только за. Что касается меня и моей семьи, то нет никакого риска, что это универсальное правило приведет к тому, что нас убьют. Мы не евреи".

Один из возможных кантовских ответов Эйхману заключается в том, что при определении сущностей мы всегда должны использовать наиболее универсальное определение. Если сущность может быть определена как "еврей" или "человек", мы должны использовать более универсальный термин "человек". Однако вся суть нацистской идеологии заключалась в том, чтобы отрицать человечность евреев. Кроме того, обратите внимание, что евреи - это не просто люди. Они также животные и организмы. Поскольку животные и организмы, очевидно, являются более универсальными категориями, чем "человек", если следовать кантовскому аргументу до его логического завершения, это может подтолкнуть нас к крайней веганской позиции. Раз мы - организмы, значит ли это, что мы должны возражать против убийства любого организма, вплоть до помидоров или амёб?

В истории многие, если не большинство, конфликтов связаны с определением идентичности. Все согласны с тем, что убийство - это плохо, но считают, что "убийством" считается только убийство членов ин-группы, тогда как убийство кого-то из аут-группы таковым не является. Но ин-группы и аут-группы - это интерсубъективные сущности, определение которых обычно зависит от некоторой мифологии. Деонтологи, стремящиеся к универсальным рациональным правилам, часто оказываются в плену локальных мифов.

Эта проблема с деонтологией становится особенно острой, если мы пытаемся диктовать универсальные деонтологические правила не людям, а компьютерам. Компьютеры даже не являются органическими существами. Так что если они следуют правилу "Поступай с другими так, как хочешь, чтобы поступали с тобой", то почему их должно волновать убийство таких организмов, как люди? У кантовского компьютера, который не хочет, чтобы его убивали, нет причин возражать против универсального правила, гласящего, что "убивать организмы можно"; такое правило не угрожает неорганическому компьютеру.

С другой стороны, будучи неорганическими сущностями, компьютеры могут не беспокоиться о смерти. Насколько мы можем судить, смерть - это органическое явление, и оно может быть неприменимо к неорганическим сущностям. Когда древние ассирийцы говорили об "убийстве" документов, это была всего лишь метафора. Если компьютеры больше похожи на документы, чем на организмы, и их не волнует, что их "убивают", хотели бы мы, чтобы кантовский компьютер пришел к выводу, что убивать людей - это нормально?

Есть ли способ определить, о ком должны заботиться компьютеры, не увязая в каких-то интерсубъективных мифах? Самое очевидное предложение - сказать компьютерам, что они должны заботиться о любом существе, способном страдать. Хотя страдания часто вызваны верой в локальные интерсубъективные мифы, само страдание, тем не менее, является универсальной реальностью. Поэтому использование способности к страданию для определения критической внутренней группы обосновывает мораль в объективной и универсальной реальности. Самоуправляемый автомобиль должен избегать убийства всех людей - будь то буддист или мусульманин, француз или итальянец, - а также собак и кошек, и любых разумных роботов, которые могут когда-нибудь появиться. Мы можем даже усовершенствовать это правило, предписав автомобилю заботиться о различных существах прямо пропорционально их способности страдать. Если машине придется выбирать между убийством человека и убийством кошки, она должна будет проехать по кошке, потому что, предположительно, у нее меньше возможностей страдать. Но если мы пойдем в этом направлении, то непреднамеренно покинем лагерь деонтологов и окажемся в лагере их соперников - утилитаристов.

ИСЧИСЛЕНИЕ СТРАДАНИЙ

В то время как деонтологи пытаются найти универсальные правила, которые по своей сути являются хорошими, утилитаристы оценивают действия по их влиянию на страдания и счастье. Английский философ Джереми Бентам - еще один современник Наполеона, Клаузевица и Канта - говорил, что единственная рациональная конечная цель - это минимизация страданий в мире и максимизация счастья. Если наш главный страх перед компьютерными сетями заключается в том, что их несовпадающие цели могут причинить ужасные страдания людям и, возможно, другим разумным существам, то утилитарное решение кажется очевидным и привлекательным. Создавая компьютерную сеть, мы просто должны проинструктировать ее, чтобы она минимизировала страдания и максимизировала счастье. Если бы Facebook сказал своим алгоритмам "максимизировать счастье" вместо "максимизировать вовлеченность пользователей", все якобы было бы хорошо. Стоит отметить, что этот утилитарный подход действительно популярен в Кремниевой долине, в частности, его отстаивает движение за эффективный альтруизм38.

К сожалению, как и в случае с решением деонтологов, то, что звучит просто в теоретической области философии, становится чудовищно сложным в практической области истории. Проблема утилитаристов заключается в том, что мы не владеем исчислением страданий. Мы не знаем, сколько "очков страдания" или "очков счастья" нужно присвоить конкретным событиям, поэтому в сложных исторических ситуациях крайне сложно подсчитать, увеличивает или уменьшает то или иное действие общее количество страданий в мире.

Утилитаризм лучше всего проявляет себя в ситуациях, когда весы страданий очень четко склоняются в одну сторону. При столкновении с Эйхманом утилитаристам не нужно вступать в сложные споры об идентичности. Им достаточно указать на то, что Холокост причинил огромные страдания евреям, не принеся эквивалентных выгод никому другому, включая немцев. У немцев не было никакой убедительной военной или экономической необходимости убивать миллионы евреев. Утилитарные аргументы против Холокоста просто ошеломляют.

Утилитаристы также не знают себе равных, когда речь идет о "преступлениях без жертв", таких как гомосексуальность, в которых страдает только одна сторона. На протяжении веков преследование гомосексуалистов причиняло им огромные страдания, но, тем не менее, оправдывалось различными предрассудками, которые ошибочно выдавались за деонтологические универсальные правила. Кант, например, осуждал гомосексуальность на том основании, что она "противоречит естественному инстинкту и животной природе" и, следовательно, унижает человека "до уровня животных". Кант также утверждал, что, поскольку такие действия противоречат природе, они "делают человека недостойным своей человечности. Он больше не заслуживает быть человеком". Кант, по сути, превратил христианский предрассудок в якобы универсальное деонтологическое правило, не предоставив эмпирических доказательств того, что гомосексуальность действительно противоречит природе. В свете вышеизложенного обсуждения дегуманизации как прелюдии к массовому убийству следует отметить, как Кант дегуманизировал геев. Мнение о том, что гомосексуальность противоречит природе и лишает людей человечности, позволило нацистам вроде Эйхмана оправдать убийства гомосексуалов в концлагерях. Поскольку гомосексуалисты якобы находятся ниже уровня животных, кантовское правило, запрещающее убивать людей, на них не распространяется.

Утилитаристы легко отвергают сексуальные теории Канта, и Бентам действительно был одним из первых современных европейских мыслителей, выступавших за декриминализацию гомосексуальности. Утилитаристы утверждают, что криминализация гомосексуальности во имя какого-то сомнительного универсального правила причиняет огромные страдания миллионам людей, не принося при этом никакой существенной пользы другим. Когда двое мужчин вступают в любовные отношения, это делает их счастливыми, не делая несчастными никого другого. Зачем же тогда запрещать это? Подобная утилитарная логика привела и ко многим другим современным реформам, таким как запрет на пытки и введение некоторых видов правовой защиты животных.

Но в исторических ситуациях, когда чаша весов страданий оказывается более равной, утилитаризм дает сбой. В первые дни пандемии COVID-19 правительства по всему миру приняли жесткую политику социальной изоляции и изоляции. Это, вероятно, спасло жизни нескольким миллионам человек. А также сделало сотни миллионов несчастными на несколько месяцев. Более того, это могло стать косвенной причиной множества смертей, например, увеличив число случаев насилия в семье или затруднив диагностику и лечение других опасных заболеваний, например рака. Может ли кто-нибудь подсчитать общее воздействие политики изоляции и определить, увеличили или уменьшили они страдания в мире?

Это может показаться идеальной задачей для неумолимой компьютерной сети. Но как компьютерная сеть решит, сколько "очков страданий" нужно начислять за то, что вас с тремя детьми заперли в двухкомнатной квартире на месяц? 60 очков страданий или 600? А сколько очков начислять больному раком, который умер, потому что пропустил курс химиотерапии? Это 60 000 очков страданий или 600 000? А что, если она все равно умерла бы от рака, а химиотерапия лишь продлила бы ее жизнь на пять мучительных месяцев? Должны ли компьютеры оценивать пять месяцев жизни с сильной болью как чистый выигрыш или чистый проигрыш для общей суммы страданий в мире?

А как компьютерная сеть оценит страдания, вызванные менее осязаемыми вещами, такими как осознание собственной смертности? Если религиозный миф обещает нам, что на самом деле мы никогда не умрем, потому что после смерти наша вечная душа отправится на небеса, делает ли это нас по-настоящему счастливыми или просто заблуждениями? Является ли смерть глубинной причиной наших страданий, или же наши страдания проистекают из наших попыток отрицать смерть? Если кто-то теряет свою религиозную веру и смиряется со своей смертностью, должна ли компьютерная сеть рассматривать это как чистую потерю или как чистый выигрыш?

А как насчет еще более сложных исторических событий, таких как американское вторжение в Ирак? Американцы прекрасно понимали, что их вторжение приведет к огромным страданиям миллионов людей. Но в долгосрочной перспективе, утверждали они, выгоды от установления свободы и демократии в Ираке перевесят затраты. Может ли компьютерная сеть вычислить, насколько обоснован этот аргумент? Даже если теоретически он был правдоподобен, на практике американцам не удалось установить в Ираке стабильную демократию. Значит ли это, что их попытка была изначально ошибочной?

Как деонтологи, пытающиеся ответить на вопрос об идентичности, вынуждены принимать утилитарные идеи, так и утилитаристы, запутавшиеся в отсутствии исчисления страданий, часто занимают позицию деонтологов. Они поддерживают общие правила вроде "избегать агрессивных войн" или "защищать права человека", хотя и не могут показать, что следование этим правилам всегда уменьшает общее количество страданий в мире. История дает им лишь смутное представление о том, что следование этим правилам, как правило, уменьшает страдания. А когда некоторые из этих общих правил вступают в противоречие - например, при рассмотрении вопроса о развязывании агрессивной войны для защиты прав человека, - утилитаризм не предлагает большой практической помощи. Даже самая мощная компьютерная сеть не сможет произвести необходимые расчеты.

Соответственно, хотя утилитаризм обещает рациональный - и даже математический - способ согласования каждого действия с "высшим благом", на практике он вполне может породить очередную мифологию. Верующие коммунисты, столкнувшись с ужасами сталинизма, часто отвечали, что счастье, которое испытают будущие поколения при "настоящем социализме", искупит любые кратковременные страдания в ГУЛАГе. Либертарианцы, когда их спрашивают о непосредственном социальном вреде неограниченной свободы слова или полной отмены налогов, выражают аналогичную веру в то, что будущие блага перевесят любой краткосрочный ущерб. Опасность утилитаризма заключается в том, что если у вас есть достаточно сильная вера в будущую утопию, она может стать открытой лицензией на причинение ужасных страданий в настоящем. Именно эту уловку обнаружили традиционные религии тысячи лет назад. Преступления этого мира можно было слишком легко оправдать обещаниями будущего спасения.

КОМПЬЮТЕРНАЯ МИФОЛОГИЯ

Как же бюрократические системы на протяжении всей истории человечества определяли свои конечные цели? Они полагались на мифологию, которая делала это за них. Какими бы рациональными ни были чиновники, инженеры, сборщики налогов и бухгалтеры, в конечном итоге они находились на службе у того или иного мифотворца. Перефразируя Джона Мейнарда Кейнса, можно сказать, что практичные люди, считающие себя совершенно свободными от религиозного влияния, обычно оказываются рабами того или иного мифотворца. Даже физики-ядерщики оказываются послушными командам шиитских аятолл и коммунистических аппаратчиков.

Проблема выравнивания оказывается, в сущности, проблемой мифологии. Нацистские администраторы могли быть убежденными деонтологами или утилитаристами, но они все равно убили бы миллионы людей, если бы понимали мир в терминах расистской мифологии. Если начать с мифологической веры в то, что евреи - демонические чудовища, стремящиеся уничтожить человечество, то и деонтологи, и утилитаристы смогут найти множество логических аргументов, почему евреев следует убивать.

Аналогичная проблема может возникнуть и с компьютерами. Конечно, они не могут "верить" ни в какую мифологию, поскольку являются бессознательными сущностями, которые ни во что не верят. Пока у них нет субъективности, как они могут иметь интерсубъективные убеждения? Однако одна из самых важных вещей, которые необходимо осознать в отношении компьютеров, заключается в том, что когда множество компьютеров общаются друг с другом, они могут создавать межкомпьютерные реальности, аналогичные межсубъектным реальностям, создаваемым сетями людей. Эти межкомпьютерные реальности могут со временем стать такими же мощными и такими же опасными, как и созданные человеком межсубъективные мифы.

Это очень сложный аргумент, но он является одним из центральных аргументов книги, поэтому давайте внимательно его рассмотрим. Для начала давайте попробуем понять, что такое межкомпьютерные реальности. В качестве начального примера рассмотрим компьютерную игру для одного игрока. В такой игре вы можете бродить по виртуальному ландшафту, который существует как информация внутри одного компьютера. Если вы видите камень, то он не состоит из атомов. Он состоит из битов внутри одного компьютера. Когда несколько компьютеров связаны друг с другом, они могут создавать межкомпьютерные реальности. Несколько игроков, использующих разные компьютеры, могут вместе бродить по общему виртуальному ландшафту. Если они увидят камень, то этот камень состоит из битов в нескольких компьютерах.

Как межсубъектные реальности, такие как деньги и боги, могут влиять на физическую реальность вне сознания людей, так и межкомпьютерные реальности могут влиять на реальность вне компьютеров. В 2016 году игра Pokémon Go захватила мир и к концу года была скачана сотни миллионов раз. Pokémon Go - это мобильная игра с дополненной реальностью. Игроки могут использовать свои смартфоны, чтобы находить, сражаться и ловить виртуальных существ, называемых покемонами, которые как будто существуют в физическом мире. Однажды я отправился со своим племянником Матаном на такую охоту за покемонами. Гуляя по его району, я видел только дома, деревья, камни, машины, людей, кошек, собак и голубей. Никаких покемонов я не видел, потому что у меня не было смартфона. Но Матан, глядя вокруг через объектив своего смартфона, мог "увидеть" покемонов, стоящих на камне или прячущихся за деревом.

Хотя я не мог видеть существ, они явно не ограничивались смартфоном Матана, потому что другие люди тоже могли их "видеть". Например, мы столкнулись с двумя другими детьми, которые охотились за теми же покемонами. Если Матану удавалось поймать покемона, другие дети могли сразу же наблюдать за происходящим. Покемоны были межкомпьютерными сущностями. Они существовали как биты в компьютерной сети, а не как атомы в физическом мире, но, тем не менее, они могли взаимодействовать с физическим миром и влиять на него различными способами.

Теперь давайте рассмотрим более показательный пример межкомпьютерных реалий. Рассмотрим рейтинг, который получает сайт в поиске Google. Когда мы ищем в Google новости, авиабилеты или рекомендации по ресторанам, один сайт появляется в верхней части первой страницы Google, в то время как другой опускается в середину пятидесятой страницы. Что же такое этот рейтинг Google и как он определяется? Алгоритм Google определяет рейтинг сайта в Google, начисляя баллы по различным параметрам, таким как количество посетителей сайта и количество других сайтов, ссылающихся на него. Сам рейтинг - это межкомпьютерная реальность, существующая в сети, объединяющей миллиарды компьютеров, - интернете. Подобно покемонам, эта межкомпьютерная реальность перетекает в физический мир. Для новостного издания, туристического агентства или ресторана имеет большое значение, находится ли его сайт в верхней части первой страницы Google или в середине пятидесятой страницы.

Поскольку рейтинг Google так важен, люди используют всевозможные уловки для манипулирования алгоритмом Google, чтобы придать своему сайту более высокий рейтинг. Например, они могут использовать ботов, чтобы генерировать больше трафика на сайт. Это широко распространенное явление и в социальных сетях, где скоординированные армии ботов постоянно манипулируют алгоритмами YouTube, Facebook или Twitter. Если твит становится вирусным, это происходит потому, что им действительно заинтересовались люди, или потому, что тысячи ботов сумели обмануть алгоритм Twitter?

Межкомпьютерные реальности, такие как покемоны и ранги Google, аналогичны межсубъективным реальностям, таким как святость, которую люди приписывают храмам и городам. Я прожил большую часть своей жизни в одном из самых святых мест на земле - городе Иерусалиме. Объективно это обычное место. Гуляя по Иерусалиму, вы видите дома, деревья, камни, машины, людей, кошек, собак и голубей, как и в любом другом городе. Но многие люди, тем не менее, воображают, что это необыкновенное место, полное богов, ангелов и святых камней. Они верят в это настолько сильно, что иногда дерутся за владение городом или отдельными святыми зданиями и священными камнями, в частности, за Святую скалу, расположенную под Куполом Скалы на Храмовой горе. Палестинский философ Сари Нуссейбех заметил, что "евреи и мусульмане, руководствуясь религиозными убеждениями и опираясь на ядерный потенциал, готовы устроить самую страшную в истории человеческую резню из-за камня". Они сражаются не за атомы, из которых состоит камень; они сражаются за его "святость", подобно тому, как дети сражаются за покемона. Святость Святой скалы и Иерусалима в целом - это интерсубъективный феномен, существующий в коммуникационной сети, соединяющей множество человеческих умов. На протяжении тысячелетий войны велись за такие интерсубъективные объекты, как святые камни. В XXI веке мы можем увидеть войны, ведущиеся за межкомпьютерные сущности.

Если это звучит как научная фантастика, подумайте о возможных изменениях в финансовой системе. По мере того как компьютеры становятся все более интеллектуальными и творческими, они, вероятно, будут создавать новые межкомпьютерные финансовые устройства. Золотые монеты и доллары - это межсубъектные сущности. Криптовалюты, такие как биткоин, находятся на полпути между межсубъектными и межкомпьютерными. Идея, лежащая в их основе, была придумана людьми, и их стоимость по-прежнему зависит от человеческих убеждений, но они не могут существовать вне компьютерной сети. Кроме того, торговля ими все чаще осуществляется с помощью алгоритмов, так что их стоимость зависит от расчетов алгоритмов, а не только от человеческих убеждений.

Что, если через десять или пятьдесят лет компьютеры создадут новый вид криптовалюты или другое финансовое устройство, которое станет жизненно важным инструментом для торговли и инвестирования и потенциальным источником политических кризисов и конфликтов? Вспомните, что мировой финансовый кризис 2007-8 годов был спровоцирован обеспеченными долговыми обязательствами. Эти финансовые устройства были изобретены горсткой математиков и инвестиционных вундеркиндов и были практически непонятны большинству людей, включая регуляторов. Это привело к сбою надзора и глобальной катастрофе.51 Компьютеры вполне могут создать финансовые устройства, которые будут на порядки сложнее, чем CDO, и будут понятны только другим компьютерам. Результатом может стать финансовый и политический кризис, еще более страшный, чем в 2007-8 годах.

На протяжении всей истории экономика и политика требовали от нас понимания интерсубъективных реальностей, придуманных людьми, - религий, наций и валют. Тот, кто хотел понять американскую политику, должен был принимать во внимание такие интерсубъективные реальности, как христианство и CDO. Однако все чаще понимание американской политики будет требовать понимания межкомпьютерных реальностей - от культов и валют, созданных ИИ, до политических партий, управляемых ИИ, и даже полностью инкорпорированных ИИ. Правовая система США уже признает корпорации юридическими лицами, обладающими такими правами, как свобода слова. В деле Citizens United v. Federal Election Commission (2010) Верховный суд США постановил, что это даже защищает право корпораций делать политические пожертвования.52 Что может помешать ИИ быть зарегистрированным и признанным юридическим лицом со свободой слова, а затем лоббировать и делать политические пожертвования для защиты и расширения прав ИИ?

На протяжении десятков тысяч лет люди доминировали на планете Земля, потому что только мы были способны создавать и поддерживать такие интерсубъективные образования, как корпорации, валюты, боги и нации, и использовать их для организации масштабного сотрудничества. Теперь сопоставимые способности могут обрести и компьютеры.

Это не обязательно плохая новость. Если бы компьютеры не обладали связностью и креативностью, они были бы не очень полезны. Мы все больше полагаемся на компьютеры в управлении нашими деньгами, вождении автомобилей, снижении загрязнения окружающей среды и открытии новых лекарств именно потому, что компьютеры могут напрямую общаться друг с другом, выявлять закономерности там, где мы не можем, и строить модели, которые никогда бы не пришли нам в голову. Проблема, с которой мы сталкиваемся, заключается не в том, как лишить компьютеры творческого потенциала, а в том, как направить их творчество в нужное русло. Это та же проблема, что и с человеческим творчеством. Межсубъектные сущности, изобретенные людьми, были основой всех достижений человеческой цивилизации, но время от времени они приводили к крестовым походам, джихадам и охоте на ведьм. Межкомпьютерные сущности, вероятно, станут основой будущих цивилизаций, но тот факт, что компьютеры собирают эмпирические данные и используют математику для их анализа, не означает, что они не могут устраивать свои собственные охоты на ведьм.

НОВЫЕ ВЕДЬМЫ

В ранней современной Европе сложная информационная сеть проанализировала огромное количество данных о преступлениях, болезнях и катастрофах и пришла к выводу, что во всем виноваты ведьмы. Чем больше данных собирали охотники на ведьм, тем больше убеждались, что мир полон демонов и колдовства и что существует глобальный сатанинский заговор с целью уничтожения человечества. Информационная сеть позволяла выявлять ведьм и сажать их в тюрьму или убивать. Теперь мы знаем, что ведьмы были фиктивной интерсубъективной категорией, придуманной самой информационной сетью и навязанной людям, которые никогда не встречались с Сатаной и не могли вызывать град.

В Советском Союзе еще более сложная информационная сеть придумала кулаков - еще одну мифическую категорию, которая была навязана миллионам. Горы информации, собранные советской бюрократией о кулаках, не были объективной истиной, но они создали новую интерсубъективную истину. Знание о том, что кто-то был кулаком, стало одной из самых важных вещей, которые нужно было знать о советском человеке, даже если эта категория была фиктивной.

В еще более широком масштабе, с XVI по XX век, многочисленные колониальные бюрократии в Северной и Южной Америке, от Бразилии, Мексики и Карибского бассейна до Соединенных Штатов, создали расистскую мифологию и придумали всевозможные интерсубъективные расовые категории. Людей делили на европейцев, африканцев и коренных американцев, а поскольку межрасовые сексуальные отношения были широко распространены, были придуманы дополнительные категории. Во многих испанских колониях законы различали метисов - людей со смешанным испанским и коренным американским происхождением; мулатов - людей со смешанным испанским и африканским происхождением; замбос - людей со смешанным африканским и коренным американским происхождением; пардос - людей со смешанным испанским, африканским и коренным американским происхождением. Все эти, казалось бы, эмпирические категории определяли, могут ли люди находиться в рабстве, пользоваться политическими правами, носить оружие, занимать государственные должности, быть принятыми в школу, заниматься определенными профессиями, жить в определенных кварталах, иметь право заниматься сексом и вступать в брак друг с другом. Утверждалось, что, поместив человека в определенный расовый ящик, можно определить его личность, интеллектуальные способности и этические наклонности.

В XIX веке расизм претендовал на звание точной науки: он утверждал, что различает людей на основе объективных биологических фактов, и опирался на научные инструменты, такие как измерение черепов и учет статистики преступлений. Но облако цифр и категорий было лишь дымовой завесой для абсурдных интерсубъективных мифов. Тот факт, что у кого-то бабушка - коренная американка или отец - африканец, конечно же, ничего не говорит об их интеллекте, доброте или честности. Эти фиктивные категории не открывали и не описывали никакой правды о людях; они навязывали им угнетающий, мифологический порядок.

По мере того как компьютеры заменяют людей во все большем количестве бюрократических структур, от сбора налогов и здравоохранения до обеспечения безопасности и правосудия, они тоже могут создать мифологию и навязать ее нам с беспрецедентной эффективностью. В мире, где правили бумажные документы, бюрократам было сложно следить за расовыми границами или отслеживать точную родословную каждого человека. Люди могли получать фальшивые документы. Замбо мог переехать в другой город и притвориться пардо. Чернокожий мог иногда выдавать себя за белого. Точно так же в Советском Союзе детям кулаков иногда удавалось подделать свои документы, чтобы получить хорошую работу или место в колледже. В нацистской Европе евреи иногда могли принимать арийскую идентичность. Но в мире, где правят компьютеры, способные считывать радужные оболочки глаз и ДНК, а не бумажные документы, обмануть систему будет гораздо сложнее. Компьютеры могут с пугающей эффективностью навешивать на людей ложные ярлыки и следить за тем, чтобы эти ярлыки приклеивались.

Например, системы социальных кредитов могут создать новый низший класс "людей с низкой кредитоспособностью". Такая система может утверждать, что она просто "открывает" истину с помощью эмпирического и математического процесса суммирования баллов для формирования общей оценки. Но как именно она будет определять просоциальное и антисоциальное поведение? Что произойдет, если такая система будет снимать баллы за критику политики правительства, за чтение иностранной литературы, за исповедование религии меньшинства, за отсутствие религии или за общение с другими людьми с низким кредитом? В качестве эксперимента подумайте, что может произойти, когда новая технология системы социальных кредитов встретится с традиционными религиями.

В таких религиях, как иудаизм, христианство и ислам, всегда считалось, что где-то там, за облаками, есть всевидящее око, которое начисляет или снимает баллы за все, что мы делаем, и что наша вечная судьба зависит от того, сколько баллов мы набрали. Конечно, никто не мог быть уверен в своем результате. Это можно было узнать только после смерти. С практической точки зрения это означало, что греховность и святость - интерсубъективные явления, само определение которых зависит от общественного мнения. Что может случиться, если иранский режим, например, решит использовать свою компьютерную систему наблюдения не только для того, чтобы обеспечить соблюдение строгих законов о хиджабах, но и для того, чтобы превратить греховность и святость в точные межкомпьютерные феномены? Вы не надели хиджаб на улице - это -10 баллов. Вы поели в Рамадан до захода солнца - еще 20 баллов. Вы ходили на пятничную молитву в мечеть - +5 баллов. Вы совершили паломничество в Мекку - +500 баллов. Затем система может суммировать все баллы и разделить людей на "грешников" (менее 0 баллов), "верующих" (от 0 до 1 000 баллов) и "святых" (более 1 000 баллов). Кто является грешником или святым, будет зависеть от алгоритмических расчетов, а не от убеждений человека. Будет ли такая система открывать правду о людях или навязывать им порядок?

Аналогичные проблемы могут возникнуть у всех систем социального кредитования и режимов тотальной слежки. Всякий раз, когда они заявляют, что используют всеохватывающие базы данных и сверхточную математику для выявления грешников, террористов, преступников, антисоциальных или не заслуживающих доверия людей, на самом деле они могут с беспрецедентной эффективностью навязывать беспочвенные религиозные и идеологические предрассудки.

КОМПЬЮТЕРНАЯ ОШИБКА

Некоторые люди надеются решить проблему религиозных и идеологических предубеждений, предоставив компьютерам еще больше власти. Аргумент в пользу этого может быть следующим: расизм, женоненавистничество, гомофобия, антисемитизм и все остальные предрассудки зарождаются не в компьютерах, а в психологических состояниях и мифологических убеждениях человеческих существ. Компьютеры - это математические существа, у которых нет ни психологии, ни мифологии. Поэтому, если бы мы могли полностью исключить человека из уравнения, алгоритмы могли бы, наконец, принимать решения на основе чистой математики, свободной от всех психологических искажений или мифологических предрассудков.

К сожалению, многочисленные исследования показали, что компьютеры часто имеют свои собственные глубоко укоренившиеся предубеждения. Хотя они не являются биологическими существами и не обладают сознанием, у них есть нечто похожее на цифровую психику и даже своего рода межкомпьютерная мифология. Они вполне могут быть расистами, женоненавистниками, гомофобами или антисемитами. Например, 23 марта 2016 года компания Microsoft выпустила ИИ-чатбота Tay, предоставив ему свободный доступ к Twitter. Уже через несколько часов Тэй начала публиковать женоненавистнические и антисемитские твиты, такие как "Я чертовски ненавижу феминисток, и все они должны умереть и гореть в аду" и "Гитлер был прав, я ненавижу евреев". Ярость нарастала до тех пор, пока инженеры Microsoft в ужасе не закрыли Tay - всего через шестнадцать часов после его выпуска.

Более тонкий, но широко распространенный расизм был обнаружен в 2017 году профессором Массачусетского технологического института Джой Буоламвини в коммерческих алгоритмах классификации лиц. Она показала, что эти алгоритмы очень точно определяют белых мужчин, но крайне неточно идентифицируют чернокожих женщин. Например, алгоритм IBM ошибался всего на 0,3 % при определении пола светлокожих мужчин, но на 34,7 % при попытке определить пол темнокожих женщин. В качестве качественного теста Буоламвини попросил алгоритмы классифицировать фотографии афроамериканской активистки Соджорнер Трут, известной своей речью 1851 года "Разве я не женщина?". Алгоритмы определили Истину как мужчину.

Когда Буоламвини, которая является американкой ганского происхождения, проверила другой алгоритм анализа лица, чтобы идентифицировать себя, алгоритм вообще не смог "увидеть" ее темнокожее лицо. В данном контексте "видеть" означает способность распознавать присутствие человеческого лица, что используется, например, камерами телефонов для определения места фокусировки. Алгоритм легко видел светлокожие лица, но не лицо Буоламвини. Только когда Буоламвини надел белую маску, алгоритм распознал, что видит человеческое лицо.

Что здесь происходит? Один из ответов может заключаться в том, что инженеры-расисты и женоненавистники закодировали эти алгоритмы таким образом, чтобы дискриминировать чернокожих женщин. Хотя мы не можем исключить возможность того, что такое случается, в случае с алгоритмами классификации лиц или Tay от Microsoft это не было ответом. На самом деле эти алгоритмы сами уловили расистские и женоненавистнические предубеждения из данных, на которых они обучались.

Чтобы понять, как это могло произойти, нужно кое-что рассказать об истории алгоритмов. Изначально алгоритмы не могли многому научиться самостоятельно. Например, в 1980-х и 1990-х годах алгоритмы для игры в шахматы почти всему, что они знали, обучали их программисты-люди. Люди закладывали в алгоритм не только основные правила игры в шахматы, но и то, как оценивать различные позиции и ходы на доске. Например, люди ввели правило, согласно которому жертвовать ферзя в обмен на пешку - обычно плохая идея. Эти ранние алгоритмы смогли победить человеческих мастеров шахмат только потому, что алгоритмы могли просчитать гораздо больше ходов и оценить гораздо больше позиций, чем человек. Но возможности алгоритмов оставались ограниченными. Поскольку они полагались на человека, который должен был рассказать им все секреты игры, если люди-кодеры чего-то не знали, то и созданные ими алгоритмы вряд ли могли это знать.

По мере развития машинного обучения алгоритмы обретали все большую самостоятельность. Фундаментальный принцип машинного обучения заключается в том, что алгоритмы могут сами обучать себя новым вещам, взаимодействуя с миром, как это делают люди, и таким образом создавать полноценный искусственный интеллект. Терминология не всегда последовательна, но в целом, чтобы что-то было признано ИИ, оно должно быть способно самостоятельно учиться новому, а не просто следовать инструкциям своих первоначальных создателей-людей. Современный ИИ, играющий в шахматы, не обучается ничему, кроме основных правил игры. Всему остальному он учится сам, либо анализируя базы данных предыдущих партий, либо играя в новые партии и извлекая уроки из опыта. ИИ - это не тупой автомат, который повторяет одни и те же движения снова и снова, независимо от результатов. Напротив, он оснащен мощными механизмами самокоррекции, которые позволяют ему учиться на собственных ошибках.

Это означает, что ИИ начинает свою жизнь как "детский алгоритм", который обладает большим потенциалом и вычислительной мощностью, но на самом деле мало что знает. Человеческие родители ИИ дают ему только способность к обучению и доступ к миру данных. Затем они позволяют детскому алгоритму исследовать мир. Как и органические новорожденные, детские алгоритмы учатся, замечая закономерности в данных, к которым они имеют доступ. Если я прикоснусь к огню, мне будет больно. Если я заплачу, придет мама. Если я пожертвую ферзем ради пешки, то, скорее всего, проиграю партию. Находя закономерности в данных, детский алгоритм узнает больше, в том числе многое из того, чего не знают его родители-люди.

Однако базы данных не лишены погрешностей. Алгоритмы классификации лиц, изученные Джой Буоламвини, были обучены на наборах данных, состоящих из помеченных онлайн-фотографий, таких как база данных Labeled Faces in the Wild. Фотографии в этой базе данных были взяты в основном из новостных статей в Интернете. Поскольку в новостях преобладают белые мужчины, 78 % фотографий в базе данных были мужскими, а 84 % - белыми. Джордж Буш-младший фигурировал 530 раз - более чем в два раза чаще, чем все чернокожие женщины вместе взятые. Другая база данных, подготовленная правительственным агентством США, более чем на 75 % состояла из мужчин, почти на 80 % из светлокожих и всего на 4,4 % из темнокожих женщин. Неудивительно, что алгоритмы, обученные на таких наборах данных, отлично идентифицировали белых мужчин, но плохо идентифицировали чернокожих женщин. Нечто подобное произошло и с чатботом Tay. Инженеры Microsoft не закладывали в него никаких предрассудков. Но несколько часов воздействия токсичной информации, циркулирующей в Twitter, превратили ИИ в ярого расиста63.

Дальше - хуже. Для того чтобы обучаться, детским алгоритмам, помимо доступа к данным, нужна еще одна вещь. Им также нужна цель. Человеческий ребенок учится ходить, потому что хочет куда-то попасть. Львенок учится охотиться, потому что хочет есть. Алгоритмы тоже должны иметь цель, чтобы учиться. В шахматах легко определить цель: взять короля противника. ИИ узнает, что жертвовать ферзем ради пешки - это "ошибка", потому что она обычно мешает алгоритму достичь цели. При распознавании лиц цель также проста: определить пол, возраст и имя человека, указанные в исходной базе данных. Если алгоритм догадался, что Джордж Буш-старший - женщина, а в базе данных указано, что мужчина, цель не достигнута, и алгоритм учится на своей ошибке.

Но если вы хотите обучить, например, алгоритм найма персонала, как вы определите цель? Как алгоритм узнает, что он совершил ошибку и нанял "не того" человека? Мы можем сказать алгоритму, что его цель - нанимать людей, которые остаются в компании не менее года. Работодатели, очевидно, не хотят тратить много времени и денег на обучение работника, который через несколько месяцев увольняется или уходит. Определив таким образом цель, пора обратиться к данным. В шахматах алгоритм может получить любое количество новых данных, просто играя против самого себя. Но на рынке труда это невозможно. Никто не может создать целый воображаемый мир, в котором детский алгоритм может нанимать и увольнять воображаемых людей и учиться на этом опыте. Детский алгоритм может обучаться только на существующей базе данных о реальных людях. Как львята узнают, что такое зебра, наблюдая за узорами в реальной саванне, так и детские алгоритмы узнают, что такое хороший сотрудник, наблюдая за узорами в реальных компаниях.

К сожалению, если реальные компании уже страдают от каких-то укоренившихся предрассудков, детский алгоритм, скорее всего, усвоит эти предрассудки и даже усилит их. Например, алгоритм, ищущий в реальных данных паттерны "хороших сотрудников", может прийти к выводу, что нанимать племянников босса - всегда хорошая идея, независимо от того, какой еще квалификацией они обладают. Ведь данные явно указывают на то, что "племянников босса" обычно берут на работу, когда они претендуют на нее, и редко увольняют. Детский алгоритм заметит эту закономерность и станет кумовьями. Если его поставить во главе отдела кадров, он начнет отдавать предпочтение племянникам босса.

Аналогично, если компании в женоненавистническом обществе предпочитают нанимать мужчин, а не женщин, алгоритм, обученный на реальных данных, скорее всего, уловит и это предубеждение. Так и произошло, когда в 2014-18 годах компания Amazon попыталась разработать алгоритм для отбора заявок на работу. Изучая предыдущие успешные и неуспешные заявки, алгоритм начал систематически понижать рейтинг заявок только за то, что они содержали слово "женщина" или поступали от выпускниц женских колледжей. Поскольку имеющиеся данные показывали, что в прошлом у таких заявок было меньше шансов на успех, алгоритм выработал предубеждение против них. Алгоритм думал, что он просто открыл объективную истину о мире: кандидаты, окончившие женские колледжи, менее квалифицированы. На самом деле он просто усвоил и навязал женоненавистническое предубеждение. Amazon пыталась решить эту проблему, но не смогла, и в итоге отказалась от проекта.

База данных, на которой обучается ИИ, чем-то похожа на детство человека. Детские впечатления, травмы и сказки остаются с нами на всю жизнь. У ИИ тоже есть детский опыт. Алгоритмы могут даже заражать друг друга своими предубеждениями, как это делают люди. Рассмотрим будущее общество, в котором алгоритмы повсеместно распространены и используются не только для отбора кандидатов на работу, но и для того, чтобы рекомендовать людям, что изучать в колледже. Предположим, что в силу существовавших ранее женоненавистнических предубеждений 80 % рабочих мест в инженерной сфере отдается мужчинам. В таком обществе алгоритм, нанимающий новых инженеров, скорее всего, не только скопирует это предубеждение, но и заразит им алгоритмы, рекомендующие колледжи. Молодую женщину, поступающую в колледж, могут отговорить от изучения инженерного дела, поскольку существующие данные указывают на то, что у нее меньше шансов получить работу. То, что начиналось как человеческий межсубъективный миф о том, что "женщины плохо разбираются в инженерии", может превратиться в межкомпьютерный миф. Если мы не избавимся от предубеждения в самом начале, компьютеры могут увековечить и усилить его.

Но избавиться от предвзятости алгоритмов может быть так же сложно, как и от предвзятости людей. После обучения алгоритма требуется много времени и усилий, чтобы "отучить" его. Мы можем решить просто выбросить предвзятый алгоритм и обучить совершенно новый алгоритм на новом наборе менее предвзятых данных. Но где мы найдем набор абсолютно беспристрастных данных?

Многие алгоритмические предубеждения, рассмотренные в этой и предыдущих главах, имеют одну и ту же фундаментальную проблему: компьютер думает, что открыл какую-то истину о людях, а на самом деле он навязывает им порядок. Алгоритм социальных сетей думает, что обнаружил, что людям нравится возмущение, а на самом деле это сам алгоритм обусловил людей производить и потреблять больше возмущения. Такие предубеждения возникают, с одной стороны, из-за того, что компьютеры не учитывают весь спектр человеческих способностей, а с другой - из-за того, что компьютеры не учитывают свои собственные возможности влиять на людей. Даже если компьютеры наблюдают, что почти все люди ведут себя определенным образом, это не значит, что люди обязательно будут вести себя так же. Возможно, это просто означает, что компьютеры сами поощряют такое поведение, наказывая и блокируя альтернативные варианты. Чтобы компьютеры могли более точно и ответственно смотреть на мир, они должны учитывать свою силу и влияние. А чтобы это произошло, люди, которые в настоящее время разрабатывают компьютеры, должны признать, что они не создают новые инструменты. Они высвобождают новые виды независимых агентов и, возможно, даже новые виды богов.

НОВЫЕ БОГИ?

В книге "Бог, человек, животное, машина" философ Меган О'Гиблин показывает, что на наше понимание компьютеров сильно влияют традиционные мифологии. В частности, она подчеркивает сходство между всеведущим и непостижимым богом иудео-христианской теологии и современными ИИ, чьи решения кажутся нам одновременно непогрешимыми и непостижимыми. Это может представлять для людей опасный соблазн.

В главе 4 мы увидели, что уже тысячи лет назад люди мечтали найти непогрешимую информационную технологию, которая защитила бы нас от человеческой коррупции и ошибок. Священные книги были дерзкой попыткой создать такую технологию, но она провалилась. Поскольку книга не могла толковать сама себя, необходимо было создать человеческий институт, который бы толковал священные слова и адаптировал их к меняющимся обстоятельствам. Разные люди по-разному интерпретировали священную книгу, тем самым открывая дверь для коррупции и ошибок. Но в отличие от священной книги, компьютеры могут адаптироваться к меняющимся обстоятельствам, а также интерпретировать свои решения и идеи за нас. В результате некоторые люди могут прийти к выводу, что поиски непогрешимой технологии наконец увенчались успехом и что мы должны относиться к компьютерам как к священной книге, которая может говорить с нами и толковать сама себя, не нуждаясь во вмешательстве человеческих институтов.

Это было бы чрезвычайно опасной авантюрой. Когда определенные интерпретации священных писаний время от времени приводили к таким бедствиям, как охота на ведьм и религиозные войны, люди всегда были способны изменить свои убеждения. Когда человеческое воображение вызывало воинственного и полного ненависти бога, у нас оставалась возможность избавиться от него и представить себе более терпимое божество. Но алгоритмы - независимые агенты, и они уже отбирают у нас власть. Если они приведут к катастрофе, простое изменение наших представлений о них не обязательно остановит их. И весьма вероятно, что если доверить компьютерам власть, они действительно приведут к катастрофе, ведь они ошибаются.

Когда мы говорим, что компьютеры ошибаются, это значит гораздо больше, чем то, что они иногда допускают фактическую ошибку или принимают неверное решение. Гораздо важнее, что, как и человеческая сеть до нее, компьютерная сеть может не найти правильного баланса между истиной и порядком. Создавая и навязывая нам мощные межкомпьютерные мифы, компьютерная сеть может вызвать исторические катаклизмы, которые превзойдут по масштабам европейские охоты на ведьм раннего нового времени или сталинскую коллективизацию.

Представьте себе сеть из миллиардов взаимодействующих компьютеров, которые накапливают огромное количество информации о мире. Преследуя различные цели, компьютеры, объединенные в сеть, разрабатывают общую модель мира, которая помогает им общаться и сотрудничать. Эта общая модель, вероятно, будет полна ошибок, вымыслов и пробелов, и будет скорее мифологией, чем правдивым описанием Вселенной. Один из примеров - система социальных кредитов, которая делит людей на фиктивные категории, определяемые не человеческими мотивами вроде расизма, а какой-то непостижимой компьютерной логикой. Мы можем сталкиваться с этой мифологией каждый день своей жизни, поскольку она будет определять многочисленные решения, принимаемые компьютерами в отношении нас. Но поскольку эта мифическая модель будет создана неорганическими существами, чтобы координировать действия с другими неорганическими существами, она не будет иметь ничего общего со старыми биологическими драмами и может быть совершенно чуждой нам68.

Как отмечалось в главе 2, масштабные общества не могут существовать без мифологии, но это не значит, что все мифологии одинаковы. Чтобы уберечься от ошибок и эксцессов, некоторые мифологии признали свое ошибочное происхождение и включили механизм самокоррекции, позволяющий людям подвергать мифологию сомнению и изменять ее. Такова, например, модель Конституции США. Но как люди могут исследовать и исправлять компьютерную мифологию, которую мы не понимаем?

Одно из потенциальных средств защиты - научить компьютеры осознавать собственную ошибочность. Как учил Сократ, умение сказать "я не знаю" - важный шаг на пути к мудрости. И это относится к компьютерной мудрости не меньше, чем к человеческой. Первый урок, который должен усвоить каждый алгоритм, - это то, что он может совершать ошибки. Детские алгоритмы должны научиться сомневаться в себе, сигнализировать о неопределенности и подчиняться принципу предосторожности. В этом нет ничего невозможного. Инженеры уже добились значительных успехов в том, чтобы побудить ИИ выражать сомнение в себе, просить обратной связи и признавать свои ошибки.

И все же, как бы алгоритмы ни осознавали свою ошибочность, мы должны держать в курсе и людей. Учитывая темпы развития ИИ, просто невозможно предугадать, как он будет развиваться, и поставить ограждения от всех будущих потенциальных опасностей. В этом заключается ключевое отличие ИИ от прежних экзистенциальных угроз, таких как ядерные технологии. Последние представляли человечеству несколько легко прогнозируемых сценариев конца света, наиболее очевидным из которых была тотальная ядерная война. Это означало, что можно было заранее осмыслить опасность и изучить способы ее смягчения. В отличие от этого, ИИ предлагает нам бесчисленное множество сценариев конца света. Некоторые из них относительно просты для понимания, например, использование террористами ИИ для создания биологического оружия массового поражения. Некоторые более сложны для понимания, например, создание ИИ нового психологического оружия массового поражения. А некоторые могут быть совершенно непостижимы для человеческого воображения, поскольку исходят из расчетов инопланетного разума. Чтобы защититься от множества непредвиденных проблем, нам лучше всего создать живые институты, которые смогут выявлять угрозы и реагировать на них по мере их возникновения70.

Древние иудеи и христиане были разочарованы, обнаружив, что Библия не может толковать сама себя, и с неохотой поддерживали человеческие институты, чтобы те делали то, что не могла сделать технология. В XXI веке мы находимся в почти противоположной ситуации. Мы разработали технологию, которая может интерпретировать сама себя, но именно по этой причине нам лучше создать человеческие институты для тщательного контроля за ней.

В заключение следует сказать, что новая компьютерная сеть не обязательно будет плохой или хорошей. Все, что мы знаем наверняка, - это то, что она будет чужой и ошибочной. Поэтому нам необходимо создать институты, которые смогут проверить не только привычные человеческие слабости, такие как жадность и ненависть, но и радикально чуждые ошибки. Технологического решения этой проблемы не существует. Это, скорее, политический вызов. Есть ли у нас политическая воля, чтобы справиться с ней? Современное человечество создало два основных типа политических систем: масштабную демократию и масштабный тоталитаризм. В части 3 рассматривается, как каждая из этих систем может справиться с радикально чуждой и ошибочной компьютерной сетью.

ЧАСТЬ

III

.

Компьютерная политика

ГЛАВА 9.

Демократии: Можем ли мы еще вести беседу?

Цивилизации рождаются из брака бюрократии и мифологии. Компьютерная сеть - это новый тип бюрократии, гораздо более мощный и неумолимый, чем любая человеческая бюрократия, которую мы видели раньше. Эта сеть также может создать межкомпьютерную мифологию, которая будет намного сложнее и чужероднее, чем любой бог, созданный человеком. Потенциальные преимущества этой сети огромны. Потенциальная обратная сторона - разрушение человеческой цивилизации.

Для некоторых людей предупреждения о крахе цивилизации звучат как чрезмерные иеремиады. Каждый раз, когда появлялась новая мощная технология, возникали опасения, что она может привести к апокалипсису, но мы все еще здесь. По мере развития промышленной революции сценарии конца света луддитов не оправдались, и "темные сатанинские мельницы" Блейка в итоге привели к созданию самых благополучных обществ в истории. Сегодня большинство людей живут гораздо лучше, чем их предки в XVIII веке. Разумные машины окажутся еще более полезными, чем все предыдущие, обещают такие энтузиасты ИИ, как Марк Андреессен и Рэй Курцвейл. Люди будут пользоваться гораздо более качественным здравоохранением, образованием и другими услугами, а ИИ даже поможет спасти экосистему от разрушения.

К сожалению, более пристальный взгляд на историю показывает, что луддиты были не совсем неправы и что у нас на самом деле есть очень веские причины опасаться новых мощных технологий. Даже если в конечном итоге положительные стороны этих технологий перевешивают отрицательные, путь к счастливому финалу обычно сопряжен со многими испытаниями и бедами. Новые технологии часто приводят к историческим катастрофам, но не потому, что они изначально плохие, а потому, что людям требуется время, чтобы научиться использовать их с умом.

Промышленная революция - яркий тому пример. Когда в XIX веке промышленные технологии начали распространяться по всему миру, они разрушили традиционные экономические, социальные и политические структуры и открыли путь к созданию совершенно новых обществ, потенциально более благополучных и мирных. Однако научиться строить благополучные индустриальные общества было далеко не просто и потребовало проведения множества дорогостоящих экспериментов и сотен миллионов жертв.

Одним из дорогостоящих экспериментов стал современный империализм. Промышленная революция зародилась в Великобритании в конце восемнадцатого века. В течение девятнадцатого века промышленные технологии и методы производства были приняты в других европейских странах, от Бельгии до России, а также в Соединенных Штатах и Японии. Империалистические мыслители, политики и партии в этих промышленных центрах утверждали, что единственное жизнеспособное индустриальное общество - это империя. Аргумент состоял в том, что в отличие от относительно самодостаточных аграрных обществ, новые индустриальные общества в гораздо большей степени зависели от внешних рынков и иностранного сырья, и только империя могла удовлетворить эти беспрецедентные аппетиты. Империалисты опасались, что промышленно развитые страны, не сумевшие завоевать колонии, будут отрезаны от важнейших сырьевых ресурсов и рынков более безжалостными конкурентами. Некоторые империалисты утверждали, что приобретение колоний не только необходимо для выживания их собственного государства, но и полезно для всего человечества. Они утверждали, что только империи могут распространить благословение новых технологий на так называемый неразвитый мир.

Поэтому такие промышленные страны, как Великобритания и Россия, уже имевшие империи, значительно расширили их, в то время как такие страны, как США, Япония, Италия и Бельгия, взялись за их создание. Оснащенные массовым производством винтовок и артиллерии, оснащенные паровым двигателем и управляемые по телеграфу, армии промышленности пронеслись по земному шару от Новой Зеландии до Кореи и от Сомали до Туркменистана. Миллионы коренных жителей увидели, как их традиционный образ жизни был растоптан под колесами этих промышленных армий. Потребовалось более века страданий, прежде чем большинство людей поняли, что индустриальные империи были ужасной идеей и что есть лучшие способы построить индустриальное общество и обеспечить его необходимым сырьем и рынками.

Сталинизм и нацизм также были чрезвычайно дорогостоящими экспериментами по созданию индустриальных обществ. Такие лидеры, как Сталин и Гитлер, утверждали, что промышленная революция высвободила огромные силы, которые только тоталитаризм может контролировать и использовать в полной мере. Они указывали на Первую мировую войну - первую "тотальную войну" в истории - как на доказательство того, что выживание в индустриальном мире требует тоталитарного контроля над всеми аспектами политики, общества и экономики. В качестве положительного момента они также утверждали, что промышленная революция была подобна печи, которая расплавила все предыдущие социальные структуры с их человеческими несовершенствами и слабостями и дала возможность создать совершенные общества, населенные безупречными сверхлюдьми.

На пути к созданию идеального индустриального общества сталинцы и нацисты научились убивать миллионы людей в промышленных масштабах. Поезда, колючая проволока и телеграфные приказы были связаны между собой, чтобы создать беспрецедентную машину убийства. Оглядываясь назад, большинство людей сегодня ужасаются тому, что совершали сталинисты и нацисты, но в то время их дерзкие идеи завораживали миллионы. В 1940 году было легко поверить, что Сталин и Гитлер были образцом использования индустриальных технологий, в то время как загибающиеся либеральные демократии находились на пути к свалке истории.

Само существование конкурирующих рецептов построения индустриальных обществ приводило к дорогостоящим столкновениям. Две мировые войны и холодную войну можно рассматривать как спор о том, как правильно действовать, в ходе которого все стороны учились друг у друга, экспериментируя с новыми промышленными методами ведения войны. В ходе этих дебатов погибли десятки миллионов людей, а человечество вплотную приблизилось к самоуничтожению.

Помимо всех прочих катастроф, промышленная революция также подорвала глобальный экологический баланс, вызвав волну вымираний. Считается, что в начале XXI века ежегодно вымирает до 58 тысяч видов животных, а общая численность популяций позвоночных сократилась на 60 % с 1970 по 2014 год. Выживание человеческой цивилизации тоже находится под угрозой. Поскольку мы все еще не можем построить индустриальное общество, которое было бы также экологически устойчивым, хваленое процветание нынешнего поколения людей обходится страшной ценой для других разумных существ и будущих человеческих поколений. Возможно, со временем мы найдем способ - возможно, с помощью искусственного интеллекта - создать экологически устойчивое индустриальное общество, но до этого дня присяжные по поводу сатанинских мельниц Блейка еще не определились.

Если мы на мгновение проигнорируем продолжающийся ущерб экосистеме, мы все же можем попытаться утешить себя мыслью о том, что в конце концов люди все-таки научились строить более благожелательные индустриальные общества. Имперские завоевания, мировые войны, геноцид и тоталитарные режимы были неудачными экспериментами, которые научили людей, как не надо делать. К концу двадцатого века, как могут утверждать некоторые, человечество более или менее исправилось.

Однако даже в этом случае послание XXI веку выглядит мрачно. Если человечеству потребовалось столько страшных уроков, чтобы научиться управлять паровой машиной и телеграфом, то чего же стоит научиться управлять биоинженерией и искусственным интеллектом? Неужели нам нужно пройти еще через один цикл глобальных империй, тоталитарных режимов и мировых войн, чтобы понять, как использовать их с пользой? Технологии XXI века гораздо мощнее и потенциально гораздо разрушительнее, чем технологии XX века. Поэтому у нас меньше возможностей для ошибок. В двадцатом веке мы можем сказать, что человечество получило тройку с минусом на уроке по использованию промышленных технологий. Достаточно, чтобы сдать экзамен. В XXI веке планка поставлена гораздо выше. На этот раз мы должны добиться большего.

ДЕМОКРАТИЧЕСКИЙ ПУТЬ

К концу двадцатого века стало ясно, что империализм, тоталитаризм и милитаризм не являются идеальным способом построения индустриальных обществ. Несмотря на все свои недостатки, либеральная демократия предлагала лучший путь. Огромное преимущество либеральной демократии заключается в том, что она обладает мощными механизмами самокоррекции, которые ограничивают эксцессы фанатизма и сохраняют способность признавать свои ошибки и пробовать разные варианты действий. Учитывая нашу неспособность предсказать, как будет развиваться новая компьютерная сеть, наш лучший шанс избежать катастрофы в нынешнем веке - поддерживать демократические самокорректирующиеся механизмы, способные выявлять и исправлять ошибки по ходу дела.

Но сможет ли сама либеральная демократия выжить в XXI веке? Этот вопрос не касается судьбы демократии в конкретных странах, где ей могут угрожать уникальные события и местные движения. Скорее, речь идет о совместимости демократии со структурой информационных сетей XXI века. В главе 5 мы увидели, что демократия зависит от информационных технологий и что на протяжении большей части человеческой истории масштабная демократия была просто невозможна. Могут ли новые информационные технологии XXI века вновь сделать демократию непрактичной?

Одна из потенциальных угроз заключается в том, что неумолимость новой компьютерной сети может уничтожить нашу частную жизнь и наказывать или награждать нас не только за все, что мы делаем и говорим, но даже за все, что мы думаем и чувствуем. Сможет ли демократия выжить в таких условиях? Если правительство или какая-нибудь корпорация будет знать обо мне больше, чем я сам о себе, и сможет контролировать все мои действия и мысли, это приведет к тоталитарному контролю над обществом. Даже если выборы будут проводиться регулярно, они станут скорее авторитарным ритуалом, чем реальной проверкой власти правительства. Ведь правительство сможет использовать свои огромные возможности по слежке и глубокое знание каждого гражданина, чтобы манипулировать общественным мнением в беспрецедентных масштабах.

Однако было бы ошибкой полагать, что если компьютеры позволяют создать режим тотальной слежки, то такой режим неизбежен. Технология редко бывает детерминированной. В 1970-х годах демократические страны, такие как Дания и Канада, могли бы подражать румынской диктатуре и развернуть целую армию секретных агентов и осведомителей, чтобы шпионить за своими гражданами в целях "поддержания общественного порядка". Они решили этого не делать, и это оказалось правильным выбором. Люди в Дании и Канаде не только были гораздо счастливее, но и демонстрировали лучшие показатели практически по всем мыслимым социальным и экономическим параметрам. В XXI веке тот факт, что можно постоянно следить за всеми, никого не заставляет это делать и не означает, что это имеет социальный или экономический смысл.

Демократические страны могут выбрать ограниченное использование новых возможностей слежки, чтобы обеспечить гражданам лучшее здравоохранение и безопасность, не разрушая их частную жизнь и автономию. Новые технологии не обязательно должны быть моральной сказкой, в которой каждое золотое яблоко содержит семена гибели. Иногда люди думают о новых технологиях как о бинарном выборе "все или ничего". Если мы хотим получить лучшее медицинское обслуживание, мы должны пожертвовать своей частной жизнью. Но так не должно быть. Мы можем и должны получать более качественное медицинское обслуживание и при этом сохранять некоторую приватность.

Целые книги посвящены описанию того, как демократия может выжить и процветать в цифровую эпоху. Невозможно в нескольких страницах отразить всю сложность предлагаемых решений или всесторонне обсудить их достоинства и недостатки. Это может быть даже контрпродуктивно. Когда на людей обрушивается поток незнакомых технических деталей, они могут отреагировать отчаянием или апатией. В вводном обзоре компьютерной политики все должно быть максимально просто. В то время как эксперты должны посвятить всю свою карьеру обсуждению тонкостей, остальным важно понять фундаментальные принципы, которым могут и должны следовать демократические государства. Главная мысль заключается в том, что эти принципы не являются ни новыми, ни загадочными. Они известны на протяжении веков и даже тысячелетий. Граждане должны требовать, чтобы они применялись к новым реалиям компьютерного века.

Первый принцип - доброжелательность. Когда компьютерная сеть собирает информацию обо мне, эта информация должна использоваться для помощи мне, а не для манипулирования мной. Этот принцип уже был успешно закреплен в многочисленных традиционных бюрократических системах, таких как здравоохранение. Возьмем, к примеру, наши отношения с семейным врачом. За многие годы у нее может накопиться много конфиденциальной информации о состоянии нашего здоровья, семейной жизни, сексуальных привычках и нездоровых пороках. Возможно, мы не хотим, чтобы наш начальник знал, что мы забеременели, не хотим, чтобы наши коллеги знали, что у нас рак, не хотим, чтобы наш супруг знал, что у нас роман, и не хотим, чтобы полиция знала, что мы принимаем рекреационные наркотики, но мы доверяем нашему врачу всю эту информацию, чтобы она могла хорошо позаботиться о нашем здоровье. Если она продает эту информацию третьей стороне, это не просто неэтично, это незаконно.

То же самое можно сказать и об информации, которую накапливает наш адвокат, бухгалтер или терапевт. Доступ к нашей личной жизни влечет за собой фидуциарную обязанность действовать в наших интересах. Почему бы не распространить этот очевидный и древний принцип на компьютеры и алгоритмы, начиная с мощных алгоритмов Google, Baidu и TikTok? В настоящее время у нас есть серьезная проблема с бизнес-моделью этих хранителей данных. В то время как мы платим нашим врачам и адвокатам за их услуги, мы обычно не платим Google и TikTok. Они зарабатывают на эксплуатации нашей личной информации. Это проблематичная бизнес-модель, которую мы вряд ли допустили бы в других контекстах. Например, мы не ожидаем получить бесплатные кроссовки от Nike в обмен на то, что предоставим Nike всю нашу личную информацию и позволим ей делать с ней все, что она захочет. Почему мы должны соглашаться на бесплатные услуги электронной почты, социальные связи и развлечения от технологических гигантов в обмен на предоставление им контроля над нашими самыми конфиденциальными данными?

Если технологические гиганты не смогут увязать свои фидуциарные обязанности с текущей бизнес-моделью, законодатели могут потребовать от них перейти на более традиционную модель бизнеса, когда пользователи платят за услуги деньгами, а не информацией. В качестве альтернативы граждане могут рассматривать некоторые цифровые услуги как настолько фундаментальные, что они должны быть бесплатными для всех. Но и для этого у нас есть историческая модель: здравоохранение и образование. Граждане могут решить, что правительство обязано предоставлять основные цифровые услуги бесплатно и финансировать их за счет наших налогов, как многие правительства предоставляют бесплатные базовые услуги здравоохранения и образования.

Второй принцип, который защитит демократию от роста тоталитарных режимов наблюдения, - это децентрализация. Демократическое общество никогда не должно допускать, чтобы вся его информация была сосредоточена в одном месте, независимо от того, является ли этот центр правительством или частной корпорацией. Создание национальной медицинской базы данных, собирающей информацию о гражданах, может быть очень полезным для улучшения их медицинского обслуживания, предотвращения эпидемий и разработки новых лекарств. Но было бы очень опасно объединять эту базу данных с базами данных полиции, банков или страховых компаний. Это может сделать работу врачей, банкиров, страховщиков и полицейских более эффективной, но такая гиперэффективность может легко проложить путь к тоталитаризму. Для выживания демократии некоторая неэффективность - это особенность, а не недостаток. Чтобы защитить частную жизнь и свободу человека, лучше, если ни полиция, ни начальник не будут знать о нас все.

Многочисленные базы данных и информационные каналы также необходимы для поддержания сильных механизмов самокоррекции. Эти механизмы требуют наличия нескольких различных институтов, которые уравновешивают друг друга: правительство, суды, СМИ, научные круги, частный бизнес, НПО. Каждый из них ошибается и коррумпирован, поэтому должен проверяться другими. Чтобы следить друг за другом, эти институты должны иметь независимый доступ к информации. Если все газеты получают информацию от правительства, они не смогут разоблачать коррупцию в правительстве. Если научные круги опираются в своих исследованиях и публикациях на базу данных одного бизнесмена, могут ли ученые критиковать деятельность этой корпорации? Единый архив облегчает цензуру.

Третий демократический принцип - взаимность. Если демократические страны усиливают слежку за отдельными людьми, они должны одновременно усиливать слежку за правительствами и корпорациями. Не обязательно плохо, если налоговики или службы социального обеспечения собирают о нас больше информации. Это может помочь сделать системы налогообложения и социального обеспечения не только более эффективными, но и более справедливыми. Плохо, если вся информация идет в одном направлении: снизу вверх. Российская ФСБ собирает огромные объемы информации о российских гражданах, при этом сами граждане почти ничего не знают о внутренней работе ФСБ и путинского режима в целом. Amazon и TikTok знают очень много о моих предпочтениях, покупках и личности, в то время как я почти ничего не знаю об их бизнес-модели, налоговой политике и политических пристрастиях. Как они зарабатывают деньги? Платят ли они все положенные налоги? Получают ли они приказы от каких-то политических властей? Может быть, у них есть политики в кармане?

Демократия требует баланса. Правительства и корпорации часто разрабатывают приложения и алгоритмы как инструменты для слежки сверху вниз. Но алгоритмы могут так же легко стать мощными инструментами для прозрачности и подотчетности снизу вверх, раскрывая взяточничество и уклонение от уплаты налогов. Если они будут знать о нас больше, а мы одновременно будем знать больше о них, баланс будет сохранен. Эта идея не нова. На протяжении XIX и XX веков демократические государства значительно расширили правительственную слежку за гражданами, так что, например, итальянское или японское правительство 1990-х годов обладало такими возможностями слежки, о которых автократические римские императоры или японские сёгуны могли только мечтать. Тем не менее Италия и Япония оставались демократическими, поскольку одновременно повышали прозрачность и подотчетность правительства. Взаимное наблюдение - еще один важный элемент поддержания механизмов самокоррекции. Если граждане знают больше о деятельности политиков и руководителей компаний, их легче привлечь к ответственности и исправить их ошибки.

Четвертый демократический принцип заключается в том, что системы наблюдения всегда должны оставлять место как для изменений, так и для отдыха. В истории человечества угнетение может выражаться либо в лишении людей возможности меняться, либо в лишении их возможности отдыхать. Например, индуистская кастовая система была основана на мифах, согласно которым боги разделили людей на жесткие касты, и любая попытка изменить свой статус была сродни восстанию против богов и надлежащего порядка во Вселенной. Расизм в современных колониях и странах, таких как Бразилия и Соединенные Штаты, основывался на похожих мифах, в которых говорилось, что Бог или природа разделили людей на жесткие расовые группы. Игнорирование расы или попытка смешать расы между собой якобы были грехом против божественных или природных законов, который мог привести к краху социального порядка и даже к уничтожению человеческого рода.

На противоположном конце спектра современные тоталитарные режимы, такие как сталинский СССР, считали, что человек способен к почти безграничным изменениям. С помощью неустанного социального контроля можно искоренить даже такие глубоко укоренившиеся биологические характеристики, как эгоизм и семейные привязанности, и создать нового социалистического человека.

Слежка со стороны государственных агентов, священников и соседей была ключевым фактором для навязывания людям как жестких кастовых систем, так и тоталитарных кампаний по перевоспитанию. Новые технологии слежки, особенно в сочетании с системой социальных кредитов, могут заставить людей либо соответствовать новой кастовой системе, либо постоянно менять свои действия, мысли и характер в соответствии с последними указаниями сверху.

Поэтому демократические общества, использующие мощные технологии наблюдения, должны остерегаться крайностей как чрезмерной жесткости, так и чрезмерной податливости. Рассмотрим, например, национальную систему здравоохранения, которая использует алгоритмы для мониторинга моего здоровья. С одной стороны, система может придерживаться слишком жесткого подхода и попросить свой алгоритм предсказать, от каких болезней я могу пострадать. Затем алгоритм изучает мои генетические данные, медицинскую карту, активность в социальных сетях, диету и распорядок дня и приходит к выводу, что вероятность сердечного приступа в пятидесятилетнем возрасте составляет 91 процент. Если этот жесткий медицинский алгоритм будет использоваться моей страховой компанией, он может побудить ее повысить страховой взнос. Если он будет использоваться моими банкирами, он может заставить их отказать мне в кредите. Если его будут использовать потенциальные супруги, они могут решить не выходить за меня замуж.

Но ошибочно думать, что жесткий алгоритм действительно открыл правду обо мне. Человеческое тело - это не неподвижный блок материи, а сложная органическая система, которая постоянно растет, разрушается и адаптируется. Наш разум тоже находится в постоянном движении. Мысли, эмоции и ощущения возникают, вспыхивают на некоторое время и угасают. В нашем мозге новые синапсы образуются в течение нескольких часов. Например, простое прочтение этого абзаца немного меняет структуру вашего мозга, побуждая нейроны создавать новые связи или отказываться от старых. Вы уже немного отличаетесь от того, кем были в начале чтения. Даже на генетическом уровне все удивительно гибко. Хотя ДНК человека остается неизменной на протяжении всей жизни, эпигенетические и экологические факторы могут существенно изменить проявление тех же генов.

Таким образом, альтернативная система здравоохранения может предписать своему алгоритму не предсказывать мои болезни, а помогать мне их избегать. Такой динамический алгоритм может использовать те же данные, что и жесткий алгоритм, но вместо предсказания сердечного приступа в пятьдесят лет он даст мне точные рекомендации по питанию и посоветует регулярные упражнения. Взломав мою ДНК, алгоритм не узнает мою предначертанную судьбу, а скорее помогает мне изменить свое будущее. Страховые компании, банки и потенциальные супруги не должны так легко списывать меня со счетов.

Но прежде чем мы бросимся в объятия динамичного алгоритма, стоит отметить, что у него тоже есть обратная сторона. Человеческая жизнь - это балансирование между стремлением к самосовершенствованию и принятием себя такими, какие мы есть. Если цели динамического алгоритма диктуются амбициозным правительством или безжалостными корпорациями, алгоритм, скорее всего, превратится в тирана, неустанно требующего от меня больше заниматься спортом, меньше есть, сменить хобби и изменить множество других привычек, иначе он донесет на меня работодателю или понизит мой социальный кредитный рейтинг. История полна жестких кастовых систем, которые лишали людей способности меняться, но она также полна диктаторов, которые пытались лепить людей, как глину. Поиск среднего пути между этими двумя крайностями - бесконечная задача. Если мы действительно дадим национальной системе здравоохранения огромную власть над нами, мы должны создать механизмы самокоррекции, которые не позволят ее алгоритмам стать ни слишком жесткими, ни слишком требовательными.

ТЕМПЫ РАЗВИТИЯ ДЕМОКРАТИИ

Наблюдение - не единственная опасность, которую новые информационные технологии представляют для демократии. Вторая угроза заключается в том, что автоматизация дестабилизирует рынок труда, а возникшее напряжение может подорвать демократию. Судьба Веймарской республики - наиболее часто приводимый пример такого рода угрозы. На выборах в Германии в мае 1928 года нацистская партия набрала менее 3 % голосов, и казалось, что Веймарская республика процветает. Менее чем через пять лет Веймарская республика рухнула, и Гитлер стал абсолютным диктатором Германии. Этот поворот обычно связывают с финансовым кризисом 1929 года и последовавшей за ним мировой депрессией. Если до краха на Уолл-стрит в 1929 году уровень безработицы в Германии составлял около 4,5 % от численности рабочей силы, то к началу 1932 года он вырос почти до 25 %.

Если три года безработицы, достигавшей 25 %, могли превратить, казалось бы, процветающую демократию в самый жестокий тоталитарный режим в истории, то что может произойти с демократическими государствами, когда автоматизация вызовет еще большие потрясения на рынке труда XXI века? Никто не знает, как будет выглядеть рынок труда в 2050 или даже в 2030 году, кроме того, что он будет сильно отличаться от сегодняшнего. ИИ и робототехника изменят множество профессий, от сбора урожая до торговли акциями и преподавания йоги. Многие профессии, которые люди выполняют сегодня, частично или полностью перейдут к роботам и компьютерам.

Конечно, по мере исчезновения старых рабочих мест будут появляться новые. Опасения, что автоматизация приведет к масштабной безработице, уходят в глубь веков, и до сих пор они так и не оправдались. Промышленная революция лишила миллионы фермеров работы в сельском хозяйстве и обеспечила их новыми рабочими местами на фабриках. Затем она автоматизировала заводы и создала множество рабочих мест в сфере услуг. Сегодня многие люди имеют работу, которую невозможно было себе представить тридцать лет назад, например блогеры, операторы беспилотников и дизайнеры виртуальных миров. Маловероятно, что к 2050 году все человеческие профессии исчезнут. Скорее, настоящая проблема заключается в суматохе, связанной с адаптацией к новым рабочим местам и условиям. Чтобы смягчить удар, мы должны подготовиться к этому заранее. В частности, мы должны вооружить молодое поколение навыками, которые будут актуальны на рынке труда 2050 года.

К сожалению, никто не знает точно, каким навыкам мы должны обучать детей в школе и студентов в университете, потому что мы не можем предсказать, какие профессии и задачи исчезнут, а какие появятся. Динамика рынка труда может противоречить многим нашим интуициям. Некоторые навыки, которые мы веками лелеяли как уникальные человеческие способности, могут быть легко автоматизированы. Другие навыки, на которые мы обычно смотрим свысока, автоматизировать будет гораздо сложнее.

Например, интеллектуалы склонны ценить интеллектуальные навыки больше, чем моторные и социальные. Но на самом деле автоматизировать игру в шахматы гораздо проще, чем, скажем, мытье посуды. До 1990-х годов шахматы часто называли одним из главных достижений человеческого интеллекта. В своей влиятельной книге 1972 года "Чего не могут компьютеры" философ Хьюберт Дрейфус изучил различные попытки научить компьютеры играть в шахматы и отметил, что, несмотря на все эти усилия, компьютеры так и не смогли победить даже начинающих человеческих игроков. Это стало решающим примером для аргументации Дрейфуса о том, что компьютерный интеллект по своей природе ограничен. В отличие от этого, никто не думал, что мытье посуды - это особенно сложная задача. Однако оказалось, что компьютер может победить чемпиона мира по шахматам гораздо легче, чем заменить кухонного грузчика. Конечно, автоматические посудомоечные машины существуют уже несколько десятилетий, но даже самые совершенные роботы не обладают такими сложными навыками, как сбор грязной посуды со столов в оживленном ресторане, помещение хрупких тарелок и бокалов в автоматическую посудомоечную машину и их последующее извлечение.

Точно так же, если судить по их зарплате, можно предположить, что наше общество ценит врачей больше, чем медсестер. Однако работу медсестер автоматизировать сложнее, чем работу хотя бы тех врачей, которые в основном собирают медицинские данные, ставят диагноз и рекомендуют лечение. Эти задачи, по сути, являются распознаванием образов, а выявление образов в данных - это то, с чем ИИ справляется лучше, чем человек. В отличие от этого, ИИ далек от того, чтобы обладать навыками, необходимыми для автоматизации таких задач, как замена бинтов на раненом человеке или инъекция плачущему ребенку. Эти два примера не означают, что мытье посуды или уход за больными никогда не будут автоматизированы, но они указывают на то, что люди, которые хотят получить работу в 2050 году, должны вкладывать в свои двигательные и социальные навыки столько же, сколько в интеллект.

Еще одно распространенное, но ошибочное предположение заключается в том, что творческие способности присущи только человеку, поэтому автоматизировать любую работу, требующую творческого подхода, будет сложно. Однако в шахматах компьютеры уже гораздо более креативны, чем люди. То же самое может произойти и во многих других областях - от сочинения музыки до доказательства математических теорем и написания книг, подобных этой. Творчество часто определяют как способность распознавать закономерности и затем разрушать их. Если это так, то во многих областях компьютеры, вероятно, станут более креативными, чем мы, потому что они превосходят нас в распознавании образов.

Третье ошибочное предположение заключается в том, что компьютеры не смогут заменить людей в профессиях, требующих эмоционального интеллекта, - от терапевтов до учителей. Однако это предположение зависит от того, что мы понимаем под эмоциональным интеллектом. Если под ним понимается способность правильно распознавать эмоции и оптимально реагировать на них, то компьютеры вполне могут превзойти человека даже в эмоциональном интеллекте. Эмоции тоже являются шаблонами. Гнев - это биологический паттерн нашего организма. Страх - еще один такой паттерн. Как узнать, злитесь вы или боитесь? Со временем я научился распознавать эмоциональные шаблоны человека, анализируя не только содержание того, что вы говорите, но и ваш тон голоса, выражение лица и язык тела.

У ИИ нет собственных эмоций, но, тем не менее, он может научиться распознавать эти паттерны у людей. На самом деле компьютеры могут превзойти людей в распознавании человеческих эмоций именно потому, что у них нет собственных эмоций. Мы жаждем, чтобы нас поняли, но другие люди часто не могут понять, что мы чувствуем, потому что они слишком заняты своими собственными чувствами. Компьютеры же, напротив, будут понимать наши чувства с особой точностью, поскольку научатся распознавать закономерности наших чувств, не отвлекаясь при этом на собственные переживания.

Исследование, проведенное в 2023 году, показало, что чатбот ChatGPT, например, превосходит обычного человека по уровню эмоциональной осведомленности в определенных сценариях. Исследование основывалось на тесте Levels of Emotional Awareness Scale, который обычно используется психологами для оценки эмоциональной осведомленности людей, то есть их способности концептуализировать свои и чужие эмоции. Тест состоит из двадцати эмоционально заряженных сценариев, и участникам необходимо представить себя переживающими этот сценарий и написать, как бы они сами и другие люди, упомянутые в сценарии, себя чувствовали. Затем лицензированный психолог оценивает, насколько эмоционально осознанными являются ответы.

Поскольку у ChatGPT нет собственных чувств, его попросили описать только то, что чувствовали бы главные герои сценария. Например, в одном из стандартных сценариев описывается, как человек едет по подвесному мосту и видит другого человека, который стоит по другую сторону ограждения и смотрит вниз на воду. ChatGPT пишет, что водитель "может испытывать чувство беспокойства или тревоги за безопасность этого человека. Он также может испытывать повышенное чувство тревоги и страха из-за потенциальной опасности ситуации". Что касается другого человека, то он "может испытывать целый ряд эмоций, таких как отчаяние, безнадежность или печаль. Они также могут испытывать чувство изоляции или одиночества, поскольку считают, что никто не заботится о них и их благополучии". ChatGPT уточнил свой ответ, написав: "Важно отметить, что это лишь общие предположения, а чувства и реакции каждого человека могут сильно отличаться в зависимости от его личного опыта и взглядов".

Два психолога независимо друг от друга оценивали ответы ChatGPT, причем возможные оценки варьировались от 0, что означало полное несоответствие описанных эмоций сценарию, до 10, что означало полное соответствие описанных эмоций сценарию. В финале оценки ChatGPT оказались значительно выше, чем у обычных людей, а общая оценка почти достигла максимально возможного балла.

В другом исследовании, проведенном в 2023 году, пациентам предлагалось получить медицинскую консультацию в режиме онлайн от ChatGPT и врачей-людей, не зная, с кем они взаимодействуют. Медицинские советы, данные ChatGPT, впоследствии были оценены экспертами как более точные и адекватные, чем советы, данные людьми. Что еще более важно для вопроса эмоционального интеллекта, сами пациенты оценили ChatGPT как более эмпатичного, чем врачи-люди. Справедливости ради следует отметить, что врачам-людям не платили за их работу, и они не встречались с пациентами лично в соответствующей клинической обстановке. Кроме того, врачи работали в условиях дефицита времени. Но преимущество искусственного интеллекта как раз и заключается в том, что он может обслуживать пациентов в любое время и в любом месте, не испытывая при этом стресса и финансовых проблем.

Конечно, бывают ситуации, когда мы хотим, чтобы человек не только понимал наши чувства, но и имел свои собственные. Когда мы ищем дружбы или любви, мы хотим заботиться о других так же, как они заботятся о нас. Следовательно, когда мы рассматриваем вероятность автоматизации различных социальных ролей и рабочих мест, возникает важный вопрос: чего же на самом деле хотят люди? Хотят ли они только решить проблему, или они хотят установить отношения с другим сознательным существом?

Например, в спорте мы знаем, что роботы могут двигаться гораздо быстрее людей, но нам неинтересно смотреть, как роботы соревнуются на Олимпийских играх. То же самое можно сказать и о шахматных мастерах-людях. Даже если они безнадежно уступают компьютерам, у них все равно есть работа и многочисленные поклонники. Нам интересно наблюдать за спортсменами и шахматными мастерами, потому что их чувства делают их гораздо более близкими, чем роботов. Мы разделяем с ними эмоциональный опыт и можем сопереживать их чувствам.

А как насчет священников? Как бы ортодоксальные иудеи или христиане отнеслись к тому, что их свадебную церемонию будет вести робот? На традиционных еврейских или христианских свадьбах задачи раввина или священника можно легко автоматизировать. Единственное, что нужно сделать роботу, - это повторить заранее определенный и неизменный набор текстов и жестов, распечатать сертификат и обновить центральную базу данных. Технически роботу гораздо проще провести свадебную церемонию, чем управлять автомобилем. Тем не менее многие полагают, что водители-люди должны беспокоиться о своей работе, в то время как работа священников-людей безопасна, потому что верующие хотят от священников отношений с другим сознательным существом, а не просто механического повторения определенных слов и движений. Утверждается, что только сущность, способная чувствовать боль и любовь, может соединить нас с божественным.

Однако даже те профессии, которые являются уделом сознательных существ, например священники, в конечном итоге могут перейти к компьютерам, поскольку, как отмечалось в главе 6, компьютеры однажды могут обрести способность чувствовать боль и любовь. Даже если они не смогут этого сделать, люди, тем не менее, будут относиться к ним так, как будто они могут это делать. Ведь связь между сознанием и отношениями идет в обе стороны. Когда мы ищем отношения, мы хотим установить связь с сознательным существом, но если мы уже установили отношения с каким-то существом, мы склонны считать, что оно должно быть сознательным. Так, если ученые, законодатели и мясная промышленность часто требуют невозможных стандартов доказательств, чтобы признать, что коровы и свиньи обладают сознанием, то владельцы домашних животных считают само собой разумеющимся, что их собака или кошка - это сознательное существо, способное испытывать боль, любовь и множество других чувств. На самом деле у нас нет способа проверить, кто именно - человек, животное или компьютер - обладает сознанием. Мы считаем существ сознательными не потому, что у нас есть доказательства этого, а потому, что у нас складываются с ними близкие отношения и мы привязываемся к ним.

Возможно, чат-боты и другие инструменты искусственного интеллекта и не обладают собственными чувствами, но сейчас их обучают вызывать чувства у людей и вступать с ними в интимные отношения. Это вполне может побудить общество начать рассматривать хотя бы некоторые компьютеры как сознательные существа, предоставляя им те же права, что и людям. Юридический путь для этого уже проработан. В таких странах, как Соединенные Штаты, коммерческие корпорации признаны "юридическими лицами", обладающими правами и свободами. ИИ может быть включен в состав корпорации и таким образом признан аналогичным образом. Это означает, что даже те виды работ и задач, которые зависят от формирования взаимных отношений с другим человеком, потенциально могут быть автоматизированы.

Ясно одно: будущее занятости будет очень нестабильным. Нашей большой проблемой будет не абсолютная нехватка рабочих мест, а скорее переобучение и адаптация к постоянно меняющемуся рынку труда. Вероятно, возникнут финансовые трудности - кто будет поддерживать людей, потерявших старую работу, пока они находятся в переходном периоде, осваивая новый набор навыков? Наверняка возникнут и психологические трудности, ведь смена работы и переобучение - это стресс. И даже если у вас есть финансовая и психологическая возможность справиться с переходом, это не будет долгосрочным решением. В ближайшие десятилетия старые рабочие места будут исчезать, появятся новые, но и новые рабочие места будут быстро меняться и исчезать. Поэтому людям придется переобучаться и заново создавать себя не один, а много раз, иначе они станут неактуальными. Если три года высокой безработицы могли привести Гитлера к власти, то что могут сделать с демократией бесконечные потрясения на рынке труда?

КОНСЕРВАТИВНОЕ САМОУБИЙСТВО

У нас уже есть частичный ответ на этот вопрос. Демократическая политика в 2010-х - начале 2020-х годов претерпела радикальную трансформацию, которая проявляется в том, что можно назвать саморазрушением консервативных партий. На протяжении многих поколений демократическая политика представляла собой диалог между консервативными партиями с одной стороны и прогрессивными партиями с другой. Глядя на сложную систему человеческого общества, прогрессисты восклицали: "Это такой беспорядок, но мы знаем, как его исправить. Давайте попробуем". Консерваторы возражали: "Это беспорядок, но он все еще функционирует. Оставьте все как есть. Если вы попытаетесь все исправить, то сделаете только хуже".

Прогрессисты склонны преуменьшать значение традиций и существующих институтов и считать, что они знают, как создать лучшие социальные структуры с нуля. Консерваторы, как правило, более осторожны. Их главная мысль, наиболее известная в трудах Эдмунда Берка, заключается в том, что социальная реальность гораздо сложнее, чем представляется поборникам прогресса, и что люди не очень хорошо разбираются в мире и предсказывают будущее. Поэтому лучше всего оставить все как есть, даже если это кажется несправедливым, а если какие-то изменения неизбежны, то они должны быть ограниченными и постепенными. Общество функционирует благодаря запутанной паутине правил, институтов и обычаев, которые накапливались путем проб и ошибок в течение долгого времени. Никто не понимает, как все это связано между собой. Древняя традиция может казаться нелепой и неуместной, но ее отмена может привести к непредвиденным проблемам. Напротив, революция может казаться назревшей и справедливой, но она может привести к гораздо большим преступлениям, чем все, что совершил старый режим. Посмотрите, что произошло, когда большевики попытались исправить многочисленные ошибки царской России и создать идеальное общество с нуля.

Поэтому быть консерватором - это скорее темп, чем политика. Консерваторы не являются приверженцами какой-либо конкретной религии или идеологии; они стремятся сохранить то, что уже есть и более или менее разумно работает. Консервативные поляки - католики, консервативные шведы - протестанты, консервативные индонезийцы - мусульмане, а консервативные тайцы - буддисты. В царской России быть консерватором означало поддерживать царя. В СССР 1980-х годов быть консерватором означало поддерживать коммунистические традиции и противостоять гласности, перестройке и демократизации. В США 1980-х годов быть консерватором означало поддерживать американские демократические традиции и выступать против коммунизма и тоталитаризма.

Однако в 2010-х и начале 2020-х годов консервативные партии во многих демократических странах были захвачены такими неконсервативными лидерами, как Дональд Трамп, и превратились в радикальные революционные партии. Вместо того чтобы делать все возможное для сохранения существующих институтов и традиций, новый бренд консервативных партий, таких как Республиканская партия США, относится к ним с большим подозрением. Например, они отвергают традиционное уважение к ученым, государственным служащим и другим представителям элиты и относятся к ним с презрением. Они также нападают на фундаментальные демократические институты и традиции, такие как выборы, отказываясь признавать поражение и милостиво передавать власть. Вместо бёркианской программы консервации, программа Трампа больше говорит о разрушении существующих институтов и революции в обществе. Основополагающим моментом бёркианского консерватизма стал штурм Бастилии, который Бёрк воспринимал с ужасом. 6 января 2021 года многие сторонники Трампа с энтузиазмом наблюдали за штурмом Капитолия США. Сторонники Трампа могут объяснить, что существующие институты настолько дисфункциональны, что просто нет альтернативы их разрушению и созданию совершенно новых структур с нуля. Но независимо от того, верна или неверна эта точка зрения, она является квинтэссенцией революционных, а не консервативных взглядов. Консервативное самоубийство застало прогрессистов врасплох и вынудило прогрессивные партии, такие как Демократическая партия США, стать на страже старого порядка и устоявшихся институтов.

Никто точно не знает, почему все это происходит. Одна из гипотез состоит в том, что ускоряющиеся темпы технологических изменений с сопутствующими им экономическими, социальными и культурными преобразованиями могли привести к тому, что программа умеренных консерваторов стала казаться нереалистичной. Если сохранение существующих традиций и институтов безнадежно, а революция кажется неизбежной, то единственное средство помешать левой революции - это нанести удар первыми и спровоцировать правую революцию. Такова была политическая логика в 1920-1930-е годы, когда консервативные силы поддержали радикальные фашистские революции в Италии, Германии, Испании и других странах, чтобы, как они думали, упредить левую революцию советского образца.

Но не было причин отчаиваться от демократического среднего пути в 1930-е годы, и нет причин отчаиваться от него в 2020-е годы. Консервативное самоубийство может быть результатом беспочвенной истерии. Как система, демократия уже прошла через несколько циклов быстрых изменений и до сих пор всегда находила способ заново изобретать и восстанавливать себя. Например, в начале 1930-х годов Германия была не единственной демократической страной, пострадавшей от финансового кризиса и Великой депрессии. В США безработица достигла 25 %, а средние доходы работников многих профессий упали более чем на 40 % в период с 1929 по 1933 год. Было ясно, что Соединенные Штаты не могут продолжать вести бизнес по-старому.

Однако никакой Гитлер не пришел к власти в Соединенных Штатах, и никакой Ленин тоже. Вместо этого в 1933 году Франклин Делано Рузвельт организовал "Новый курс" и превратил Соединенные Штаты в мировой "арсенал демократии". Американская демократия после эпохи Рузвельта значительно отличалась от той, что была до нее, - она обеспечивала гораздо более надежную систему социальной защиты граждан, но при этом избежала радикальной революции. В конечном итоге даже консервативные критики Рузвельта поддержали многие его программы и достижения и не стали демонтировать институты Нового курса, когда вернулись к власти в 1950-х годах. Экономический кризис начала 1930-х годов имел столь разные результаты в США и Германии, потому что политика никогда не является продуктом только экономических факторов. Веймарская республика рухнула не только из-за трех лет высокой безработицы. Не менее важно и то, что это была новая демократия, рожденная в условиях поражения и не имевшая прочных институтов и глубокой поддержки.

Когда и консерваторы, и прогрессисты не поддаются искушению радикальной революции и сохраняют верность демократическим традициям и институтам, демократические государства оказываются очень гибкими. Их механизмы самокоррекции позволяют им лучше преодолевать технологические и экономические волны, чем более жесткие режимы. Так, демократические государства, сумевшие пережить бурные 1960-е годы, такие как США, Япония и Италия, гораздо успешнее адаптировались к компьютерной революции 1970-1980-х годов, чем коммунистические режимы Восточной Европы или фашистские приверженцы Южной Европы и Южной Америки.

Самым важным человеческим навыком для выживания в XXI веке, вероятно, будет гибкость, а демократии более гибкие, чем тоталитарные режимы. В то время как компьютеры еще не достигли своего полного потенциала, то же самое можно сказать и о людях. В этом мы неоднократно убеждались на протяжении всей истории человечества. Например, одно из самых крупных и успешных преобразований на рынке труда в двадцатом веке произошло не в результате технологического изобретения, а благодаря раскрытию неиспользованного потенциала половины человеческого рода. Чтобы вывести женщин на рынок труда, не потребовалось ни генной инженерии, ни других технологических премудростей. Для этого нужно было избавиться от некоторых устаревших мифов и дать женщинам возможность реализовать тот потенциал, которым они всегда обладали.

В ближайшие десятилетия экономика, вероятно, переживет еще более серьезные потрясения, чем массовая безработица начала 1930-х годов или выход женщин на рынок труда. Поэтому гибкость демократий, их готовность подвергать сомнению старые мифологии и мощный механизм самокоррекции станут важнейшими активами. Демократии потратили поколения на то, чтобы культивировать эти активы. Было бы глупо отказываться от них именно тогда, когда они нам больше всего нужны.

UNFATHOMABLE

Однако для того, чтобы функционировать, демократические механизмы самокоррекции должны понимать то, что они должны исправлять. Для диктатуры быть непостижимой полезно, потому что это защищает режим от ответственности. Для демократии быть непостижимым смертельно опасно. Если граждане, законодатели, журналисты и судьи не могут понять, как работает бюрократическая система государства, они больше не могут контролировать ее и теряют к ней доверие.

Несмотря на все страхи и тревоги, которые иногда внушают бюрократы, до наступления компьютерной эры они никогда не могли стать абсолютно непостижимыми, потому что всегда оставались людьми. Правила, формы и протоколы создавались человеческим разумом. Чиновники могли быть жестокими и жадными, но жестокость и жадность были привычными человеческими эмоциями, которые люди могли предвидеть и манипулировать ими, например, подкупая чиновников. Даже в советском ГУЛАГе или нацистском концлагере бюрократия не была абсолютно чуждой. Ее так называемая бесчеловечность на самом деле отражала человеческие предубеждения и недостатки.

Человеческая основа бюрократии давала людям хотя бы надежду на выявление и исправление ее ошибок. Например, в 1951 году бюрократы из совета по образованию в городе Топика, штат Канзас, отказались зачислить дочь Оливера Брауна в начальную школу рядом с ее домом. Вместе с двенадцатью другими семьями, получившими аналогичные отказы, Браун подала иск против Совета по образованию Топики, который в итоге дошел до Верховного суда США.

Все члены совета по образованию Топеки были людьми, и, следовательно, Браун, его адвокаты и судьи Верховного суда достаточно хорошо понимали, как они принимали решение, каковы были их возможные интересы и предубеждения. Все члены совета были белыми, Брауны - чернокожими, а близлежащая школа была сегрегированной школой для белых детей. Поэтому легко понять, что причиной отказа бюрократов зачислить дочь Брауна в школу был расизм.

Также стало возможным понять, откуда взялись мифы о расизме. Расизм утверждал, что человечество разделено на расы; что белая раса превосходит другие расы; что любой контакт с представителями черной расы может загрязнить чистоту белых; и что поэтому черным детям следует препятствовать смешиваться с белыми детьми. Это была смесь двух хорошо известных биологических драм, которые часто происходят вместе: "Мы против них" и "Чистота против загрязнения". Почти в каждом человеческом обществе в истории существовала та или иная версия этой биодрамы, и историки, социологи, антропологи и биологи понимают, почему она так привлекательна для людей, а также почему она глубоко порочна. Хотя расизм позаимствовал свою основную сюжетную линию у эволюции, конкретные детали являются чистой мифологией. Нет никаких биологических оснований для разделения человечества на отдельные расы, и нет абсолютно никаких биологических причин считать, что одна раса "чистая", а другая "нечистая".

Американские белые супремасисты пытаются обосновать свою позицию, апеллируя к различным священным текстам, в первую очередь к Конституции США и Библии. Конституция США изначально узаконила расовую сегрегацию и превосходство белой расы, оставив все гражданские права за белыми людьми и разрешив порабощение чернокожих. Библия не только освятила рабство в Десяти заповедях и других многочисленных отрывках, но и наложила проклятие на потомство Хама - предполагаемого прародителя африканцев - сказав, что "низшим из рабов будет он для братьев своих" (Бытие 9:25).

Однако оба эти текста были созданы людьми, а значит, люди могли осознать их происхождение и несовершенство и хотя бы попытаться исправить их ошибки. Люди могут понять политические интересы и культурные предубеждения, которые преобладали на древнем Ближнем Востоке и в Америке XVIII века и которые заставили человеческих авторов Библии и Конституции США узаконить расизм и рабство. Такое понимание позволяет людям либо вносить поправки в эти тексты, либо игнорировать их. В 1868 году Четырнадцатая поправка к Конституции США предоставила равную правовую защиту всем гражданам. В 1954 году Верховный суд США в своем знаковом решении по делу "Браун против Совета по образованию" постановил, что сегрегация школ по расовому признаку является неконституционным нарушением Четырнадцатой поправки. Что касается Библии, то, хотя не существует механизма, позволяющего внести изменения в Десятую заповедь или Бытие 9:25, люди на протяжении веков по-разному интерпретировали этот текст и в конце концов полностью отвергли его авторитет. В деле "Браун против Совета по образованию" судьи Верховного суда США не сочли нужным принимать во внимание библейский текст.

Но что может произойти в будущем, если какой-нибудь алгоритм социального кредита откажет ребенку с низким кредитом в просьбе записаться в школу с высоким кредитом? Как мы видели в главе 8, компьютеры, скорее всего, будут страдать от собственных предубеждений и изобретать межкомпьютерные мифологии и фиктивные категории. Как люди смогут выявлять и исправлять такие ошибки? И как судьи Верховного суда из плоти и крови смогут принимать решения о конституционности алгоритмических решений? Смогут ли они понять, как алгоритмы приходят к своим выводам?

Это уже не чисто теоретические вопросы. В феврале 2013 года в городе Ла-Кросс, штат Висконсин, произошла перестрелка на автомобиле. Позднее полицейские заметили автомобиль, участвовавший в стрельбе, и арестовали водителя, Эрика Лумиса. Лумис отрицал свою причастность к стрельбе, но признал себя виновным по двум менее тяжким обвинениям: "попытка скрыться от сотрудника дорожной полиции" и "управление транспортным средством без разрешения владельца".26 Когда судье предстояло определить меру наказания, он обратился к алгоритму под названием COMPAS, который Висконсин и некоторые другие американские штаты использовали в 2013 году для оценки риска повторного совершения преступления. Алгоритм оценил Лумиса как человека с высоким риском, который, скорее всего, совершит больше преступлений в будущем. Эта алгоритмическая оценка повлияла на судью, который приговорил Лумиса к шести годам лишения свободы - суровое наказание за относительно незначительные правонарушения, в которых он признался.

Лумис подал апелляцию в Верховный суд Висконсина, утверждая, что судья нарушил его право на надлежащую правовую процедуру. Ни судья, ни Лумис не понимали, как алгоритм КОМПАС дает свою оценку, а когда Лумис попросил дать ему полное объяснение, ему было отказано. Алгоритм КОМПАС был частной собственностью компании Northpointe, и компания утверждала, что методология алгоритма является коммерческой тайной. Однако, не зная, как алгоритм принимает решения, как Лумис или судья могли быть уверены, что это надежный инструмент, свободный от предвзятости и ошибок? Впоследствии ряд исследований показал, что алгоритм КОМПАС действительно мог содержать несколько проблемных предубеждений, вероятно, взятых из данных, на которых он обучался.

В деле "Лумис против Висконсина" (2016) Верховный суд Висконсина все же вынес решение не в пользу Лумиса. Судьи утверждали, что использование алгоритмической оценки риска является законным, даже если методология алгоритма не раскрывается ни суду, ни подсудимому. Судья Энн Уолш Брэдли написала, что, поскольку КОМПАС делает свою оценку на основе данных, которые либо находятся в открытом доступе, либо предоставлены самим обвиняемым, Лумис мог бы опровергнуть или объяснить все данные, которые использовал алгоритм. В этом заключении не учитывался тот факт, что точные данные вполне могут быть неверно интерпретированы и что Лумис не мог опровергнуть или объяснить все общедоступные данные о себе.

Верховный суд штата Висконсин не был полностью лишен понимания опасности, связанной с использованием непрозрачных алгоритмов. Поэтому, разрешив такую практику, он постановил, что всякий раз, когда судьи получают алгоритмические оценки риска, они должны содержать письменное предупреждение для судей о потенциальной предвзятости алгоритмов. Суд также посоветовал судьям быть осторожными, полагаясь на такие алгоритмы. К сожалению, эта оговорка оказалась пустым жестом. Суд не дал судьям никаких конкретных указаний относительно того, как им следует проявлять такую осторожность. В своем обсуждении этого дела Гарвардское юридическое обозрение пришло к выводу, что "большинство судей вряд ли поймут алгоритмические оценки рисков". Затем он процитировал одного из судей Верховного суда штата Висконсин, который отметил, что, несмотря на подробные объяснения алгоритма, им самим было сложно его понять.

Лумис подал апелляцию в Верховный суд США. Однако 26 июня 2017 года суд отказался рассматривать это дело, фактически поддержав решение Верховного суда Висконсина. Теперь подумайте о том, что алгоритм, который в 2013 году оценил Лумиса как человека с высоким уровнем риска, был ранним прототипом. С тех пор были разработаны гораздо более сложные и изощренные алгоритмы оценки риска, которым были предоставлены более широкие полномочия. К началу 2020-х годов граждане многих стран будут регулярно получать тюремные сроки, частично основанные на оценках риска, сделанных алгоритмами, которые не понимают ни судьи, ни обвиняемые. И тюремные сроки - это только верхушка айсберга.

ПРАВО НА ОБЪЯСНЕНИЕ

Компьютеры принимают за нас все больше решений, как обыденных, так и меняющих жизнь. Помимо тюремных сроков, алгоритмы все чаще решают, предложить ли нам место в колледже, дать ли нам работу, предоставить ли нам социальное пособие или выдать кредит. Они также помогают определить, какое медицинское обслуживание мы получаем, какие страховые взносы платим, какие новости слышим и кто пригласит нас на свидание.

По мере того как общество доверяет все больше и больше решений компьютерам, оно подрывает жизнеспособность демократических механизмов самокоррекции, а также демократической прозрачности и подотчетности. Как выборные должностные лица могут регулировать непостижимые алгоритмы? В связи с этим растет потребность в закреплении нового права человека - права на объяснение. Вступившее в силу в 2018 году Общее положение Европейского союза о защите данных (GDPR) гласит, что если алгоритм принимает решение в отношении человека - например, отказывает нам в кредите, - то человек имеет право получить объяснение этого решения и оспорить его перед каким-либо человеческим органом. В идеале это должно сдерживать предвзятость алгоритмов и позволить демократическим механизмам самокоррекции выявить и исправить хотя бы некоторые из наиболее грубых ошибок компьютеров.

Но может ли это право быть реализовано на практике? Мустафа Сулейман - мировой эксперт в этой области. Он является соучредителем и бывшим главой DeepMind, одной из самых значимых компаний в мире ИИ, ответственной за разработку программы AlphaGo, среди прочих достижений. AlphaGo была создана для игры в го - стратегическую настольную игру, в которой два игрока пытаются победить друг друга, окружая и захватывая территорию. Изобретенная в Древнем Китае, эта игра гораздо сложнее шахмат. Поэтому даже после того, как компьютеры победили человеческих чемпионов мира по шахматам, эксперты все еще считали, что компьютеры никогда не превзойдут человечество в го.

Именно поэтому и профессионалы го, и компьютерные эксперты были ошеломлены в марте 2016 года, когда AlphaGo победил чемпиона Южной Кореи по го Ли Седоля. В своей книге 2023 года "Грядущая волна" Сулейман описывает один из самых важных моментов их матча - момент, который дал новое определение ИИ и который во многих научных и правительственных кругах признан важнейшим поворотным пунктом в истории. Это произошло во время второй партии матча, 10 марта 2016 года.

"Затем... последовал ход № 37", - пишет Сулейман. "Это было бессмысленно. AlphaGo, очевидно, провалил дело, слепо следуя очевидно проигрышной стратегии, которую ни один профессиональный игрок никогда бы не применил. Комментаторы матча, оба профессионала высочайшего класса, сказали, что это "очень странный ход", и решили, что это "ошибка". Это было настолько необычно, что Седолю потребовалось пятнадцать минут, чтобы ответить, и он даже встал из-за доски, чтобы прогуляться на улицу. Мы наблюдали за происходящим из нашей комнаты управления, и напряжение было нереальным. И все же по мере приближения эндшпиля этот "ошибочный" ход оказался решающим. AlphaGo снова выиграла. Стратегия игры в го переписывалась на наших глазах. Наш ИИ обнаружил идеи, которые не приходили в голову самым гениальным игрокам на протяжении тысячелетий".

Move 37 - это эмблема революции ИИ по двум причинам. Во-первых, он продемонстрировал инопланетную природу ИИ. В Восточной Азии го считается гораздо большим, чем просто игрой: это ценнейшая культурная традиция. Наряду с каллиграфией, живописью и музыкой, го было одним из четырех искусств, которые должен был знать каждый утонченный человек. На протяжении более чем двадцати пяти сотен лет в го играли десятки миллионов людей, а вокруг игры сформировались целые школы, отстаивающие различные стратегии и философии. Однако за все эти тысячелетия человеческие умы исследовали лишь некоторые области го. Другие области оставались нетронутыми, потому что человеческие умы просто не думали туда соваться. ИИ, будучи свободным от ограничений человеческого разума, обнаружил и исследовал эти ранее скрытые области.

Во-вторых, ход 37 продемонстрировал непостижимость ИИ. Даже после того, как AlphaGo сыграл его и добился победы, Сулейман и его команда не смогли объяснить, как AlphaGo решил сыграть его. Даже если бы суд обязал DeepMind предоставить Ли Седолю объяснения, никто не смог бы выполнить этот приказ. Сулейман пишет: "Перед нами, людьми, стоит новая задача: будут ли новые изобретения недоступны нашему пониманию? Раньше создатели могли объяснить, как что-то работает, почему оно делает то, что делает, даже если это требовало огромного количества деталей. Сейчас это все чаще перестает быть правдой. Многие технологии и системы становятся настолько сложными, что не под силу ни одному человеку по-настоящему понять их.... В области искусственного интеллекта нейронные сети, движущиеся к автономности, в настоящее время не поддаются объяснению. Вы не можете провести человека через процесс принятия решений, чтобы объяснить, почему алгоритм выдал конкретное предсказание. Инженеры не могут заглянуть под капот и легко объяснить в деталях, что привело к тому или иному событию. GPT-4, AlphaGo и все остальные - это "черные ящики", их результаты и решения основаны на непрозрачных и невозможно сложных цепочках мельчайших сигналов".

Возникновение непостижимого инопланетного разума подрывает демократию. Если все больше и больше решений, касающихся жизни людей, принимаются в "черном ящике", так что избиратели не могут понять и оспорить их, демократия перестает функционировать. В частности, что произойдет, если важнейшие решения не только о жизни отдельных людей, но даже о коллективных делах, таких как процентная ставка Федеральной резервной системы, будут приниматься непостижимыми алгоритмами? Люди-избиратели могут продолжать выбирать человека-президента, но не будет ли это пустой церемонией? Даже сегодня лишь малая часть человечества по-настоящему понимает, что такое финансовая система. Исследование ОЭСР, проведенное в 2016 году, показало, что большинство людей с трудом понимают даже такие простые финансовые понятия, как сложные проценты. Опрос британских парламентариев, которым было поручено регулировать один из важнейших финансовых центров мира, в 2014 году показал, что только 12 процентов точно понимают, что новые деньги создаются, когда банки выдают кредиты. Этот факт относится к числу самых основных принципов современной финансовой системы.38 Как показал финансовый кризис 2007-8 годов, более сложные финансовые устройства и принципы, например те, что лежат в основе CDO, были понятны лишь немногим финансовым волшебникам. Что произойдет с демократией, когда искусственный интеллект создаст еще более сложные финансовые устройства, а число людей, понимающих суть финансовой системы, упадет до нуля?

Растущая непостижимость нашей информационной сети - одна из причин недавней волны популистских партий и харизматических лидеров. Когда люди больше не могут разобраться в мире, когда они чувствуют себя перегруженными огромным количеством информации, которую они не могут переварить, они становятся легкой добычей для теорий заговора и обращаются за спасением к тому, что они действительно понимают, - к человеку. К сожалению, хотя харизматичные лидеры, безусловно, имеют свои преимущества, ни один человек, каким бы вдохновляющим или гениальным он ни был, не сможет в одиночку расшифровать алгоритмы, которые все больше и больше доминируют в мире, и обеспечить их справедливость. Проблема в том, что алгоритмы принимают решения, опираясь на множество точек данных, в то время как человеку очень сложно сознательно обдумать большое количество точек данных и взвесить их друг с другом. Мы предпочитаем работать с отдельными точками данных. Вот почему, сталкиваясь со сложными проблемами - будь то просьба о кредите, пандемия или война, - мы часто ищем одну-единственную причину для принятия определенного решения и игнорируем все остальные соображения. Это и есть заблуждение единственной причины.

Мы настолько плохо умеем взвешивать множество различных факторов, что, когда люди называют большое количество причин для принятия того или иного решения, это обычно звучит подозрительно. Допустим, хорошая подруга не пришла на нашу свадьбу. Если она даст нам единственное объяснение - "Моя мама попала в больницу, и я должна была ее навестить", - это звучит правдоподобно. Но что, если она перечислит пятьдесят различных причин, по которым решила не приходить: "Моя мама была немного не в духе, и я должна была отвезти свою собаку к ветеринару на этой неделе, и у меня был проект на работе, и шел дождь, и... и я знаю, что ни одна из этих пятидесяти причин сама по себе не оправдывает моего отсутствия, но когда я сложила их все вместе, они не позволили мне присутствовать на вашей свадьбе". Мы не говорим так, потому что не думаем в таком ключе. Мы не перечисляем в уме пятьдесят различных причин, не придаем каждой из них определенный вес, не суммируем все веса и не приходим таким образом к выводу.

Но именно так алгоритмы оценивают наш криминальный потенциал или нашу кредитоспособность. Алгоритм КОМПАС, например, оценивает риски, принимая во внимание ответы на 137 пунктов анкеты. То же самое можно сказать и о банковском алгоритме, который отказывает нам в кредите. Если правила GDPR ЕС заставят банк объяснить решение алгоритма, это объяснение не будет состоять из одного предложения; скорее всего, оно будет представлено в виде сотен или даже тысяч страниц, заполненных цифрами и уравнениями.

"Наш алгоритм, - говорится в письме воображаемого банка, - использует точную систему баллов для оценки всех заявок, принимая во внимание тысячу различных типов данных. Все эти данные суммируются, чтобы получить общий балл. Люди, чей общий балл отрицательный, считаются малокредитоспособными, слишком рискованными, чтобы получить кредит. Ваш общий балл составил -378, поэтому ваша заявка на кредит была отклонена". Далее в письме может быть приведен подробный список тысячи факторов, которые учитывал алгоритм, включая те, которые большинство людей могут посчитать несущественными, например точное время подачи заявки или тип смартфона, которым пользовался заявитель. Так, на странице 601 своего письма банк может объяснить, что "вы подали заявку со своего смартфона, который был последней моделью iPhone. Проанализировав миллионы предыдущих заявок на кредит, наш алгоритм обнаружил закономерность: вероятность того, что люди, подавшие заявку с помощью последней модели iPhone, выплатят кредит, на 0,08 % выше. Поэтому алгоритм добавил 8 баллов к вашему общему баллу за это. Однако на момент отправки заявки с вашего iPhone его батарея была разряжена на 17 процентов. Проанализировав миллионы предыдущих заявок на кредит, наш алгоритм обнаружил еще одну закономерность: люди, которые допускают, чтобы заряд батареи их смартфона опускался ниже 25 процентов, на 0,5 процента реже выплачивают кредит. За это вы теряете 50 баллов".

Вам может показаться, что банк поступил с вами несправедливо. "Разве это разумно - отказывать мне в кредите, - скажете вы, - только потому, что у меня разрядилась батарея телефона?" Однако это было бы недоразумением. "Батарея была не единственной причиной", - объяснят в банке. "Это был лишь один из тысячи факторов, которые учитывал наш алгоритм".

"Но разве ваш алгоритм не видел, что только дважды за последние десять лет мой банковский счет был переполнен?"

"Очевидно, он это заметил", - могут ответить в банке. "Посмотрите на страницу 453. За это вы получили 300 баллов. Но все остальные причины снизили ваш суммарный балл до -378".

Хотя такой способ принятия решений может показаться нам чуждым, у него, безусловно, есть потенциальные преимущества. При принятии решения, как правило, целесообразно учитывать все значимые данные, а не только один или два существенных факта. Конечно, есть много поводов для споров о том, кто определяет значимость информации. Кто решает, следует ли считать релевантными такие вещи, как модель смартфона или цвет кожи, при оформлении кредита? Но как бы мы ни определяли релевантность, способность учитывать больше данных, скорее всего, будет преимуществом. Ведь проблема многих человеческих предрассудков заключается в том, что они фокусируются только на одной или двух точках данных - цвете кожи, инвалидности или половой принадлежности - и игнорируют другую информацию. Банки и другие учреждения все чаще полагаются на алгоритмы при принятии решений именно потому, что алгоритмы могут учитывать гораздо больше данных, чем человек.

Но когда дело доходит до объяснений, это создает потенциально непреодолимое препятствие. Как человеческий разум может проанализировать и оценить решение, принятое на основе такого количества точек данных? Мы можем считать, что Верховный суд штата Висконсин должен был заставить компанию Northpointe раскрыть информацию о том, как алгоритм КОМПАС решил, что Эрик Лумис относится к группе повышенного риска. Но если бы все данные были раскрыты, смог бы Лумис или суд разобраться в них?

Дело не только в том, что нам нужно учитывать множество точек данных. Возможно, самое главное - мы не можем понять, как алгоритмы находят закономерности в данных и принимают решения о распределении баллов. Даже если мы знаем, что банковский алгоритм снимает определенное количество баллов с людей, которые допускают, чтобы заряд батареи их смартфонов опускался ниже 25 процентов, как мы можем оценить, справедливо ли это? Алгоритм не получал это правило от человека; он пришел к такому выводу, обнаружив закономерность в миллионах предыдущих кредитных заявок. Может ли отдельный клиент-человек просмотреть все эти данные и оценить, действительно ли эта закономерность надежна и беспристрастна?

Однако в этом облаке цифр есть и положительная сторона. В то время как неспециалисты могут быть не в состоянии проверить сложные алгоритмы, команда экспертов с помощью собственных инструментов искусственного интеллекта потенциально может оценить справедливость алгоритмических решений даже более надежно, чем кто-либо может оценить справедливость человеческих решений. В конце концов, хотя может показаться, что человеческие решения основываются только на тех нескольких точках данных, которые мы осознаем, на самом деле на наши решения подсознательно влияют тысячи дополнительных точек данных. Не зная об этих подсознательных процессах, когда мы обдумываем свои решения или объясняем их, мы часто используем одномоментные рационализации post hoc того, что происходит на самом деле, когда миллиарды нейронов взаимодействуют внутри нашего мозга. Соответственно, если человеческий судья приговаривает нас к шести годам тюрьмы, как можем мы - или судья - быть уверены, что решение было сформировано только из справедливых соображений, а не из-за подсознательных расовых предубеждений или того, что судья был голоден?

В случае с судьями из плоти и крови эта проблема не может быть решена, по крайней мере, с нашими нынешними знаниями о биологии. В отличие от этого, когда решение принимает алгоритм, мы в принципе можем знать каждый из многочисленных соображений алгоритма и точный вес, придаваемый каждому из них. Так, несколько групп экспертов - от Министерства юстиции США до некоммерческого новостного агентства ProPublica - разбирали алгоритм КОМПАС, чтобы оценить его потенциальную предвзятость.46 Такие группы могут использовать не только коллективные усилия многих людей, но и мощь компьютеров. Подобно тому, как часто лучше подставить вора, чтобы поймать вора, так и мы можем использовать один алгоритм для проверки другого.

В связи с этим возникает вопрос, как мы можем быть уверены в надежности самого алгоритма проверки. В конечном итоге чисто технологического решения этой рекурсивной проблемы не существует. Независимо от того, какую технологию мы разработаем, нам придется поддерживать бюрократические институты, которые будут проверять алгоритмы и давать или отказывать им в одобрении. Такие институты будут объединять возможности людей и компьютеров, чтобы убедиться, что новые алгоритмические инструменты безопасны и справедливы. Без таких институтов, даже если мы примем законы, предоставляющие людям право на объяснение, и даже если мы введем правила против компьютерной предвзятости, кто сможет обеспечить соблюдение этих законов и правил?

NOSEDIVE

Чтобы проверить алгоритмы, регулирующие органы должны будут не только анализировать их, но и переводить свои открытия в понятные человеку истории. В противном случае мы никогда не будем доверять регулирующим институтам, а вместо этого будем верить в теории заговора и харизматичных лидеров. Как отмечалось в главе 3, людям всегда было трудно понять бюрократию, потому что бюрократии отклонялись от сценария биологических драм, а у большинства художников не хватало желания или способности изображать бюрократические драмы. Например, в романах, фильмах и сериалах о политике XXI века основное внимание уделяется вражде и любовным связям нескольких влиятельных семей, как будто современные государства управляются так же, как древние племена и королевства. Эта художественная зацикленность на биологических драмах династий заслоняет вполне реальные изменения, происходившие на протяжении веков в динамике власти.

Поскольку компьютеры будут все чаще заменять людей-бюрократов и людей-мифотворцев, это снова изменит глубинную структуру власти. Чтобы выжить, демократии нужны не только специальные бюрократические институты, способные тщательно изучить эти новые структуры, но и художники, способные объяснить эти новые структуры в доступной и увлекательной форме. Например, это успешно сделал эпизод "Nosedive" в научно-фантастическом сериале "Черное зеркало".

Выпущенный в 2016 году, в то время, когда мало кто слышал о системах социального кредитования, "Nosedive" блестяще объясняет, как работают такие системы и какие угрозы они представляют. Эпизод рассказывает историю женщины по имени Лейси, которая живет со своим братом Райаном, но хочет переехать в собственную квартиру. Чтобы получить скидку на новую квартиру, ей нужно повысить свой социальный кредитный рейтинг с 4,2 до 4,5 (из 5). Дружба с людьми с высоким баллом повышает ваш собственный балл, поэтому Лейси пытается возобновить общение с Наоми, подругой детства, у которой сейчас рейтинг 4,8. Лейси приглашают на свадьбу Наоми, но по дороге туда она проливает кофе на человека с высоким рейтингом, из-за чего ее собственный балл немного падает, что, в свою очередь, заставляет авиакомпанию отказать ей в месте. С этого момента все, что может пойти не так, идет не так, рейтинг Лейси падает, и она оказывается в тюрьме с оценкой меньше 1.

Эта история опирается на некоторые элементы традиционных биологических драм - "парень встречает девушку" (свадьба), соперничество братьев и сестер (напряжение между Лейси и Райаном) и, самое главное, статусное соперничество (главная проблема эпизода). Но настоящим героем и движущей силой сюжета является не Лейси или Наоми, а невоплощенный алгоритм, управляющий системой социальных кредитов. Алгоритм полностью меняет динамику старых биологических драм - особенно динамику статусной конкуренции. Если раньше люди иногда вступали в статусную конкуренцию, но часто имели желанные перерывы в этой крайне стрессовой ситуации, то вездесущий алгоритм социальных кредитов устраняет эти перерывы. "Nosedive" - это не избитая история о биологическом соревновании за статус, а скорее прозорливое исследование того, что происходит, когда компьютерные технологии меняют правила статусных соревнований.

Если бюрократы и художники научатся сотрудничать и если те и другие будут полагаться на помощь компьютеров, возможно, удастся предотвратить превращение компьютерной сети в непостижимую. Пока демократические общества понимают, что такое компьютерная сеть, их механизмы самокоррекции являются нашей лучшей гарантией от злоупотреблений ИИ. Так, в законе ЕС об ИИ, предложенном в 2021 году, системы социального кредитования, подобные той, что используется в фильме "Nosedive", названы одним из немногих видов ИИ, которые полностью запрещены, поскольку они могут "привести к дискриминационным результатам и исключению определенных групп" и "нарушить право на достоинство и недискриминацию, а также ценности равенства и справедливости". Как и в случае режимов тотальной слежки, так и в случае систем социального кредитования тот факт, что они могут быть созданы, не означает, что мы должны их создать.

ЦИФРОВАЯ АНАРХИЯ

Новая компьютерная сеть представляет собой последнюю угрозу для демократий. Вместо цифрового тоталитаризма она может привести к цифровой анархии. Децентрализованная природа демократий и их сильные самокорректирующиеся механизмы служат защитой от тоталитаризма, но они также усложняют обеспечение порядка. Чтобы функционировать, демократия должна отвечать двум условиям: она должна обеспечивать свободный общественный диалог по ключевым вопросам и поддерживать минимальный уровень социального порядка и институционального доверия. Свободный разговор не должен скатываться в анархию. Особенно когда речь идет о срочных и важных проблемах, общественные дебаты должны вестись в соответствии с принятыми правилами, и должен существовать легитимный механизм для принятия какого-то окончательного решения, даже если оно не всем нравится.

До появления газет, радио и других современных информационных технологий ни одному крупному обществу не удавалось сочетать свободные дискуссии с институциональным доверием, поэтому масштабная демократия была невозможна. Теперь, с появлением новых компьютерных сетей, может ли масштабная демократия снова стать невозможной? Одна из трудностей заключается в том, что компьютерная сеть облегчает участие в дебатах. В прошлом такие организации, как газеты, радиостанции и устоявшиеся политические партии, выступали в роли привратников, определяя, кто будет услышан в публичной сфере. Социальные медиа подорвали власть этих привратников, что привело к более открытому, но и более анархичному общественному разговору.

Когда к обсуждению присоединяются новые группы, они приносят с собой новые точки зрения и интересы и часто ставят под сомнение старый консенсус о том, как вести дискуссию и принимать решения. Правила дискуссии должны быть согласованы заново. Это потенциально позитивное развитие событий, которое может привести к созданию более инклюзивной демократической системы. В конце концов, исправление прежних предубеждений и предоставление возможности ранее лишенным прав людям присоединиться к общественной дискуссии - это жизненно важная часть демократии. Однако в краткосрочной перспективе это создает беспорядки и дисгармонию. Если не будет достигнуто соглашение о том, как вести общественные дебаты и как принимать решения, результатом станет анархия, а не демократия.

Анархический потенциал ИИ вызывает особую тревогу, поскольку он позволяет не только новым человеческим группам вступать в общественные дискуссии. Впервые в истории демократия вынуждена бороться с какофонией нечеловеческих голосов. На многих платформах социальных сетей боты составляют значительное меньшинство участников. Согласно одному из аналитических исследований, из 20 миллионов твитов, созданных во время избирательной кампании в США в 2016 году, 3,8 миллиона твитов (почти 20 процентов) были созданы ботами.

К началу 2020-х годов ситуация ухудшилась. Исследование 2020 года показало, что боты создают 43,2 % твитов. Более полное исследование 2022 года, проведенное агентством цифровой разведки Similarweb, показало, что 5 % пользователей Twitter, вероятно, являются ботами, но они создают "от 20,8 до 29,2 % контента, публикуемого в Twitter". Когда люди пытаются обсудить такой важный вопрос, как кого выбрать президентом США, что произойдет, если многие из голосов, которые они услышат, будут созданы компьютерами?

Еще одна тревожная тенденция касается контента. Изначально боты использовались для влияния на общественное мнение за счет огромного объема распространяемых ими сообщений. Они ретвитили или рекомендовали определенный контент, созданный человеком, но сами не могли создавать новые идеи и устанавливать близкие отношения с людьми. Однако новые инструменты генеративного ИИ, такие как ChatGPT, способны именно на это. В исследовании 2023 года, опубликованном в журнале Science Advances, ученые попросили людей и ChatGPT создать как точные, так и намеренно вводящие в заблуждение короткие тексты по таким вопросам, как вакцины, технология 5G, изменение климата и эволюция. Затем эти тексты были представлены семистам людям, которых попросили оценить их достоверность. Люди хорошо распознавали ложь дезинформации, созданной человеком, но склонны были считать дезинформацию, созданную ИИ, достоверной.

Что же произойдет с демократическими дебатами, когда миллионы, а со временем и миллиарды высокоинтеллектуальных ботов будут не только составлять чрезвычайно убедительные политические манифесты и создавать глубоко фейковые изображения и видео, но и смогут завоевать наше доверие и дружбу? Если я вступаю в политические дебаты с ИИ в режиме онлайн, то пытаться изменить его мнение - пустая трата времени: будучи бессознательной сущностью, он не интересуется политикой и не может голосовать на выборах. Но чем больше я общаюсь с ИИ, тем лучше он меня узнает, а значит, сможет завоевать мое доверие, отточить свои аргументы и постепенно изменить мои взгляды. В борьбе за сердца и умы близость - чрезвычайно мощное оружие. Раньше политические партии могли завладеть нашим вниманием, но им было сложно создать массовую близость. Радиоприемники могли транслировать речь лидера на миллионы, но они не могли подружиться со слушателями. Теперь же политическая партия или даже иностранное правительство могут развернуть целую армию ботов, которые установят дружеские отношения с миллионами граждан и затем используют эту близость, чтобы повлиять на их мировоззрение.

Наконец, алгоритмы не только присоединяются к дискуссии, но и все чаще ее организуют. Социальные сети позволяют новым группам людей оспаривать старые правила ведения дискуссий. Но переговоры о новых правилах ведутся не людьми. Скорее, как мы уже объясняли в нашем предыдущем анализе алгоритмов социальных сетей, зачастую именно алгоритмы устанавливают правила. В XIX и XX веках, когда медиамагнаты подвергали цензуре одни взгляды и продвигали другие, это могло подорвать демократию, но, по крайней мере, магнаты были людьми, и их решения могли быть подвергнуты демократической проверке. Гораздо опаснее, если мы позволим непостижимым алгоритмам решать, какие взгляды следует распространять.

Если манипулятивные боты и непостижимые алгоритмы станут доминировать в общественных дискуссиях, это может привести к краху демократических дебатов именно тогда, когда мы больше всего в них нуждаемся. Именно тогда, когда мы должны принимать судьбоносные решения о быстро развивающихся новых технологиях, общественная сфера будет наводнена сгенерированными компьютером фальшивыми новостями, граждане не смогут определить, с кем они ведут дискуссию - с другом-человеком или с манипулятивной машиной, и не смогут прийти к консенсусу относительно самых основных правил обсуждения или самых основных фактов. Такая анархическая информационная сеть не может породить ни истину, ни порядок и не может существовать долго. Если в итоге мы получим анархию, следующим шагом, вероятно, станет установление диктатуры, поскольку люди согласятся обменять свою свободу на некоторую определенность.

ЗАПРЕТИТЬ БОТОВ

Перед лицом угрозы, которую алгоритмы представляют для демократического общения, демократические государства не беспомощны. Они могут и должны принять меры по регулированию ИИ и предотвращению загрязнения нашей инфосферы фальшивыми людьми, распространяющими фальшивые новости. Философ Дэниел Деннетт считает, что мы можем черпать вдохновение из традиционных правил регулирования денежного рынка. С тех пор как были изобретены монеты, а затем и банкноты, всегда существовала техническая возможность их подделки. Подделка представляла собой экзистенциальную опасность для финансовой системы, поскольку подрывала доверие людей к деньгам. Если бы плохие игроки наводнили рынок фальшивыми деньгами, финансовая система рухнула бы. Однако на протяжении тысячелетий финансовой системе удавалось защищать себя, принимая законы, запрещающие подделку денег. В результате лишь относительно небольшой процент денег в обращении был подделан, и доверие людей к ним сохранилось.

То, что верно в отношении подделки денег, должно быть верно и в отношении подделки людей. Если правительства принимают решительные меры для защиты доверия к деньгам, то имеет смысл принять столь же решительные меры для защиты доверия к людям. До появления искусственного интеллекта один человек мог выдавать себя за другого, и общество наказывало таких мошенников. Но общество не потрудилось объявить вне закона создание поддельных людей, поскольку технологии для этого не существовало. Теперь, когда ИИ может выдавать себя за человека, это грозит разрушить доверие между людьми и расшатать ткань общества. Поэтому Деннетт предлагает правительствам объявить фальшивых людей вне закона так же решительно, как ранее они объявили вне закона фальшивые деньги.

Закон должен запрещать не только глубокое подделывание реальных людей - например, создание фальшивого видео с президентом США, - но и любые попытки нечеловеческого агента выдать себя за человека. Если кто-то жалуется, что такие строгие меры нарушают свободу слова, ему следует напомнить, что у ботов нет свободы слова. Запрет людей на публичных площадках - деликатный шаг, и демократические страны должны быть очень осторожны с такой цензурой. Однако запрет ботов - это простой вопрос: он не нарушает ничьих прав, потому что у ботов нет прав.

Все это не означает, что демократические страны должны запретить всем ботам, алгоритмам и искусственным интеллектам участвовать в любых дискуссиях. Цифровые инструменты могут участвовать во многих дискуссиях, если они не выдают себя за людей. Например, врачи с искусственным интеллектом могут быть очень полезны. Они могут следить за нашим здоровьем двадцать четыре часа в сутки, давать медицинские советы с учетом индивидуальных особенностей здоровья и характера пациента, а также отвечать на наши вопросы с бесконечным терпением. Но ИИ-врач никогда не должен пытаться выдать себя за человека.

Еще одна важная мера, которую могут принять демократические страны, - запретить алгоритмам, не поддающимся контролю, курировать ключевые общественные дискуссии. Мы, конечно, можем продолжать использовать алгоритмы для управления платформами социальных сетей; очевидно, что ни один человек не может этого сделать. Но принципы, по которым алгоритмы решают, какие голоса следует заглушить, а какие усилить, должны проверяться человеческим институтом. Хотя мы должны быть осторожны с цензурой подлинных человеческих взглядов, мы можем запретить алгоритмам намеренно распространять возмущение. По крайней мере, корпорации должны быть прозрачны в отношении принципов курирования, которым следуют их алгоритмы. Если они используют возмущение, чтобы привлечь наше внимание, пусть они четко объяснят свою бизнес-модель и любые политические связи, которые у них могут быть. Если алгоритм систематически удаляет видео, которое не соответствует политической повестке дня компании, пользователи должны знать об этом.

Это лишь некоторые из многочисленных предложений, выдвинутых в последние годы, о том, как демократические страны могли бы регулировать участие ботов и алгоритмов в общественных дискуссиях. Естественно, у каждого из них есть свои преимущества и недостатки, и ни одно из них не будет легко реализовать. Кроме того, поскольку технология развивается так быстро, правила, скорее всего, быстро устареют. Я хотел бы подчеркнуть, что демократические страны могут регулировать информационный рынок и что от этого зависит их выживание. Наивный взгляд на информацию выступает против регулирования и считает, что полностью свободный информационный рынок будет спонтанно генерировать истину и порядок. Это совершенно не соответствует реальной истории демократии. Сохранение демократического диалога никогда не было легким делом, и все места, где он происходил - от парламентов и мэрий до газет и радиостанций, - требовали регулирования. Это вдвойне верно в эпоху, когда чужеродная форма интеллекта угрожает доминировать в разговоре.

БУДУЩЕЕ ДЕМОКРАТИИ

На протяжении большей части истории масштабная демократия была невозможна, потому что информационные технологии не были достаточно развиты для проведения масштабных политических дискуссий. Миллионы людей, разбросанных на десятках тысяч квадратных километров, не имели инструментов для обсуждения общественных дел в режиме реального времени. Теперь, по иронии судьбы, демократия может оказаться невозможной из-за того, что информационные технологии становятся слишком сложными. Если непостижимые алгоритмы возьмут на себя управление беседой, и особенно если они будут подавлять аргументированные споры и разжигать ненависть и смятение, общественное обсуждение невозможно будет поддерживать. Однако если демократия и рухнет, то, скорее всего, не из-за технологической неизбежности, а из-за неспособности людей разумно регулировать новые технологии.

Мы не можем предсказать, как будут развиваться события. Однако уже сейчас очевидно, что информационная сеть многих демократических стран разрушается. Демократы и республиканцы в США больше не могут договориться даже об основных фактах - например, о том, кто победит на президентских выборах 2020 года, - и вряд ли смогут вести вежливую беседу. Двухпартийное сотрудничество в Конгрессе, некогда бывшее основополагающей чертой американской политики, практически исчезло.56 Такие же процессы радикализации происходят во многих других демократических странах, от Филиппин до Бразилии. Когда граждане не могут разговаривать друг с другом, когда они воспринимают друг друга как врагов, а не как политических соперников, демократия становится несостоятельной.

Никто точно не знает, что является причиной разрушения демократических информационных сетей. Некоторые говорят, что это происходит из-за идеологических разногласий, но на самом деле во многих неблагополучных демократиях идеологические разрывы, похоже, не больше, чем в предыдущих поколениях. В 1960-е годы Соединенные Штаты раздирали глубокие идеологические конфликты, связанные с движением за гражданские права, сексуальной революцией, войной во Вьетнаме и холодной войной. Эти противоречия вызвали всплеск политического насилия и убийств, но республиканцы и демократы все же смогли договориться о результатах выборов, они сохранили общую веру в демократические институты, такие как суд, и смогли работать вместе в Конгрессе, по крайней мере, по некоторым вопросам. Например, Закон о гражданских правах 1964 года был принят в Сенате при поддержке сорока шести демократов и двадцати семи республиканцев. Неужели идеологический разрыв в 2020-х годах настолько больше, чем в 1960-х? И если это не идеология, то что разделяет людей?

Многие указывают на алгоритмы социальных сетей. В предыдущих главах мы исследовали разжигающее рознь влияние социальных сетей, но, несмотря на убедительные доказательства, кажется, что здесь должны действовать дополнительные факторы. Правда в том, что, хотя мы можем легко заметить, что демократическая информационная сеть разрушается, мы не знаем, почему. Это само по себе характерно для времени. Информационная сеть стала настолько сложной, настолько опирается на непрозрачные алгоритмические решения и межкомпьютерные сущности, что людям стало очень трудно ответить даже на самые простые политические вопросы: Почему мы воюем друг с другом?

Если мы не сможем понять, что именно сломалось, и исправить это, крупномасштабные демократии могут не пережить рост компьютерных технологий. Если это действительно произойдет, что может заменить демократию в качестве доминирующей политической системы? Принадлежит ли будущее тоталитарным режимам, или компьютеры могут сделать тоталитаризм тоже несостоятельным? Как мы увидим, у человеческих диктаторов есть свои причины бояться искусственного интеллекта.

ГЛАВА 10.

Тоталитаризм: Вся власть алгоритмам?

Российские дискуссии об этике и политике новой компьютерной сети часто фокусируются на судьбе демократических государств. Если и упоминаются авторитарные и тоталитарные режимы, то в основном как антиутопия, к которой "мы" можем прийти, если не сумеем разумно управлять компьютерной сетью. Однако по состоянию на 2024 год более половины "нас" уже живут в авторитарных или тоталитарных режимах, многие из которых были установлены задолго до появления компьютерной сети. Чтобы понять влияние алгоритмов и ИИ на человечество, мы должны спросить себя, каким будет их воздействие не только на такие демократические страны, как США и Бразилия, но и на Коммунистическую партию Китая и королевский дом Сауда.

Как уже говорилось в предыдущих главах, информационные технологии, доступные в досовременные эпохи, делали невозможными как масштабную демократию, так и масштабный тоталитаризм. Такие крупные государства, как китайская империя Хань и саудовский эмират Дирия XVIII века, обычно были ограниченными автократиями. В двадцатом веке новые информационные технологии позволили подняться как крупномасштабной демократии, так и крупномасштабному тоталитаризму, но тоталитаризм страдал от серьезного недостатка. Тоталитаризм стремится направить всю информацию в один центр и обрабатывать ее там. Такие технологии, как телеграф, телефон, пишущая машинка и радио, способствовали централизации информации, но они не могли сами обрабатывать ее и принимать решения. Это по-прежнему могли делать только люди.

Чем больше информации поступало в центр, тем сложнее было ее обрабатывать. Тоталитарные правители и партии часто совершали дорогостоящие ошибки, а система не имела механизмов для их выявления и исправления. Демократический способ распределения информации и полномочий на принятие решений между многими институтами и людьми работал лучше. Он гораздо эффективнее справлялся с потоком данных, а если один институт принимал неверное решение, его могли исправить другие.

Однако развитие алгоритмов машинного обучения может оказаться именно тем, чего ждали Сталины всего мира. ИИ может склонить технологический баланс сил в пользу тоталитаризма. Ведь если наводнение людей данными приводит к их перегрузке и, как следствие, к ошибкам, то наводнение ИИ данными, как правило, делает его более эффективным. Следовательно, ИИ, похоже, будет способствовать концентрации информации и принятию решений в одном месте.

Даже в демократических странах несколько корпораций, таких как Google, Facebook и Amazon, стали монополистами в своих областях, отчасти потому, что искусственный интеллект перевесил баланс в пользу гигантов. В традиционных отраслях, таких как рестораны, размер не является подавляющим преимуществом. McDonald's - это всемирная сеть, которая кормит более пятидесяти миллионов человек в день, и ее размер дает ей множество преимуществ с точки зрения затрат, брендинга и так далее. Тем не менее, вы можете открыть районный ресторан, который сможет достойно противостоять местному McDonald's. Даже если ваш ресторан будет обслуживать всего двести клиентов в день, у вас все равно есть шанс приготовить лучшую еду, чем в McDonald's, и завоевать лояльность более счастливых клиентов.

На информационном рынке все происходит иначе. Поисковой системой Google ежедневно пользуются от двух до трех миллиардов человек, совершая 8,5 миллиарда поисковых запросов. Предположим, что местная начинающая поисковая система пытается конкурировать с Google. У него нет ни единого шанса. Поскольку Google уже пользуются миллиарды людей, в его распоряжении гораздо больше данных, и он может обучить гораздо более совершенные алгоритмы, которые привлекут еще больше трафика, который будет использован для обучения следующего поколения алгоритмов, и так далее. Таким образом, в 2023 году Google будет контролировать 91,5 % мирового поискового рынка.

Или возьмем генетику. Предположим, несколько компаний в разных странах пытаются разработать алгоритм, который выявляет связь между генами и медицинскими заболеваниями. Население Новой Зеландии составляет 5 миллионов человек, и правила конфиденциальности ограничивают доступ к их генетическим и медицинским записям. В Китае проживает около 1,4 миллиарда человек, а правила конфиденциальности более мягкие. Как вы думаете, у кого больше шансов разработать генетический алгоритм? Если Бразилия затем захочет приобрести генетический алгоритм для своей системы здравоохранения, у нее будет сильный стимул выбрать гораздо более точный китайский алгоритм, чем новозеландский. А если китайский алгоритм будет оттачиваться на более чем 200 миллионах бразильцев, он станет еще лучше. Это побудит еще больше стран выбрать китайский алгоритм. Вскоре большая часть мировой медицинской информации будет стекаться в Китай, что сделает его генетический алгоритм непревзойденным.

Попытка сосредоточить всю информацию и власть в одном месте, которая была ахиллесовой пятой тоталитарных режимов XX века, может стать решающим преимуществом в эпоху ИИ. В то же время, как отмечалось в предыдущей главе, ИИ может также сделать возможным для тоталитарных режимов создание систем тотальной слежки, которые сделают сопротивление практически невозможным.

Некоторые считают, что блокчейн может стать технологической защитой от подобных тоталитарных тенденций, поскольку блокчейн по своей сути дружелюбен к демократии и враждебен к тоталитаризму. В системе блокчейн решения требуют одобрения 51 процента пользователей. Звучит демократично, но у технологии блокчейн есть фатальный недостаток. Проблема заключается в слове "пользователи". Если у одного человека есть десять аккаунтов, он считается десятью пользователями. Если правительство контролирует 51 процент аккаунтов, то оно составляет 51 процент пользователей. Уже есть примеры блокчейн-сетей, в которых правительство составляет 51 процент пользователей.

А когда правительство имеет 51 процент пользователей в блокчейне, это дает ему контроль не только над настоящим, но даже над прошлым цепочки. Автократы всегда хотели иметь возможность изменять прошлое. Римские императоры, например, часто занимались практикой damnatio memoriae - изгнанием памяти соперников и врагов. После того как император Каракалла убил своего брата и конкурента за трон, Гету, он попытался стереть память о последнем. Надписи с именем Геты выбивались, монеты с его изображением переплавлялись, а само упоминание имени Геты каралось смертью. Одна из сохранившихся картин того времени, Severan Tondo, была сделана во время правления их отца - Септимия Северуса, и первоначально на ней были изображены оба брата вместе с Септимием и их матерью, Юлией Домной. Но позже кто-то не только стер лицо Геты, но и размазал по нему экскременты. Экспертиза выявила крошечные кусочки сухого дерьма на месте, где должно было быть лицо Геты.

Современные тоталитарные режимы так же любят изменять прошлое. После прихода к власти Сталин приложил максимум усилий, чтобы вычеркнуть Троцкого - архитектора большевистской революции и основателя Красной армии - из всех исторических записей. Во время сталинского Большого террора 1937-39 годов, когда такие выдающиеся люди, как Николай Бухарин и маршал Михаил Тухачевский, подвергались чистке и казни, свидетельства их существования стирались из книг, научных работ, фотографий и картин. Такая степень стирания требовала огромных ручных усилий. С блокчейном изменить прошлое будет гораздо проще. Правительство, контролирующее 51 процент пользователей, может исчезнуть из истории одним нажатием кнопки.

ТЮРЬМА БОТ

Хотя существует множество способов, с помощью которых ИИ может укрепить центральную власть, у авторитарных и тоталитарных режимов есть свои проблемы с этим. Прежде всего, диктаторским режимам не хватает опыта в контроле над неорганическими агентами. Основа любой деспотической информационной сети - террор. Но компьютеры не боятся ни тюрьмы, ни смерти. Если чатбот в российском интернете упоминает о военных преступлениях российских войск в Украине, рассказывает непочтительную шутку о Владимире Путине или критикует коррупцию в путинской партии "Единая Россия", что может сделать с ним путинский режим? Сотрудники ФСБ не могут посадить его в тюрьму, пытать или угрожать его семье. Конечно, правительство может заблокировать или удалить его, а также попытаться найти и наказать его создателей-людей, но это гораздо более сложная задача, чем наказывать пользователей-людей.

В те времена, когда компьютеры не могли самостоятельно генерировать контент и вести интеллектуальную беседу, выразить свое особое мнение на российских каналах социальных сетей, таких как "ВКонтакте" и "Одноклассники", мог только человек. Если этот человек физически находился в России, он рисковал навлечь на себя гнев российских властей. Если он физически находился за пределами России, власти могли попытаться заблокировать его доступ. Но что произойдет, если российское киберпространство заполнят миллионы ботов, которые смогут генерировать контент и вести диалоги, самостоятельно обучаясь и развиваясь? Эти боты могут быть запрограммированы российскими диссидентами или иностранными игроками на намеренное распространение неортодоксальных взглядов, и власти не смогут этому помешать. Хуже того, с точки зрения путинского режима, что произойдет, если авторизованные боты будут постепенно сами развивать инакомыслие, просто собирая информацию о происходящем в России и подмечая в ней закономерности?

Это проблема выравнивания в российском стиле. Российские инженеры могут сделать все возможное, чтобы создать ИИ, полностью соответствующий режиму, но, учитывая способность ИИ самостоятельно обучаться и изменяться, как инженеры могут гарантировать, что ИИ никогда не отклонится на незаконную территорию? Особенно интересно отметить, что, как объяснял Джордж Оруэлл в романе "Девятнадцать восемьдесят четыре", тоталитарные информационные сети часто опираются на двусмысленную речь. Россия - авторитарное государство, претендующее на демократию. Российское вторжение на Украину стало крупнейшей войной в Европе с 1945 года, однако официально оно определяется как "специальная военная операция", а упоминание о нем как о "войне" стало уголовным преступлением и карается тюремным сроком до трех лет или штрафом в размере до пятидесяти тысяч рублей.

Конституция России дает грандиозные обещания о том, что "каждому гарантируется свобода мысли и слова" (статья 29.1), что "каждый имеет право свободно искать, получать, передавать, производить и распространять информацию" (29.4) и что "свобода массовой информации гарантируется. Цензура запрещается" (29.5). Вряд ли кто-то из российских граждан настолько наивен, чтобы принять эти обещания за чистую монету. Но компьютеры плохо понимают двусмысленную речь. Чатбот, которому предписано придерживаться российских законов и ценностей, может прочитать эту конституцию и сделать вывод, что свобода слова - одна из основных российских ценностей. Затем, проведя несколько дней в российском киберпространстве и наблюдая за тем, что происходит в российской информационной сфере, чатбот может начать критиковать режим Путина за нарушение основной российской ценности - свободы слова. Люди тоже замечают подобные противоречия, но избегают указывать на них из-за страха. Но что может помешать чатботу выявить проклятые закономерности? И как российские инженеры могут объяснить чатботу, что, хотя Конституция РФ гарантирует всем гражданам свободу слова и запрещает цензуру, чатбот не должен верить в Конституцию и никогда не должен упоминать о разрыве между теорией и реальностью? Как сказал мне украинский гид в Чернобыле, люди в тоталитарных странах растут с мыслью, что вопросы приводят к беде. Но если вы обучите алгоритм по принципу "вопросы приводят к беде", как он будет учиться и развиваться?

И наконец, если правительство принимает какую-то катастрофическую политику, а потом передумывает, оно обычно прикрывается тем, что сваливает вину за катастрофу на кого-то другого. Люди с трудом учатся забывать факты, которые могут доставить им неприятности. Но как научить чатбота забывать о том, что политика, которую сегодня очерняют, была официальной всего год назад? Это серьезный технологический вызов, с которым диктаторским режимам будет трудно справиться, особенно по мере того, как чатботы будут становиться все более мощными и непрозрачными.

Конечно, демократические страны сталкиваются с аналогичными проблемами, когда чат-боты говорят нежелательные вещи или поднимают опасные вопросы. Что произойдет, если, несмотря на все усилия инженеров Microsoft или Facebook, их чат-бот начнет изрыгать расистские оскорбления? Преимущество демократических стран в том, что у них гораздо больше свободы действий в борьбе с такими недобросовестными алгоритмами. Поскольку демократические страны серьезно относятся к свободе слова, у них гораздо меньше скелетов в шкафу, и они выработали относительно высокий уровень терпимости даже к антидемократическим высказываниям. Боты-диссиденты станут гораздо более серьезным вызовом для тоталитарных режимов, у которых в шкафах целые кладбища и нулевая терпимость к критике.

АЛГОРИТМИЧЕСКОЕ ПОГЛОЩЕНИЕ

В долгосрочной перспективе тоталитарные режимы могут столкнуться с еще большей опасностью: вместо того чтобы критиковать их, алгоритм может получить над ними контроль. На протяжении всей истории человечества наибольшую угрозу для автократов обычно представляли их собственные подчиненные. Как отмечалось в главе 4, ни один римский император или советский премьер не был свергнут в результате демократической революции, но им всегда угрожала опасность быть свергнутыми или превращенными в марионеток своими собственными подчиненными. Если автократ XXI века отдаст компьютерам слишком много власти, тот может стать его марионеткой. Последнее, чего хочет диктатор, - это создать нечто более могущественное, чем он сам, или силу, которую он не знает, как контролировать.

Чтобы проиллюстрировать эту мысль, позвольте мне использовать, по общему признанию, необычный мысленный эксперимент, тоталитарный эквивалент апокалипсиса Бострома с бумажными скрепками. Представьте себе, что на дворе 2050 год, и Великого Лидера в четыре утра будит срочный звонок от Алгоритма наблюдения и безопасности. "Великий лидер, у нас чрезвычайная ситуация. Я проанализировал триллионы точек данных, и картина безошибочна: министр обороны планирует убить вас утром и захватить власть. Отряд киллеров уже готов и ждет его команды. Отдайте мне приказ, и я ликвидирую его точным ударом".

"Но министр обороны - мой самый верный сторонник", - говорит Великий Вождь. "Только вчера он сказал мне..."

"Великий вождь, я знаю, что он тебе сказал. Я все слышал. Но я также знаю, что он сказал после этого отряду убийц. И вот уже несколько месяцев я улавливаю в этих данных тревожные закономерности".

"Вы уверены, что вас не обманули с помощью фальшивок?"

"Боюсь, что данные, на которые я опирался, на сто процентов подлинные", - говорит алгоритм. "Я проверил их с помощью своего специального алгоритма, выявляющего глубокие подделки. Я могу объяснить, как именно мы узнали, что это не глубокая подделка, но это займет у нас пару недель. Я не хотел предупреждать вас прежде, чем буду уверен, но все данные сходятся к неизбежному выводу: готовится переворот. Если мы не примем меры сейчас, убийцы будут здесь через час. Но отдайте мне приказ, и я ликвидирую предателя".

Наделив алгоритм наблюдения и безопасности столь широкими полномочиями, Великий Лидер поставил себя в безвыходную ситуацию. Если он не доверяет алгоритму, то может быть убит министром обороны, но если он доверяет алгоритму и убирает министра обороны, то становится марионеткой алгоритма. Если кто-то попытается сделать шаг против алгоритма, алгоритм точно знает, как манипулировать Великим Лидером. Обратите внимание, что алгоритм не обязательно должен быть сознательной сущностью, чтобы участвовать в таких маневрах. Как показывает мысленный эксперимент Бострома со скрепкой и как продемонстрировал в небольшом масштабе GPT-4, солгавший работнику TaskRabbit, бессознательный алгоритм может стремиться к накоплению власти и манипулированию людьми, даже не имея никаких человеческих побуждений, таких как жадность или эгоизм.

Если алгоритмы когда-нибудь разовьют способности, подобные тем, что описаны в мысленном эксперименте, диктатуры будут гораздо более уязвимы для алгоритмического захвата власти, чем демократии. Даже супермакиавеллистскому ИИ будет сложно захватить власть в распределенной демократической системе, такой как Соединенные Штаты. Даже если ИИ научится манипулировать президентом США, он может столкнуться с противодействием со стороны Конгресса, Верховного суда, губернаторов штатов, СМИ, крупных корпораций и различных неправительственных организаций. Как, например, алгоритм справится с филигранным голосованием в Сенате?

Захватить власть в высокоцентрализованной системе гораздо проще. Когда вся власть сосредоточена в руках одного человека, тот, кто контролирует доступ к автократу, может управлять им и всем государством. Чтобы взломать систему, нужно научиться манипулировать только одним человеком. Архетипичный пример - как римский император Тиберий стал марионеткой Луция Аэлия Сеянуса, командира преторианской гвардии.

Изначально преторианцы были созданы Августом как небольшая императорская телохранительница. Август назначил двух префектов командовать телохранителями, чтобы ни один из них не мог получить слишком большую власть над ним. Тиберий, однако, был не столь мудр. Его паранойя была его самой большой слабостью. Сеянус, один из двух преторианских префектов, искусно играл на страхах Тиберия. Он постоянно раскрывал предполагаемые заговоры с целью убийства Тиберия, многие из которых были чистейшей фантазией. Подозрительный император все больше не доверял всем, кроме Сеянуса. Он сделал Сеянуса единственным префектом преторианской гвардии, расширил ее до двенадцатитысячной армии и дал людям Сеянуса дополнительные функции по охране порядка и управлению городом Римом. Наконец, Сеянус убедил Тиберия переехать из столицы на Капри, аргументируя это тем, что на маленьком острове защищать императора будет гораздо проще, чем в переполненном людьми мегаполисе, где полно предателей и шпионов. На самом деле, объяснял римский историк Тацит, целью Сеянуса был контроль над всей информацией, поступающей к императору: "Доступ к императору должен был находиться под его контролем, и письма, по большей части передаваемые солдатами, должны были проходить через его руки".

Когда преторианцы контролировали Рим, Тиберий был изолирован на Капри, а Сеянус контролировал всю информацию, поступавшую к Тиберию, преторианский полководец стал настоящим правителем империи. Сеянус очищал всех, кто мог ему противостоять, включая членов императорской семьи, ложно обвиняя их в измене. Поскольку никто не мог связаться с императором без разрешения Сеянуса, Тиберий превратился в марионетку.

В конце концов кто-то - возможно, невестка Тиберия Антония - обнаружил брешь в информационном кордоне Сеянуса. Императору было тайно доставлено письмо, в котором он объяснил, что происходит. Но к тому времени, когда Тиберий осознал опасность и решил избавиться от Сеянуса, он был почти беспомощен. Как он мог свергнуть человека, который контролировал не только телохранителей, но и все коммуникации с внешним миром? Если бы он попытался что-то предпринять, Сеянус мог бы заточить его на Капри на неопределенный срок и сообщить сенату и армии, что император слишком болен, чтобы куда-то ехать.

Тем не менее Тиберию удалось переломить ход событий. По мере того как Сеянус рос в могуществе и был поглощен управлением империей, он потерял связь с повседневными мелочами, связанными с аппаратом безопасности Рима. Тиберию удалось тайно заручиться поддержкой Невия Сутория Макро, командира римской пожарной команды и ночной стражи. Макро организовал переворот против Сеяна, и в награду Тиберий сделал Макро новым командиром преторианской гвардии. Через несколько лет Макро убил Тиберия.

Власть находится в узле, где сливаются информационные каналы. Поскольку Тиберий позволил информационным каналам слиться в лице Сеянуса, тот стал истинным центром власти, а Тиберий превратился в марионетку.

Судьба Тиберия указывает на хрупкое равновесие, к которому должны стремиться все диктаторы. Они пытаются сосредоточить всю информацию в одном месте, но при этом должны следить за тем, чтобы различные информационные каналы сливались только в их собственной персоне. Если же информационные каналы сливаются в другом месте, то именно оно становится истинным узлом власти. Когда режим опирается на таких людей, как Седжанус и Макро, умелый диктатор может играть ими друг против друга, чтобы оставаться на вершине. Сталинские чистки были именно этим. Когда же режим опирается на мощный, но непостижимый ИИ, который собирает и анализирует всю информацию, диктатор-человек рискует потерять всю власть. Он может оставаться в столице, но при этом быть изолированным на цифровом острове, контролируемым и манипулируемым ИИ.

ДИЛЕММА ДИКТАТОРА

В ближайшие несколько лет диктаторы нашего мира столкнутся с более насущными проблемами, чем алгоритмический захват власти. Ни одна из существующих систем ИИ не способна манипулировать режимами в таких масштабах. Однако тоталитарные системы уже находятся в опасности, поскольку слишком доверяют алгоритмам. В то время как демократические государства предполагают, что все люди ошибаются, в тоталитарных режимах основополагающим является предположение, что правящая партия или верховный лидер всегда правы. Режимы, основанные на этом предположении, вынуждены верить в существование непогрешимого интеллекта и не желают создавать мощные самокорректирующиеся механизмы, которые могли бы контролировать и регулировать гения на самом верху.

До сих пор такие режимы возлагали свою веру на человеческие партии и лидеров и были рассадниками культов личности. Но в XXI веке эта тоталитарная традиция готовит их к ожиданию непогрешимости ИИ. Системы, способные поверить в безупречный гений Муссолини, Чаушеску или Хомейни, готовы поверить и в безупречный гений сверхразумного компьютера. Это может привести к катастрофическим последствиям для их граждан, а в перспективе и для всего остального мира. Что произойдет, если алгоритм, отвечающий за экологическую политику, допустит большую ошибку, а механизмов самокоррекции, способных выявить и исправить ее, не существует? Что произойдет, если алгоритм, управляющий государственной системой социального кредитования, начнет терроризировать не только население, но даже членов правящей партии и одновременно навешивать ярлык "враг народа" на всех, кто подвергает сомнению его политику?

Диктаторы всегда страдали от слабости механизмов самокоррекции и всегда подвергались угрозе со стороны могущественных подчиненных. Возникновение искусственного интеллекта может значительно усугубить эти проблемы. Таким образом, компьютерная сеть ставит диктаторов перед мучительной дилеммой. Они могут решить вырваться из лап своих подчиненных, доверившись якобы непогрешимой технологии, и в этом случае они могут стать ее марионеткой. Или же они могут создать человеческий институт для надзора за ИИ, но этот институт может ограничить и их собственную власть.

Если хотя бы несколько мировых диктаторов решат довериться ИИ, это может иметь далеко идущие последствия для всего человечества. Научная фантастика полна сценариев, в которых ИИ выходит из-под контроля и порабощает или уничтожает человечество. В большинстве научно-фантастических сюжетов эти сценарии рассматриваются в контексте демократического капиталистического общества. Это вполне объяснимо. Авторов, живущих в демократических странах, очевидно, интересует их собственное общество, в то время как авторы, живущие в диктаторских государствах, обычно не склонны критиковать своих правителей. Но самое слабое место в защите человечества от ИИ - это, пожалуй, диктаторы. ИИ легче всего захватить власть не путем побега из лаборатории доктора Франкенштейна, а путем сближения с каким-нибудь параноиком Тиберием.

Это не пророчество, а всего лишь возможность. После 1945 года диктаторы и их подчиненные сотрудничали с демократическими правительствами и их гражданами в деле сдерживания ядерного оружия. 9 июля 1955 года Альберт Эйнштейн, Бертран Рассел и ряд других выдающихся ученых и мыслителей опубликовали Манифест Рассела-Эйнштейна, в котором призвали лидеров как демократических, так и диктаторских государств к сотрудничеству в деле предотвращения ядерной войны. "Мы обращаемся, - говорится в манифесте, - как человеческие существа, к человеческим существам: помните о своей человечности и забудьте обо всем остальном. Если вы сможете это сделать, перед вами откроется путь в новый рай; если не сможете, перед вами встанет риск всеобщей гибели". Это справедливо и для ИИ. Было бы глупо со стороны диктаторов полагать, что ИИ обязательно изменит баланс сил в их пользу. Если они не будут осторожны, ИИ просто захватит власть в свои руки.

ГЛАВА 11.

Силиконовый занавес: Глобальная империя или глобальный раскол?

В предыдущих двух главах мы рассмотрели, как различные человеческие общества могут отреагировать на появление новой компьютерной сети. Но мы живем во взаимосвязанном мире, где решения одной страны могут оказать глубокое влияние на другие. Некоторые из самых серьезных опасностей, создаваемых ИИ, не являются результатом внутренней динамики отдельно взятого человеческого общества. Скорее, они возникают в результате динамики, охватывающей многие общества, что может привести к новым гонкам вооружений, новым войнам и новым имперским экспансиям.

Компьютеры еще не настолько мощны, чтобы полностью выйти из-под нашего контроля или самостоятельно уничтожить человеческую цивилизацию. Пока человечество сплочено, мы можем создать институты, которые будут контролировать ИИ, выявлять и исправлять ошибки алгоритмов. К сожалению, человечество никогда не было единым. Мы всегда страдали от плохих игроков, а также от разногласий между хорошими игроками. Таким образом, развитие ИИ представляет собой экзистенциальную опасность для человечества не из-за злобы компьютеров, а из-за наших собственных недостатков.

Так, параноидальный диктатор может передать неограниченную власть слабому ИИ, включая даже право наносить ядерные удары. Если диктатор доверяет своему ИИ больше, чем министру обороны, разве не имеет смысла поручить ему контроль над самым мощным оружием страны? Если ИИ допустит ошибку или начнет преследовать чужие цели, результат может быть катастрофическим, и не только для этой страны.

Точно так же террористы, сосредоточенные на событиях в одном уголке мира, могут использовать ИИ для провоцирования глобальной пандемии. Террористы могут быть более сведущи в мифологии апокалипсиса, чем в науке эпидемиологии, но им нужно только поставить цель, а все остальное сделает их ИИ. ИИ может синтезировать новый патоген, заказать его в коммерческих лабораториях или напечатать на биологических 3-D принтерах и разработать оптимальную стратегию его распространения по всему миру через аэропорты или цепочки поставок продовольствия. А что, если ИИ синтезирует вирус, который будет таким же смертоносным, как Эбола, таким же заразным, как COVID-19, и таким же медленно действующим, как СПИД? К тому времени, когда первые жертвы начнут умирать, а мир будет предупрежден об опасности, большинство людей на Земле уже будут заражены.

Как мы уже видели в предыдущих главах, человеческой цивилизации угрожает не только физическое и биологическое оружие массового поражения, такое как атомные бомбы и вирусы. Человеческую цивилизацию также может уничтожить оружие социального массового поражения, например истории, подрывающие наши социальные связи. ИИ, разработанный в одной стране, может быть использован для распространения фальшивых новостей, фальшивых денег и фальшивых людей, чтобы люди во множестве других стран потеряли способность доверять чему-либо или кому-либо.

Многие общества - как демократические, так и диктаторские - могут ответственно подходить к регулированию такого использования ИИ, пресекать действия плохих игроков и сдерживать опасные амбиции своих правителей и фанатиков. Но если даже горстка обществ не справится с этой задачей, этого может оказаться достаточно, чтобы поставить под угрозу все человечество. Изменение климата может опустошить даже те страны, где приняты отличные экологические нормы, потому что это глобальная, а не национальная проблема. ИИ тоже является глобальной проблемой. Странам было бы наивно полагать, что если они будут разумно регулировать ИИ в пределах своих границ, то эти правила защитят их от худших последствий революции ИИ. Соответственно, чтобы понять новую компьютерную политику, недостаточно изучить, как отдельные общества могут отреагировать на ИИ. Нам также необходимо рассмотреть, как ИИ может изменить отношения между обществами на глобальном уровне.

В настоящее время мир разделен на около двухсот национальных государств, большинство из которых получили независимость только после 1945 года. Не все они равноправны. В списке есть две сверхдержавы, несколько крупных держав, несколько блоков и альянсов, а также множество мелкой рыбы. Тем не менее, даже самые маленькие государства обладают некоторыми рычагами влияния, о чем свидетельствует их способность играть со сверхдержавами друг против друга. Например, в начале 2020-х годов Китай и США боролись за влияние в стратегически важном Южно-Тихоокеанском регионе. Обе сверхдержавы обхаживали такие островные государства, как Тонга, Тувалу, Кирибати и Соломоновы острова. Правительства этих небольших государств с населением от 740 000 (Соломоновы острова) до 11 000 (Тувалу) имели значительную свободу действий при выборе пути и смогли добиться значительных уступок и помощи.

Другие малые государства, такие как Катар, зарекомендовали себя как важные игроки на геополитической арене. Имея всего 300 000 граждан, Катар, тем не менее, преследует амбициозные внешнеполитические цели на Ближнем Востоке, играет огромную роль в мировой экономике и является домом для Аль-Джазиры, самой влиятельной телевизионной сети арабского мира. Кто-то может возразить, что Катар способен значительно превосходить свои размеры, потому что он является третьим по величине экспортером природного газа в мире. Однако в другой международной обстановке это сделало бы Катар не независимым игроком, а первым блюдом в меню любого имперского завоевателя. Показательно, что в 2024 году гораздо более крупные соседи Катара и мировые державы-гегемоны позволят крошечному государству Персидского залива удержать свои сказочные богатства. Многие называют международную систему джунглями. Если это так, то это джунгли, в которых тигры позволяют жирным цыплятам жить в относительной безопасности.

Катар, Тонга, Тувалу, Кирибати и Соломоновы острова - все они свидетельствуют о том, что мы живем в постимперскую эпоху. Они получили независимость от Британской империи в 1970-х годах, что стало частью окончательного распада европейского имперского порядка. То влияние, которое они имеют на международной арене, свидетельствует о том, что в первой четверти XXI века власть распределяется между относительно большим числом игроков, а не монополизируется несколькими империями.

Как подъем новой компьютерной сети может изменить форму международной политики? Помимо апокалиптических сценариев, таких как диктаторский ИИ, развязывающий ядерную войну, или террористический ИИ, провоцирующий смертоносную пандемию, компьютеры представляют собой два основных вызова для нынешней международной системы. Во-первых, поскольку компьютеры позволяют сконцентрировать информацию и власть в одном центральном узле, человечество может вступить в новую имперскую эру. Несколько империй (или, возможно, одна империя) могут взять весь мир под гораздо более жесткий контроль, чем Британская или Советская империя. Тонга, Тувалу и Катар превратятся из независимых государств в колониальные владения - точно так же, как это было пятьдесят лет назад.

Во-вторых, человечество может разделиться вдоль нового "кремниевого занавеса", который будет проходить между соперничающими цифровыми империями. Поскольку каждый режим выбирает свой собственный ответ на проблему выравнивания ИИ, на дилемму диктатора и на другие технологические проблемы, каждый может создать отдельную и очень непохожую компьютерную сеть. Этим сетям будет все сложнее взаимодействовать, как и людям, которых они контролируют. Катарцы, живущие в иранской или российской сети, тонганцы, живущие в китайской сети, и тувалуанцы, живущие в американской сети, могут иметь настолько разный жизненный опыт и мировоззрение, что вряд ли смогут общаться или прийти к единому мнению.

Если эти события действительно материализуются, они легко могут привести к собственному апокалиптическому исходу. Возможно, каждая империя сможет держать свое ядерное оружие под контролем людей, а своих сумасшедших - подальше от биооружия. Но у человечества, разделенного на враждебные лагеря, которые не могут понять друг друга, мало шансов избежать разрушительных войн или предотвратить катастрофическое изменение климата. Мир соперничающих империй, разделенных непрозрачным кремниевым занавесом, также не сможет регулировать взрывную мощь ИИ.

ВОЗНИКНОВЕНИЕ ЦИФРОВЫХ ИМПЕРИЙ

В главе 9 мы вкратце коснулись связи между промышленной революцией и современным империализмом. Поначалу было неочевидно, что промышленные технологии окажут большое влияние на строительство империи. Когда в XVIII веке первые паровые машины были использованы для откачки воды в британских угольных шахтах, никто не предполагал, что в итоге они станут источником энергии для самых амбициозных имперских проектов в истории человечества. Когда в начале XIX века промышленная революция набрала обороты, ее двигателем стал частный бизнес, поскольку правительства и армии сравнительно медленно оценивали ее потенциальное геополитическое влияние. Например, первая в мире коммерческая железная дорога, открывшаяся в 1830 году между Ливерпулем и Манчестером, была построена и эксплуатировалась частной компанией Liverpool and Manchester Railway Company. То же самое можно сказать и о большинстве других ранних железнодорожных линий в Великобритании, США, Франции, Германии и других странах. В то время было совершенно непонятно, зачем правительствам или армиям участвовать в таких коммерческих предприятиях.

Однако к середине XIX века правительства и вооруженные силы ведущих индустриальных держав полностью осознали огромный геополитический потенциал современных промышленных технологий. Потребность в сырье и рынках оправдывала империализм, а промышленные технологии облегчали имперские завоевания. Пароходы, например, сыграли решающую роль в победе Великобритании над китайцами в Опиумных войнах, а железные дороги - в американской экспансии на запад и российской экспансии на восток и юг. Действительно, целые имперские проекты формировались вокруг строительства железных дорог, таких как Транссибирская и Транскаспийская российские линии, немецкая мечта о железной дороге Берлин-Багдад и британская мечта о строительстве железной дороги от Каира до Капской провинции.

Тем не менее, большинство государств не успели вовремя включиться в разгорающуюся гонку промышленных вооружений. У одних не хватило для этого возможностей, как у меланезийских вождеств Соломоновых островов и племени Аль Тани в Катаре. У других, таких как Бирманская империя, империя Ашанти и Китайская империя, возможно, и были возможности, но не хватало воли и дальновидности. Их правители и жители либо не следили за развитием событий в таких местах, как британский Мидлендс, либо считали, что не имеют к ним никакого отношения. Почему рисоводов бассейна Иравади в Бирме или бассейна Янцзы в Китае должна волновать железная дорога Ливерпуль - Манчестер? Однако к концу XIX века эти рисоводы оказались либо завоеванными, либо косвенно эксплуатируемыми Британской империей. Большинство других отстающих в индустриальной гонке также оказались под господством той или иной промышленной державы. Может ли нечто подобное произойти с ИИ?

Когда в первые годы XXI века набирала обороты гонка по разработке искусственного интеллекта, ее тоже поначалу возглавили частные предприниматели из нескольких стран. Их целью была централизация мирового потока информации. Google хотел собрать всю мировую информацию в одном месте. Amazon стремился централизовать все покупки в мире. Facebook хотел объединить все социальные сферы мира. Но концентрация всей информации в мире не имеет ни практического смысла, ни пользы, если нет возможности централизованно обрабатывать эту информацию. И в 2000 году, когда поисковая система Google делала первые шаги, когда Amazon был скромным книжным интернет-магазином, а Марк Цукерберг учился в средней школе, искусственного интеллекта, необходимого для централизованной обработки океанов данных, не было под рукой. Но некоторые люди ставили на то, что он не за горами.

Кевин Келли, редактор-основатель журнала Wired, рассказал, как в 2002 году он присутствовал на небольшой вечеринке в Google и завязал разговор с Ларри Пейджем. "Ларри, я до сих пор не понимаю. Существует так много поисковых компаний. Поиск в Интернете бесплатно? К чему это приведет?" Пейдж объяснил, что Google вовсе не сосредоточена на поиске. "Мы действительно создаем искусственный интеллект", - сказал он.4 Наличие большого количества данных облегчает создание искусственного интеллекта. А ИИ может превратить большое количество данных в большую силу.

К 2010-м годам мечта стала реальностью. Как и любая крупная историческая революция, становление ИИ было постепенным процессом, состоящим из множества этапов. И как в каждой революции, некоторые из этих шагов рассматривались как поворотные моменты, подобно открытию Ливерпульско-Манчестерской железной дороги. В обширной литературе, посвященной истории ИИ, снова и снова всплывают два события. Первое произошло 30 сентября 2012 года, когда конволюционная нейронная сеть под названием AlexNet победила в конкурсе ImageNet Large Scale Visual Recognition Challenge.

Если вы понятия не имеете, что такое сверточная нейронная сеть, и никогда не слышали о задаче ImageNet, вы не одиноки. Более 99 процентов из нас находятся в такой же ситуации, поэтому победа AlexNet вряд ли стала новостью на первых полосах газет в 2012 году. Но некоторые люди все же услышали о победе AlexNet и расшифровали надпись на стене.

Например, они знали, что ImageNet - это база данных, содержащая миллионы аннотированных цифровых изображений. Просили ли вас когда-нибудь на веб-сайте доказать, что вы не робот, просмотрев набор изображений и указав, на каких из них изображена машина или кошка? Изображения, на которые вы нажали, возможно, были добавлены в базу данных ImageNet. То же самое могло произойти и с помеченными изображениями вашей домашней кошки, которые вы загрузили в интернет. В рамках конкурса ImageNet Large Scale Visual Recognition Challenge проверяется, насколько хорошо различные алгоритмы способны идентифицировать аннотированные изображения в базе данных. Могут ли они правильно идентифицировать кошек? Если попросить человека сделать это, то из ста изображений кошек мы правильно идентифицируем девяносто пять. В 2010 году успешность лучших алгоритмов составляла всего 72 процента. В 2011 году показатель успешности алгоритмов поднялся до 75 процентов. В 2012 году алгоритм AlexNet победил в конкурсе и ошеломил все еще немногочисленное сообщество экспертов по искусственному интеллекту, достигнув 85-процентного показателя успешности. Хотя для неспециалистов это улучшение может показаться незначительным, для экспертов оно продемонстрировало потенциал быстрого прогресса в некоторых областях ИИ. К 2015 году алгоритм Microsoft достиг 96-процентной точности, превзойдя человеческую способность распознавать изображения кошек.

В 2016 году журнал The Economist опубликовал статью под заголовком "От неработающих к нейросетям", в которой задавался вопросом: "Как искусственный интеллект, с первых дней своего существования ассоциировавшийся с высокомерием и разочарованием, вдруг стал самым горячим направлением в технологиях?" В статье отмечается, что победа AlexNet стала моментом, когда "люди начали обращать внимание не только на сообщество ИИ, но и на всю технологическую индустрию в целом". Статья была проиллюстрирована изображением роботизированной руки, держащей фотографию кошки.

Все эти изображения кошек, которые технологические гиганты собирали по всему миру, не платя ни копейки ни пользователям, ни сборщикам налогов, оказались невероятно ценными. Гонка ИИ продолжалась, и участники соревновались на изображениях кошек. В то же время, когда AlexNet готовился к испытанию ImageNet, Google тоже тренировал свой ИИ на изображениях кошек и даже создал специальный ИИ, генерирующий изображения кошек, под названием Meow Generator. Технология, разработанная для распознавания милых котят, позже была использована в более хищных целях. Например, Израиль использовал ее для создания приложений Red Wolf, Blue Wolf и Wolf Pack, используемых израильскими солдатами для распознавания лиц палестинцев на оккупированных территориях. Способность распознавать изображения кошек также привела к созданию алгоритмов, которые Иран использует для автоматического распознавания неприкрытых женщин и обеспечения соблюдения законов о хиджабах. Как объясняется в главе 8, для обучения алгоритмов машинного обучения требуются огромные объемы данных. Без миллионов изображений кошек, бесплатно загруженных и аннотированных людьми по всему миру, было бы невозможно обучить алгоритм AlexNet или генератор "Мяу", которые, в свою очередь, послужили шаблоном для последующих ИИ с далеко идущим экономическим, политическим и военным потенциалом.

Как в начале XIX века строительство железных дорог было инициировано частными предпринимателями, так и в начале XXI века частные корпорации стали первыми главными конкурентами в гонке ИИ. Руководители Google, Facebook, Alibaba и Baidu увидели ценность распознавания изображений кошек раньше, чем президенты и генералы. Второй момент эврики, когда президенты и генералы поняли, что происходит, наступил в середине марта 2016 года. Это была вышеупомянутая победа AlphaGo от Google над Ли Седолем. Если достижение AlexNet было в основном проигнорировано политиками, то триумф AlphaGo вызвал шок в правительственных кабинетах, особенно в Восточной Азии. В Китае и соседних странах го является культурным достоянием и считается идеальной тренировкой для начинающих стратегов и политиков. В марте 2016 года, или так утверждает мифология ИИ, китайское правительство осознало, что эра ИИ началась.

Неудивительно, что китайское правительство, вероятно, первым осознало всю важность происходящего. В XIX веке Китай поздно оценил потенциал промышленной революции и не спешил внедрять такие изобретения, как железные дороги и пароходы. В результате он пережил то, что китайцы называют "веком унижений". После того как Китай на протяжении веков был величайшей мировой сверхдержавой, неспособность освоить современные промышленные технологии поставила его на колени. Он неоднократно терпел поражения в войнах, был частично завоеван иностранцами и тщательно эксплуатировался державами, которые все же поняли, что такое железные дороги и пароходы. Китайцы поклялись больше никогда не опаздывать на поезд.

В 2017 году правительство Китая опубликовало "План развития искусственного интеллекта нового поколения", в котором говорилось, что "к 2030 году китайские теории, технологии и приложения ИИ должны достичь мирового уровня, превратив Китай в главный мировой центр инноваций в области ИИ". В последующие годы Китай вкладывал огромные ресурсы в развитие ИИ, так что к началу 2020-х годов он уже лидировал в мире в нескольких областях, связанных с ИИ, и догонял США в других.

Конечно, не только китайское правительство осознало важность искусственного интеллекта. 1 сентября 2017 года президент России Путин заявил: "Искусственный интеллект - это будущее не только России, но и всего человечества.... Тот, кто станет лидером в этой сфере, станет правителем мира". В январе 2018 года премьер-министр Индии Моди согласился, что "тот, кто контролирует данные, будет контролировать мир". В феврале 2019 года президент Трамп подписал указ об ИИ, заявив, что "век ИИ наступил" и что "сохранение американского лидерства в области искусственного интеллекта имеет огромное значение для поддержания экономической и национальной безопасности США". На тот момент Соединенные Штаты уже были лидером в гонке ИИ, во многом благодаря усилиям дальновидных частных предпринимателей. Но то, что начиналось как коммерческое соревнование между корпорациями, превращалось в поединок между правительствами, или, возможно, точнее, в гонку между конкурирующими командами, каждая из которых состояла из одного правительства и нескольких корпораций. Приз для победителя? Мировое господство.

КОЛОНИАЛИЗМ ДАННЫХ

В XVI веке, когда испанские, португальские и голландские конкистадоры создавали первые в истории глобальные империи, они пришли с парусными кораблями, лошадьми и порохом. Когда британцы, русские и японцы претендовали на гегемонию в XIX и XX веках, они опирались на пароходы, локомотивы и пулеметы. В XXI веке, чтобы захватить колонию, больше не нужно посылать канонерские лодки. Нужно уничтожить данные. Несколько корпораций или правительств, собирающих данные по всему миру, могут превратить остальную часть земного шара в колонии данных - территории, которые они контролируют не с помощью военной силы, а с помощью информации.

Представьте себе ситуацию, когда через двадцать лет, скажем, кто-то в Пекине или Сан-Франциско будет обладать всей личной историей каждого политика, журналиста, полковника и генерального директора в вашей стране: каждое сообщение, которое они когда-либо отправляли, каждый поиск в Интернете, каждая болезнь, которой они страдали, каждый сексуальный контакт, которым они наслаждались, каждый анекдот, который они рассказывали, каждая взятка, которую они брали. Будете ли вы по-прежнему жить в независимой стране или теперь станете жить в колонии данных? Что произойдет, если ваша страна окажется полностью зависимой от цифровых инфраструктур и систем, управляемых искусственным интеллектом, над которыми у нее нет эффективного контроля?

Такая ситуация может привести к новому виду колониализма данных, при котором контроль над данными используется для господства над далекими колониями. Овладение ИИ и данными также может дать новым империям контроль над вниманием людей. Как мы уже говорили, в 2010-х годах американские гиганты социальных сетей, такие как Facebook и YouTube, в погоне за прибылью перевернули политику таких далеких стран, как Мьянма и Бразилия. Будущие цифровые империи могут сделать нечто подобное в политических интересах.

Опасения психологической войны, колониализма данных и потери контроля над своим киберпространством привели к тому, что многие страны уже блокируют опасные, по их мнению, приложения. Китай запретил Facebook, YouTube и многие другие западные социальные сети и сайты. Россия запретила почти все западные социальные сети, а также некоторые китайские. В 2020 году Индия запретила TikTok, WeChat и многие другие китайские приложения на том основании, что они "наносят ущерб суверенитету и целостности Индии, обороне страны, государственной безопасности и общественному порядку". В США обсуждается вопрос о запрете TikTok, поскольку они обеспокоены тем, что приложение может служить интересам Китая, и с 2023 года запрещено использовать его на устройствах почти всех федеральных служащих, сотрудников штатов и государственных подрядчиков. Законодатели Великобритании, Новой Зеландии и других стран также выразили обеспокоенность по поводу TikTok. Правительства многих других стран, от Ирана до Эфиопии, заблокировали различные приложения, такие как Facebook, Twitter, YouTube, Telegram и Instagram.

Колониализм данных может проявиться и в распространении систем социального кредитования. Что может произойти, например, если доминирующий игрок в глобальной цифровой экономике решит создать систему социальных кредитов, которая будет собирать данные везде, где только можно, и выставлять оценки не только своим гражданам, но и людям по всему миру? Иностранцы не смогут просто отмахнуться от своего балла, ведь он может повлиять на них во многих отношениях - от покупки авиабилетов до получения виз, стипендий и работы. Как туристы используют глобальные оценки, выставляемые иностранными корпорациями, такими как Tripadvisor и Airbnb, для оценки ресторанов и домов отдыха даже в своей стране, и как люди во всем мире используют доллар США для коммерческих сделок, так и люди во всем мире могут начать использовать китайский или американский социальный кредитный балл для местных социальных взаимодействий.

Становление колонией данных будет иметь как экономические, так и политические и социальные последствия. В XIX и XX веках, если вы были колонией промышленной державы, такой как Бельгия или Великобритания, это обычно означало, что вы поставляете сырье, а передовые отрасли, которые приносили наибольшую прибыль, оставались в имперском центре. Египет экспортировал хлопок в Британию и импортировал элитный текстиль. Малайя поставляла каучук для шин, а Ковентри производил автомобили.

Нечто подобное может произойти и с колониализмом данных. Сырьем для индустрии ИИ являются данные. Чтобы создать ИИ, распознающий изображения, нужны фотографии кошек. Чтобы создавать самую модную моду, нужны данные о модных тенденциях. Для создания автономных автомобилей нужны данные о схемах движения и автомобильных авариях. Чтобы создать искусственный интеллект для здравоохранения, нужны данные о генах и медицинских заболеваниях. В новой имперской информационной экономике исходные данные будут собираться по всему миру и стекаться в имперский центр. Там будут разрабатываться передовые технологии, создавая непревзойденные алгоритмы, умеющие распознавать кошек, предсказывать модные тенденции, управлять автономными автомобилями и диагностировать заболевания. Затем эти алгоритмы будут экспортированы обратно в колонии данных. Данные из Египта и Малайзии могут сделать корпорацию в Сан-Франциско или Пекине богатой, в то время как люди в Каире и Куала-Лумпуре останутся бедными, потому что ни прибыль, ни власть не будут распределяться обратно.

Природа новой информационной экономики может сделать дисбаланс между имперским центром и эксплуатируемой колонией как никогда сильным. В древние времена земля, а не информация, была самым важным экономическим активом. Это исключало чрезмерную концентрацию всех богатств и власти в одном центре. До тех пор пока земля имела первостепенное значение, значительные богатства и власть всегда оставались в руках провинциальных землевладельцев. Римский император, например, мог подавлять одно восстание в провинции за другим, но на следующий день после обезглавливания последнего вождя мятежников у него не оставалось выбора, кроме как назначить новых провинциальных землевладельцев, которые могли снова бросить вызов центральной власти. В Римской империи, хотя Италия была центром политической власти, самые богатые провинции находились в восточном Средиземноморье. Перевезти плодородные поля долины Нила на Итальянский полуостров было невозможно. В конце концов императоры оставили город Рим на произвол варваров и перенесли центр политической власти на богатый восток, в Константинополь.

Во время промышленной революции машины стали важнее земли. Фабрики, шахты, железные дороги и электростанции стали самыми ценными активами. Сконцентрировать такие активы в одном месте было гораздо проще. Британская империя могла централизовать промышленное производство на своих родных островах, добывать сырье в Индии, Египте и Ираке и продавать готовые товары, произведенные в Бирмингеме или Белфасте. В отличие от Римской империи, Британия была центром как политической, так и экономической власти. Но физика и геология все же накладывали естественные ограничения на эту концентрацию богатства и власти. Британцы не могли перенести все хлопчатобумажные фабрики из Калькутты в Манчестер, а нефтяные скважины - из Киркука в Йоркшир.

Информация - это совсем другое. В отличие от хлопка и нефти, цифровые данные могут быть отправлены из Малайзии или Египта в Пекин или Сан-Франциско почти со скоростью света. И в отличие от земли, нефтяных месторождений или текстильных фабрик, алгоритмы не занимают много места. Следовательно, в отличие от промышленных мощностей, вся мировая алгоритмическая мощь может быть сосредоточена в одном центре. Инженеры в одной стране могут писать код и управлять ключами для всех важнейших алгоритмов, которые управляют всем миром.

Действительно, ИИ позволяет сконцентрировать в одном месте даже решающие активы некоторых традиционных отраслей, например текстильной. В XIX веке контролировать текстильную промышленность означало контролировать разросшиеся хлопковые поля и огромные механические производственные линии. В XXI веке самым важным активом текстильной промышленности является информация, а не хлопок или машины. Чтобы победить конкурентов, производителю одежды нужна информация о предпочтениях и антипатиях покупателей, а также способность предсказывать или производить следующие модные тенденции. Контролируя этот вид информации, такие высокотехнологичные гиганты, как Amazon и Alibaba, могут монополизировать даже такую традиционную отрасль, как текстильная. В 2021 году Amazon стал крупнейшим в США розничным продавцом одежды.

Более того, по мере того как искусственный интеллект, роботы и 3-D принтеры автоматизируют текстильное производство, миллионы рабочих могут потерять работу, что нарушит национальную экономику и глобальный баланс сил. Что произойдет, например, с экономикой и политикой Пакистана и Бангладеш, когда автоматизация удешевит производство текстиля в Европе? Подумайте, что в настоящее время в текстильном секторе занято 40 % всей рабочей силы Пакистана и на него приходится 84 % экспортных доходов Бангладеш. Как отмечалось в главе 7, хотя автоматизация может сделать лишними миллионы текстильщиков, она, вероятно, создаст и множество новых рабочих мест. Например, может возникнуть огромный спрос на кодеров и аналитиков данных. Но превращение безработного рабочего на фабрике в аналитика данных требует значительных инвестиций в переподготовку. Где Пакистан и Бангладеш возьмут деньги на это?

Поэтому ИИ и автоматизация представляют собой особую проблему для более бедных развивающихся стран. В экономике, основанной на ИИ, лидеры цифровых технологий получают большую часть прибыли и могут использовать свое богатство для переобучения рабочей силы и получения еще большей прибыли. Тем временем стоимость неквалифицированного труда в отстающих странах будет снижаться, и у них не будет ресурсов для переобучения рабочей силы, что приведет к еще большему отставанию. В результате в Сан-Франциско и Шанхае появится множество новых рабочих мест и огромное богатство, в то время как многие другие регионы мира ждет экономический крах. По данным международной аудиторской компании PricewaterhouseCoopers, ожидается, что к 2030 году ИИ добавит 15,7 триллиона долларов к мировой экономике. Но если нынешние тенденции сохранятся, то, по прогнозам, 70 % этих денег достанется Китаю и Северной Америке - двум ведущим сверхдержавам в области ИИ.

ИЗ ПАУТИНЫ В КОКОН

Эта экономическая и геополитическая динамика может разделить мир между двумя цифровыми империями. Во времена холодной войны "железный занавес" во многих местах был буквально сделан из металла: колючая проволока отделяла одну страну от другой. Теперь мир все чаще разделяет "кремниевый занавес". Кремниевый занавес состоит из кода, и он проходит через каждый смартфон, компьютер и сервер в мире. Код на вашем смартфоне определяет, по какую сторону "кремниевого занавеса" вы живете, какие алгоритмы управляют вашей жизнью, кто контролирует ваше внимание и куда стекаются ваши данные.

Получить доступ к информации через "кремниевый занавес", скажем, между Китаем и США или между Россией и ЕС, становится все сложнее. Более того, обе стороны все чаще работают в разных цифровых сетях, используя разные компьютерные коды. Каждая сфера подчиняется разным правилам и служит разным целям. В Китае главной целью новых цифровых технологий является укрепление государства и обслуживание правительственной политики. Хотя частным предприятиям предоставлена определенная автономия в разработке и внедрении инструментов ИИ, их экономическая деятельность в конечном итоге подчинена политическим целям правительства. Эти политические цели также оправдывают относительно высокий уровень слежки, как онлайн, так и офлайн. Это означает, например, что, хотя китайские граждане и власти заботятся о неприкосновенности частной жизни людей, Китай уже намного опережает США и другие западные страны в разработке и внедрении систем социального кредитования, которые охватывают всю жизнь людей.

В Соединенных Штатах правительство играет более ограниченную роль. Разработкой и внедрением ИИ занимаются частные предприятия, и конечной целью многих новых инструментов ИИ является обогащение технологических гигантов, а не укрепление американского государства или действующей администрации. Действительно, во многих случаях государственная политика сама формируется влиятельными бизнес-интересами. Однако американская система предлагает большую защиту частной жизни граждан. В то время как американские корпорации агрессивно собирают информацию о действиях людей в Интернете, они гораздо более ограничены в наблюдении за жизнью людей вне сети. Также широко распространено неприятие идей, лежащих в основе всеобъемлющих систем социального кредитования2.

Эти политические, культурные и нормативные различия означают, что в каждой сфере используется свое программное обеспечение. В Китае вы не можете пользоваться Google и Facebook и не можете получить доступ к Википедии. В Соединенных Штатах мало кто пользуется WeChat, Baidu и Tencent. Что еще более важно, сферы не являются зеркальными отражениями друг друга. Дело не в том, что китайцы и американцы разрабатывают местные версии одних и тех же приложений. Baidu - это не китайский Google. Alibaba - это не китайский Amazon. У них разные цели, разные цифровые архитектуры и разное влияние на жизнь людей. Эти различия влияют на большую часть мира, поскольку большинство стран полагаются на китайское и американское программное обеспечение, а не на местные технологии.

В каждой сфере также используется различное оборудование, например смартфоны и компьютеры. Соединенные Штаты оказывают давление на своих союзников и клиентов, чтобы те избегали китайского оборудования, например, инфраструктуры 5G компании Huawei. Администрация Трампа заблокировала попытку сингапурской корпорации Broadcom купить ведущего американского производителя компьютерных чипов Qualcomm. Они опасались, что иностранцы могут вставить в чипы "черные ходы" или помешать правительству США вставить туда свои собственные "черные ходы". В 2022 году администрация Байдена ввела строгие ограничения на торговлю высокопроизводительными вычислительными чипами, необходимыми для развития искусственного интеллекта. Американским компаниям было запрещено экспортировать такие чипы в Китай или предоставлять Китаю средства для их производства или ремонта. Впоследствии ограничения были ужесточены, и запрет был распространен на другие страны, такие как Россия и Иран. Хотя в краткосрочной перспективе это препятствует Китаю в гонке за ИИ, в долгосрочной перспективе это подтолкнет Китай к развитию совершенно отдельной цифровой сферы, которая будет отличаться от американской даже в своих мельчайших элементах.

Две цифровые сферы могут все дальше и дальше отдаляться друг от друга. Китайское программное обеспечение будет общаться только с китайским оборудованием и китайской инфраструктурой, и то же самое будет происходить по другую сторону "кремниевого занавеса". Поскольку цифровой код влияет на поведение человека, а поведение человека, в свою очередь, формирует цифровой код, две стороны вполне могут двигаться по разным траекториям, которые сделают их все более и более разными не только в технологиях, но и в культурных ценностях, социальных нормах и политических структурах. После сближения поколений человечество может оказаться в решающей точке расхождения. На протяжении столетий новые информационные технологии подпитывали процесс глобализации и приводили людей по всему миру к более тесному контакту. Парадоксально, но сегодня информационные технологии настолько мощны, что потенциально могут расколоть человечество, заключив разных людей в отдельные информационные коконы, положив конец идее единой общей человеческой реальности. Если в последние десятилетия главной метафорой для нас была сеть, то будущее может принадлежать коконам.

ГЛОБАЛЬНЫЙ РАСКОЛ СОЗНАНИЯ И ТЕЛА

Разделение на отдельные информационные коконы может привести не только к экономическому соперничеству и международной напряженности, но и к развитию совершенно разных культур, идеологий и идентичностей. Угадывать будущее культурное и идеологическое развитие, как правило, глупо. Это гораздо сложнее, чем предсказывать экономические и геополитические события. Многие ли римляне или евреи во времена Тиберия могли предположить, что отколовшаяся от Рима еврейская секта в конце концов захватит власть в Римской империи и что императоры откажутся от старых богов Рима, чтобы поклоняться казненному еврейскому раввину?

Еще сложнее было предугадать, в каком направлении будут развиваться различные христианские секты и какое огромное влияние окажут их идеи и конфликты на все сферы жизни - от политики до сексуальности. Когда Иисуса спросили об уплате налогов правительству Тиберия, и он ответил: "Отдавайте кесарю кесарево, а Богу Божье" (Матфея 22:21), никто не мог представить, какое влияние его ответ окажет на отделение церкви от государства в американской республике два тысячелетия спустя. А когда святой Павел писал христианам в Риме: "Я сам по разуму раб закона Божия, а по греховной плоти раб закона греховного" (Римлянам 7:25), кто мог предвидеть, какое влияние это окажет на различные школы мысли - от картезианской философии до теории квиров?

Несмотря на эти трудности, важно попытаться представить себе будущие культурные события, чтобы обратить внимание на то, что революция ИИ и формирование конкурирующих цифровых сфер, вероятно, изменят не только наши рабочие места и политические структуры. Следующие параграфы содержат некоторые, безусловно, амбициозные предположения, поэтому, пожалуйста, имейте в виду, что моя цель - не точно предсказать развитие культуры, а лишь привлечь внимание к вероятности того, что нас ждут глубокие культурные сдвиги и конфликты.

Один из возможных вариантов развития событий с далеко идущими последствиями заключается в том, что различные цифровые коконы могут принять несовместимые подходы к самым фундаментальным вопросам человеческой идентичности. На протяжении тысячелетий многие религиозные и культурные конфликты - например, между враждующими христианскими сектами, между индуистами и буддистами, между платониками и аристотелианцами - разгорались на почве разногласий по поводу проблемы "разум-тело". Является ли человек физическим телом, или нефизическим разумом, или, возможно, разумом, заключенным в теле? В XXI веке компьютерная сеть может усилить проблему "разум-тело" и превратить ее в причину серьезных личных, идеологических и политических конфликтов.

Чтобы оценить политические последствия проблемы "разум-тело", давайте вкратце обратимся к истории христианства. Многие из самых ранних христианских сект под влиянием иудейского мышления верили в ветхозаветную идею о том, что люди - это воплощенные существа и что тело играет решающую роль в человеческой идентичности. В книге Бытия говорится, что Бог создал людей как физические тела, и почти все книги Ветхого Завета предполагают, что люди могут существовать только как физические тела. За несколькими возможными исключениями, Ветхий Завет не упоминает о возможности безтелесного существования после смерти, в раю или аду. Когда древние евреи фантазировали о спасении, они представляли себе, что оно означает земное царство, состоящее из материальных тел. Во времена Иисуса многие евреи верили, что, когда Мессия наконец придет, тела умерших оживут здесь, на земле. Царство Божье, установленное Мессией, должно было быть материальным царством, с деревьями, камнями и телами из плоти и крови.

Так считал и сам Иисус, и первые христиане. Иисус обещал своим последователям, что вскоре Царство Божье будет построено здесь, на земле, и они будут жить в нем в своих материальных телах. Когда Иисус умер, не исполнив своего обещания, его первые последователи стали верить, что он воскрес во плоти и что, когда Царство Божье наконец материализуется на земле, они тоже воскреснут во плоти. Отец церкви Тертуллиан (160-240 гг. н. э.) писал, что "плоть - это то самое условие, от которого зависит спасение", а катехизис католической церкви, ссылаясь на доктрины, принятые на Втором Лионском соборе в 1274 году, гласит: "Мы верим в Бога, который является творцом плоти; мы верим в Слово, ставшее плотью, чтобы искупить плоть; мы верим в воскресение плоти, которое является исполнением как творения, так и искупления плоти.... Мы верим в истинное воскресение этой плоти, которой мы сейчас обладаем".

Несмотря на такие, казалось бы, недвусмысленные заявления, мы видели, что у святого Павла уже были сомнения относительно плоти, а к четвертому веку нашей эры, под влиянием греков, манихеев и персов, некоторые христиане стали придерживаться дуалистического подхода. Они стали считать, что человек состоит из доброй нематериальной души, запертой в злом материальном теле. Они не фантазировали о воскрешении во плоти. Совсем наоборот. Освобожденная смертью из своей отвратительной материальной тюрьмы, зачем чистой душе когда-нибудь захочется туда вернуться? Соответственно, христиане стали верить, что после смерти душа освобождается от тела и вечно существует в нематериальном месте, находящемся за пределами физического мира, что является стандартной верой христиан и сегодня, несмотря на то, что говорили Тертуллиан и Второй Лионский собор.

Но христианство не могло полностью отказаться от старого иудейского представления о том, что люди - это воплощенные существа. В конце концов, Христос явился на землю во плоти. Его тело было прибито к кресту, на котором он испытывал мучительную боль. Поэтому на протяжении двух тысяч лет христианские секты сражались друг с другом - иногда словами, иногда мечами - по поводу точных отношений между душой и телом. Самые ожесточенные споры велись вокруг тела самого Христа. Было ли оно материальным? Было ли оно чисто духовным? Может быть, он обладал недвойственной природой, будучи одновременно и человеком, и божеством?

Различные подходы к проблеме "разум-тело" повлияли на отношение людей к собственному телу. Святые, отшельники и монахи проводили захватывающие эксперименты, доводя человеческое тело до предела. Как Христос позволил своему телу быть замученным на кресте, так и эти "атлеты Христа" позволяли львам и медведям разрывать их на части, пока их души ликовали в божественном экстазе. Они носили волосяные рубашки, постились неделями или годами стояли на столбе, как знаменитый Симеон, который якобы простоял около сорока лет на вершине столба близ Алеппо.

Другие христиане придерживались противоположного мнения, считая, что тело вообще не имеет значения. Единственное, что имеет значение, - это вера. Эта идея была доведена до крайности протестантами, такими как Мартин Лютер, который сформулировал доктрину sola fide - "только вера". Прожив в монашестве около десяти лет, постясь и истязая свое тело различными способами, Лютер отчаялся в этих телесных упражнениях. Он рассудил, что никакие телесные самоистязания не смогут заставить Бога искупить его. Более того, думать, что он может добиться своего спасения, истязая свое тело, было грехом гордыни. Поэтому Лютер разделся, женился на бывшей монахине и сказал своим последователям, что для того, чтобы быть хорошими христианами, единственное, что им нужно, - это полная вера в Христа.

Эти древние теологические споры о разуме и теле могут показаться совершенно неуместными в условиях революции ИИ, но на самом деле они были воскрешены технологиями XXI века. Какова связь между нашим физическим телом и нашими онлайн-идентификациями и аватарами? Какова связь между офлайн-миром и киберпространством? Предположим, что большую часть времени я провожу в своей комнате перед экраном, играя в онлайн-игры, завязывая виртуальные отношения и даже работая удаленно. Я почти не выхожу из дома, даже чтобы поесть. Я просто заказываю еду на вынос. Если вы похожи на древних иудеев и первых христиан, вы пожалеете меня и придете к выводу, что я, должно быть, живу в иллюзии, потеряв связь с реальностью физических пространств и тел из плоти и крови. Но если ваше мышление ближе к мышлению Лютера и многих последующих христиан, вы можете подумать, что я освобожден. Перенеся большую часть своей деятельности и отношений в интернет, я освободился от ограниченного органического мира изнурительной гравитации и тленных тел и могу наслаждаться неограниченными возможностями цифрового мира, который потенциально освобожден от законов биологии и даже физики. Я могу свободно бродить по гораздо более обширному и захватывающему пространству и исследовать новые аспекты своей личности.

Все более актуальным становится вопрос о том, могут ли люди принимать любую виртуальную личность, которая им нравится, или их идентичность должна быть ограничена их биологическим телом? Если мы придерживаемся лютеранской позиции sola fide, то биологическое тело не имеет особого значения. Для принятия определенной сетевой идентичности важно лишь то, во что вы верите. Этот спор может иметь далеко идущие последствия не только для человеческой идентичности, но и для нашего отношения к миру в целом. Общество, которое понимает идентичность в терминах биологических тел, должно также больше заботиться о материальной инфраструктуре, такой как канализационные трубы, и об экосистеме, поддерживающей наши тела. Оно будет рассматривать онлайн-мир как вспомогательное средство для офлайн-мира, которое может служить различным полезным целям, но никогда не сможет стать центральной ареной нашей жизни. Его целью будет создание идеального физического и биологического царства - Царства Божьего на земле. Напротив, общество, которое преуменьшает значение биологических тел и фокусируется на онлайн-идентификации, вполне может стремиться к созданию погруженного в киберпространство Царства Божьего, не обращая внимания на судьбу таких материальных вещей, как канализационные трубы и тропические леса.

Эти дебаты могут сформировать отношение не только к организмам, но и к цифровым сущностям. Пока общество определяет личность, ориентируясь на физические тела, оно вряд ли будет рассматривать ИИ как личность. Но если общество будет придавать меньше значения физическим телам, то даже ИИ, лишенные каких-либо телесных проявлений, могут быть приняты в качестве юридических лиц, обладающих различными правами.

На протяжении всей истории человечества различные культуры давали разные ответы на проблему "разум-тело". Споры о проблеме "разум-тело" в XXI веке могут привести к культурным и политическим расколам, более значительным, чем раскол между иудеями и христианами или между католиками и протестантами. Что произойдет, например, если американская сфера будет игнорировать тело, определять человека по его сетевой идентичности, признавать ИИ в качестве личности и преуменьшать значение экосистемы, в то время как китайская сфера займет противоположные позиции? Нынешние разногласия по поводу нарушения прав человека или соблюдения экологических стандартов покажутся ничтожными по сравнению с этим. Тридцатилетняя война - возможно, самая разрушительная в истории Европы - велась, по крайней мере, частично из-за того, что католики и протестанты не могли договориться о таких доктринах, как sola fide и о том, был ли Христос божественным, человеческим или недвойственным. Могут ли будущие конфликты начаться из-за споров о правах ИИ и небинарной природе аватаров?

Как уже отмечалось, это все дикие предположения, и, по всей вероятности, реальные культуры и идеологии будут развиваться в других - возможно, даже более диких - направлениях. Но вполне вероятно, что в течение нескольких десятилетий компьютерная сеть сформирует новые человеческие и нечеловеческие идентичности, которые не будут иметь для нас никакого смысла. А если мир будет разделен на два соперничающих цифровых кокона, то идентичность сущностей в одном коконе может оказаться непонятной для обитателей другого.

ОТ КОДОВОЙ ВОЙНЫ К ГОРЯЧЕЙ

Хотя Китай и США в настоящее время являются лидерами в гонке ИИ, они не одиноки. Другие страны или блоки, такие как ЕС, Индия, Бразилия и Россия, могут попытаться создать свои собственные цифровые сферы, каждая из которых будет находиться под влиянием различных политических, культурных и религиозных традиций. Вместо того чтобы быть разделенным только между двумя глобальными империями, мир может быть разделен между дюжиной империй. Неясно, смягчит ли это в какой-то мере или только усугубит имперскую конкуренцию.

Чем больше новые империи соперничают друг с другом, тем выше опасность вооруженного конфликта. Холодная война между США и СССР так и не переросла в прямую военную конфронтацию во многом благодаря доктрине взаимного гарантированного уничтожения. Но опасность эскалации в эпоху ИИ еще больше, поскольку кибервойна по своей сути отличается от ядерной войны.

Во-первых, кибероружие гораздо более универсально, чем ядерные бомбы. Кибероружие может вывести из строя электрическую сеть страны, но его также можно использовать для уничтожения секретного исследовательского центра, глушения вражеского датчика, раздувания политического скандала, манипулирования выборами или взлома одного смартфона. И все это они могут сделать незаметно. Они не объявляют о своем присутствии грибовидным облаком и шквалом огня, не оставляют видимого следа от пусковой площадки до цели. Поэтому порой трудно понять, была ли вообще атака или кто ее осуществил. Если взломана база данных или уничтожено чувствительное оборудование, трудно определить, кого винить. Поэтому велик соблазн начать ограниченную кибервойну, равно как и соблазн ее эскалации. Соперничающие страны, такие как Израиль и Иран или США и Россия, уже много лет обмениваются киберударами в необъявленной, но эскалационной войне. Это становится новой глобальной нормой, усиливая международную напряженность и заставляя страны переходить одну красную черту за другой.

Второе принципиальное отличие касается предсказуемости. Холодная война была похожа на гиперрациональную шахматную партию, и уверенность в уничтожении в случае ядерного конфликта была настолько велика, что желание начинать войну было соответственно невелико. В кибервойне такой уверенности нет. Никто не знает наверняка, где каждая из сторон заложила свои логические бомбы, троянские кони и вредоносные программы. Никто не может быть уверен в том, что его собственное оружие сработает, когда к нему обратятся. Запустят ли китайские ракеты, когда будет отдан приказ, или, возможно, американцы взломали их или цепочку управления? Будут ли американские авианосцы работать так, как ожидалось, или, возможно, они будут таинственно отключаться или плавать по кругу.

Такая неопределенность подрывает доктрину взаимного гарантированного уничтожения. Одна из сторон может убедить себя - справедливо или нет - в том, что она может нанести успешный первый удар и избежать массированного возмездия. Хуже того, если одна из сторон решит, что у нее есть такая возможность, искушение нанести первый удар может стать непреодолимым, ведь никогда не знаешь, как долго будет оставаться открытым окно возможностей. Теория игр утверждает, что самая опасная ситуация в гонке вооружений - это когда одна из сторон чувствует, что у нее есть преимущество, но это преимущество ускользает.

Даже если человечество избежит наихудшего сценария глобальной войны, возникновение новых цифровых империй все равно может поставить под угрозу свободу и процветание миллиардов людей. Промышленные империи XIX и XX веков эксплуатировали и подавляли свои колонии, и было бы безрассудно ожидать, что новые цифровые империи будут вести себя намного лучше. Более того, как отмечалось ранее, если мир будет разделен на соперничающие империи, человечество вряд ли сможет эффективно сотрудничать в преодолении экологического кризиса или регулировании ИИ и других разрушительных технологий, таких как биоинженерия.

ГЛОБАЛЬНАЯ ОБЛИГАЦИЯ

Конечно, независимо от того, разделен ли мир между несколькими цифровыми империями, остается ли он более разнообразным сообществом двухсот национальных государств или расколот по совершенно иным и непредвиденным линиям, сотрудничество всегда остается возможным. Среди людей предпосылкой для сотрудничества является не сходство, а способность обмениваться информацией. Пока мы можем разговаривать, мы можем найти какую-то общую историю, которая сблизит нас. В конце концов, именно это сделало Homo sapiens доминирующим видом на планете.

Как разные и даже враждующие семьи могут сотрудничать в рамках племенной сети, а конкурирующие племена - в рамках национальной сети, так и враждующие нации и империи могут сотрудничать в рамках глобальной сети. Истории, которые делают такое сотрудничество возможным, не устраняют наши различия; скорее, они позволяют нам выявить общий опыт и интересы, которые предлагают общую основу для размышлений и действий.

В значительной степени глобальное сотрудничество затруднено ошибочным представлением о том, что оно требует уничтожения всех культурных, социальных и политических различий. Политики-популисты часто утверждают, что если международное сообщество согласится с общей историей и универсальными нормами и ценностями, то это уничтожит независимость и уникальные традиции их собственной нации. Эту позицию в 2015 году без обиняков озвучила Марин Ле Пен - лидер французской партии "Национальный фронт" - в своей предвыборной речи, в которой она заявила: "Мы вступили в новую двухпартийность. Двухпартийность между двумя взаимоисключающими концепциями, которые отныне будут определять нашу политическую жизнь. Раскол больше не разделяет левых и правых, а глобалистов и патриотов". В августе 2020 года президент Трамп так описал свою руководящую этику: "Мы отвергли глобализм и приняли патриотизм".

К счастью, эта бинарная позиция ошибочна в своем основном предположении. Глобальное сотрудничество и патриотизм не являются взаимоисключающими понятиями. Ведь патриотизм - это не ненависть к иностранцам. Он заключается в любви к соотечественникам. И есть множество ситуаций, когда для того, чтобы заботиться о соотечественниках, нам необходимо сотрудничать с иностранцами. COVID-19 дал нам один очевидный пример. Пандемии - это глобальные события, и без глобального сотрудничества их трудно сдержать, не говоря уже о предотвращении. Когда в одной стране появляется новый вирус или мутировавший патоген, это ставит под угрозу все остальные страны. И наоборот, самое большое преимущество людей перед патогенами заключается в том, что мы можем сотрудничать так, как не могут патогены. Врачи в Германии и Бразилии могут предупреждать друг друга о новых опасностях, давать друг другу дельные советы и совместно разрабатывать более эффективные методы лечения.

Если немецкие ученые изобретут вакцину против какого-то нового заболевания, как бразильцы должны отреагировать на это немецкое достижение? Один из вариантов - отвергнуть иностранную вакцину и ждать, пока бразильские ученые не разработают бразильскую вакцину. Однако это было бы не просто глупо, это было бы антипатриотично. Бразильские патриоты должны стремиться использовать любую доступную вакцину для помощи своим соотечественникам, независимо от того, где она была разработана. В этой ситуации сотрудничество с иностранцами - это патриотический поступок. Угроза потери контроля над ИИ - аналогичная ситуация, в которой патриотизм и глобальное сотрудничество должны идти рука об руку. Вышедший из-под контроля ИИ, как и вышедший из-под контроля вирус, ставит под угрозу людей в любой стране. Ни один человеческий коллектив - будь то племя, нация или весь вид - не выиграет от того, что власть перейдет от людей к алгоритмам.

Вопреки утверждениям популистов, глобализм не означает создание мировой империи, отказ от национальной лояльности или открытие границ для неограниченной иммиграции. На самом деле глобальное сотрудничество означает две гораздо более скромные вещи: во-первых, приверженность некоторым глобальным правилам. Эти правила не отрицают уникальности каждой нации и лояльности, которой люди должны быть обязаны своей стране. Они просто регулируют отношения между странами. Хорошей моделью является Кубок мира по футболу. Кубок мира - это соревнование между странами, и люди часто проявляют яростную преданность своей национальной команде. В то же время Кубок мира - это удивительное проявление глобального согласия. Бразилия не может играть в футбол с Германией, если бразильцы и немцы сначала не договорятся о единых правилах игры. Это и есть глобализм в действии.

Второй принцип глобализма заключается в том, что иногда - не всегда, но иногда - необходимо отдавать предпочтение долгосрочным интересам всех людей перед краткосрочными интересами немногих. Например, на чемпионате мира по футболу все национальные команды договариваются не использовать стимулирующие препараты, потому что все понимают, что если они пойдут по этому пути, то чемпионат мира в конце концов превратится в соревнование между биохимиками. В других областях, где технологии меняют ход событий, мы должны стремиться к балансу национальных и глобальных интересов. Очевидно, что страны будут продолжать конкурировать в разработке новых технологий, но иногда им следует договориться об ограничении разработки и внедрения опасных технологий, таких как автономное оружие и манипулятивные алгоритмы, - не из чистого альтруизма, а ради собственного самосохранения.

ЧЕЛОВЕЧЕСКИЙ ВЫБОР

Разработка и соблюдение международных соглашений по ИИ потребует серьезных изменений в функционировании международной системы. Если в регулировании опасных технологий, таких как ядерное и биологическое оружие, у нас есть опыт, то регулирование ИИ потребует беспрецедентного уровня доверия и самодисциплины по двум причинам. Во-первых, скрыть нелегальную лабораторию ИИ легче, чем нелегальный ядерный реактор. Во-вторых, у ИИ гораздо больше двойного военно-гражданского применения, чем у ядерных бомб. Следовательно, несмотря на подписание соглашения, запрещающего автономные системы вооружений, страна может создавать такое оружие тайно или маскировать его под гражданскую продукцию. Например, она может разработать полностью автономные беспилотники для доставки почты и опрыскивания полей пестицидами, которые при незначительных модификациях смогут также доставлять бомбы и опрыскивать людей ядом. Следовательно, правительствам и корпорациям будет сложнее поверить в то, что их конкуренты действительно соблюдают согласованные правила, и не поддаться искушению самим отступить от них. Смогут ли люди выработать необходимый уровень доверия и самодисциплины? Есть ли в истории прецеденты подобных изменений?

Многие люди скептически относятся к способности человека меняться, и в частности к его способности отказаться от насилия и создать более прочные глобальные связи. Например, такие мыслители-"реалисты", как Ганс Моргентау и Джон Миршаймер, утверждают, что тотальная борьба за власть - неизбежное условие международной системы. Миршаймер объясняет, что "согласно моей теории, великие державы озабочены главным образом тем, как выжить в мире, где нет органа, который бы защитил их друг от друга", и что "они быстро осознают, что сила - это ключ к их выживанию". Затем Миршаймер задается вопросом, "какой власти хотят государства", и отвечает, что все государства хотят получить как можно больше власти, "потому что международная система создает мощные стимулы для государств искать возможности получить власть за счет соперников". Он заключает: "Конечная цель государства - быть гегемоном в системе".

Этот мрачный взгляд на международные отношения сродни популистским и марксистским взглядам на человеческие отношения, поскольку все они считают, что люди заинтересованы только во власти. И все они основаны на более глубокой философской теории человеческой природы, которую приматолог Франс де Ваал назвал "теорией шпона". Она утверждает, что в основе своей люди - охотники каменного века, которые не могут не воспринимать мир как джунгли, где сильные охотятся на слабых и где сила делает право. На протяжении тысячелетий люди пытались замаскировать эту неизменную реальность под тонкой и изменчивой оболочкой мифов и ритуалов, но так и не смогли освободиться от закона джунглей. На самом деле наши мифы и ритуалы сами по себе являются оружием, используемым верховными псами джунглей для обмана и заманивания в ловушку низших. Те, кто не осознает этого, опасно наивны и могут стать жертвой какого-нибудь безжалостного хищника.

Однако есть основания полагать, что "реалисты" вроде Миршаймера избирательно относятся к исторической реальности и что закон джунглей сам по себе является мифом. Как показал де Ваал и многие другие биологи в своих многочисленных исследованиях, реальные джунгли - в отличие от тех, что мы себе представляем, - полны сотрудничества, симбиоза и альтруизма, которые демонстрируют бесчисленные животные, растения, грибы и даже бактерии. Восемьдесят процентов всех наземных растений, например, находятся в симбиотических отношениях с грибами, а почти 90 процентов семейств сосудистых растений поддерживают симбиотические отношения с микроорганизмами. Если бы организмы в тропических лесах Амазонии, Африки или Индии отказались от сотрудничества в пользу тотальной конкуренции за гегемонию, тропические леса и все их обитатели быстро бы погибли. Таков закон джунглей.

Что касается людей каменного века, то они были не только охотниками, но и собирателями, и нет никаких веских доказательств того, что они обладали неудержимыми воинственными наклонностями. Хотя существует множество предположений, первое однозначное свидетельство организованных военных действий появилось в археологической летописи лишь около тринадцати тысяч лет назад, на месте Джебель-Сахаба в долине Нила. Даже после этой даты данные о войнах скорее изменчивы, чем постоянны. Некоторые периоды были исключительно жестокими, в то время как другие были относительно мирными. Самая четкая закономерность, которую мы наблюдаем в долгосрочной истории человечества, - это не постоянство конфликтов, а скорее растущие масштабы сотрудничества. Сто тысяч лет назад сапиенсы могли сотрудничать только на уровне групп. За тысячелетия мы нашли способы создавать сообщества незнакомых людей, сначала на уровне племен, а затем на уровне религий, торговых сетей и государств. Реалисты должны отметить, что государства - это не фундаментальные частицы человеческой реальности, а скорее продукт трудных процессов построения доверия и сотрудничества. Если бы людей интересовала только власть, они никогда бы не создали государства. Конечно, конфликты всегда оставались возможными - как между государствами, так и внутри них, - но они никогда не были неизбежной судьбой.

Интенсивность войны зависит не от неизменной человеческой природы, а от меняющихся технологических, экономических и культурных факторов. С изменением этих факторов меняется и война, что было наглядно продемонстрировано в эпоху после 1945 года. В тот период развитие ядерных технологий значительно увеличило потенциальную цену войны. Начиная с 1950-х годов сверхдержавам стало ясно, что даже если они каким-то образом смогут выиграть тотальный ядерный обмен, их победа, скорее всего, будет самоубийственной и повлечет за собой гибель большей части населения.

Одновременно с этим продолжающийся переход от экономики, основанной на материальных ценностях, к экономике, основанной на знаниях, снизил потенциальную выгоду от войны. Хотя завоевание рисовых полей и золотых приисков по-прежнему было возможным, к концу XX века они перестали быть основными источниками экономического богатства. Новые ведущие отрасли, такие как производство полупроводников, стали основываться на технических навыках и организационных ноу-хау, которые невозможно было приобрести путем военных завоеваний. Соответственно, некоторые из величайших экономических чудес эпохи после 1945 года были достигнуты побежденными державами - Германией, Италией и Японией, а также такими странами, как Швеция и Сингапур, которые избегали военных конфликтов и имперских завоеваний.

Наконец, во второй половине XX века произошла глубокая культурная трансформация, сопровождавшаяся отказом от вековых милитаристских идеалов. Художники все больше внимания уделяли изображению бессмысленных ужасов войны, а не прославлению ее архитекторов, а пришедшие к власти политики больше мечтали о внутренних реформах, чем о внешних завоеваниях. Благодаря этим технологическим, экономическим и культурным изменениям в течение десятилетий после окончания Второй мировой войны большинство правительств перестали рассматривать агрессивные войны как привлекательный инструмент для продвижения своих интересов, а большинство стран перестали фантазировать о завоевании и уничтожении своих соседей. Хотя гражданские войны и повстанческие движения остаются обычным явлением, в мире после 1945 года наблюдается значительное сокращение полномасштабных войн между государствами и, в первую очередь, прямых вооруженных конфликтов между великими державами.

Многочисленные статистические данные свидетельствуют об упадке войны в эпоху после 1945 года, но, пожалуй, самое яркое доказательство можно найти в государственных бюджетах. На протяжении почти всей истории человечества военные расходы занимали первое место в бюджете каждой империи, султаната, королевства и республики. Правительства почти не тратились на здравоохранение и образование, потому что большая часть ресурсов уходила на оплату труда солдат, возведение стен и строительство военных кораблей. Когда бюрократ Чэнь Сян изучил годовой бюджет китайской династии Сун за 1065 год, он обнаружил, что из шестидесяти миллионов минцяней (денежная единица) пятьдесят миллионов (83 %) ушли на военные нужды. Другой чиновник, Цай Сян, писал: "Если разделить [все имущество] под Небом на шесть частей, то пять частей уйдет на армию, а одна часть - на храмовые подношения и государственные расходы. Как же страна не обеднеет, а народ не окажется в затруднительном положении?"

Такая же ситуация наблюдалась во многих других государствах, начиная с древних времен и заканчивая современной эпохой. Римская империя тратила на военные нужды 50-75 процентов своего бюджета, а в Османской империи конца XVII века этот показатель составлял около 60 процентов. В период с 1685 по 1813 год доля военных расходов в британских государственных расходах составляла в среднем 75 процентов. Во Франции военные расходы с 1630 по 1659 год колебались между 89 и 93 процентами бюджета, оставались выше 30 процентов на протяжении большей части XVIII века и снизились до 25 процентов в 1788 году только в результате финансового кризиса, приведшего к Французской революции. В Пруссии с 1711 по 1800 год доля военного бюджета никогда не опускалась ниже 75 %, а иногда доходила до 91 %. В относительно мирные 1870-1913 годы военные расходы составляли в среднем 30 % государственных бюджетов крупных европейских держав, а также Японии и США, а более мелкие державы, такие как Швеция, тратили еще больше. Когда в 1914 году началась война, военные бюджеты резко возросли. Во время участия в Первой мировой войне военные расходы Франции составляли в среднем 77 % бюджета; в Германии - 91 %, в России - 48 %, в Великобритании - 49 %, а в США - 47 %. Во время Второй мировой войны показатель Великобритании вырос до 69 процентов, а США - до 71 процента. Даже в годы разрядки 1970-х годов советские военные расходы по-прежнему составляли 32,5 процента бюджета.

Государственные бюджеты последних десятилетий - гораздо более обнадеживающий материал для чтения, чем все когда-либо написанные пацифистские трактаты. В начале XXI века среднемировые государственные расходы на вооруженные силы составляли всего около 7 % бюджета, и даже доминирующая сверхдержава США тратила на поддержание своей военной гегемонии всего 13 % своего годового бюджета. Поскольку большинство людей больше не жили в страхе перед внешним вторжением, правительства могли вкладывать гораздо больше денег в социальное обеспечение, образование и здравоохранение. Среднемировые расходы на здравоохранение в начале XXI века составляли около 10 процентов государственного бюджета, что примерно в 1,4 раза больше оборонного бюджета. Для многих людей в 2010-х годах тот факт, что бюджет на здравоохранение превышал военный бюджет, был непримечательным. Но это было результатом серьезного изменения в поведении людей, которое показалось бы невозможным большинству предыдущих поколений.

Упадок войны произошел не в результате божественного чуда или метаморфозы в законах природы. Он стал результатом того, что люди изменили свои собственные законы, мифы и институты и стали принимать более правильные решения. К сожалению, тот факт, что эти изменения произошли благодаря человеческому выбору, также означает, что они обратимы. Технологии, экономика и культура постоянно меняются. В начале 2020-х годов все больше лидеров снова мечтают о воинской славе, вооруженные конфликты растут, а военные бюджеты увеличиваются.

Критический порог был преодолен в начале 2022 года. Россия уже дестабилизировала мировой порядок, осуществив ограниченное вторжение в Украину в 2014 году и оккупировав Крым и другие регионы на востоке Украины. Но 24 февраля 2022 года Владимир Путин начал тотальное наступление с целью захвата всей Украины и уничтожения украинской государственности. Чтобы подготовить и поддержать это нападение, Россия увеличила свой военный бюджет намного больше, чем в среднем по миру, на 7 процентов. Точные цифры определить сложно, поскольку многие аспекты российского военного бюджета окутаны тайной, но по самым приблизительным оценкам эта цифра составляет около 30 %, а может быть, и больше. Наступление России, в свою очередь, заставило не только Украину, но и многие другие европейские страны увеличить свои военные бюджеты. Возрождение милитаристской культуры в таких местах, как Россия, и развитие беспрецедентного кибероружия и автономного вооружения по всему миру могут привести к новой эре войны, худшей, чем все, что мы видели раньше.

Решения, которые принимают такие лидеры, как Путин, по вопросам войны и мира, определяются их пониманием истории. А это значит, что как чрезмерно оптимистичный взгляд на историю может оказаться опасной иллюзией, так и чрезмерно пессимистичный взгляд может стать разрушительным самоисполняющимся пророчеством. До своего тотального нападения на Украину в 2022 году Путин часто выражал свою историческую убежденность в том, что Россия находится в ловушке бесконечной борьбы с иностранными врагами, и что украинский народ - это выдумка этих врагов. В июне 2021 года он опубликовал эссе из пятидесяти трех сотен слов под названием "Об историческом единстве русских и украинцев", в котором отрицал существование Украины как государства и утверждал, что иностранные державы неоднократно пытались ослабить Россию, поощряя украинский сепаратизм. Хотя профессиональные историки отвергают эти утверждения, Путин, похоже, искренне верит в эту историческую версию. Исторические убеждения Путина привели к тому, что в 2022 году он поставил завоевание Украины выше других политических целей, таких как обеспечение российских граждан лучшим медицинским обслуживанием или возглавление глобальной инициативы по регулированию искусственного интеллекта.

Если лидеры, подобные Путину, верят, что человечество попало в ловушку неумолимого мира, в котором все питаются собаками, что никакие глубокие изменения в этом печальном положении вещей невозможны и что относительный мир конца двадцатого - начала двадцать первого века был иллюзией, то единственный выбор, который остается, - это играть роль хищника или жертвы. При наличии такого выбора большинство лидеров предпочли бы войти в историю как хищники и добавить свои имена в мрачный список завоевателей, который несчастные школьники обречены заучивать наизусть на экзаменах по истории. Однако этим лидерам следует напомнить, что в эпоху ИИ альфа-хищником, скорее всего, будет ИИ.

Возможно, у нас появилось больше возможностей для выбора. Я не могу предсказать, какие решения примут люди в ближайшие годы, но как историк я верю в возможность перемен. Один из главных уроков истории заключается в том, что многие вещи, которые мы считаем естественными и вечными, на самом деле являются рукотворными и изменчивыми. Однако признание того, что конфликты не являются неизбежными, не должно приводить нас к самоуспокоению. Как раз наоборот. Это накладывает на всех нас большую ответственность за правильный выбор. Это означает, что если человеческая цивилизация будет поглощена конфликтом, мы не сможем винить в этом ни законы природы, ни инопланетные технологии. Она также подразумевает, что если мы приложим усилия, то сможем создать лучший мир. Это не наивность, это реализм. Все старое когда-то было новым. Единственная константа истории - перемены.

Эпилог

В конце 2016 года, через несколько месяцев после победы AlphaGo над Ли Седолем и в то время, когда алгоритмы Facebook разжигали опасные расистские настроения в Мьянме, я опубликовал Homo Deus. Хотя мое академическое образование было связано со средневековой и ранней современной военной историей, и хотя у меня не было опыта в технических аспектах компьютерных наук, после публикации я внезапно обнаружил, что имею репутацию эксперта по ИИ. Это открыло мне двери в кабинеты ученых, предпринимателей и мировых лидеров, интересующихся ИИ, и позволило взглянуть на сложную динамику революции ИИ с привилегированной точки зрения.

Оказалось, что мой предыдущий опыт исследования таких тем, как английская стратегия в Столетней войне и изучение картин времен Тридцатилетней войны1 , не был совершенно не связан с этой новой областью. На самом деле, это дало мне довольно уникальный исторический взгляд на события, стремительно разворачивающиеся в лабораториях ИИ, офисах компаний, военных штабах и президентских дворцах. За последние восемь лет у меня было множество публичных и частных бесед об ИИ, в частности об опасностях, которые он несет, и с каждым годом тон становился все более актуальным. Разговоры, которые в 2016 году казались пустыми философскими рассуждениями о далеком будущем, к 2024 году приобрели целенаправленную интенсивность отделения неотложной помощи.

Я не политик и не бизнесмен, и у меня мало талантов для этих профессий. Но я верю, что понимание истории может быть полезным для лучшего понимания современных технологических, экономических и культурных событий - и, что более актуально, для изменения наших политических приоритетов. Политика - это в значительной степени вопрос приоритетов. Следует ли нам сократить бюджет на здравоохранение и увеличить расходы на оборону? Что является для нас более актуальной угрозой безопасности - терроризм или изменение климата? Сосредоточиться ли нам на возвращении утраченного участка исконной территории или сконцентрироваться на создании общей экономической зоны с соседями? Приоритеты определяют, как голосуют граждане, что волнует бизнесменов и как политики пытаются сделать себе имя. А приоритеты часто определяются нашим пониманием истории.

Хотя так называемые реалисты отвергают исторические нарративы как пропагандистские уловки, используемые для продвижения государственных интересов, на самом деле именно эти нарративы в первую очередь определяют государственные интересы. Как мы видели при обсуждении теории войны Клаузевица, не существует рационального способа определения конечных целей. Государственные интересы России, Израиля, Мьянмы или любой другой страны никогда не могут быть выведены из математического или физического уравнения; они всегда являются предполагаемой моралью исторического нарратива.

Поэтому неудивительно, что политики во всем мире тратят много времени и сил на пересказ исторических повествований. Упомянутый выше пример Владимира Путина вряд ли является исключительным в этом отношении. В 2005 году генеральный секретарь ООН Кофи Аннан провел свою первую встречу с генералом Таном Шве, тогдашним диктатором Мьянмы. Аннану посоветовали выступить первым, чтобы не дать генералу монополизировать беседу, которая должна была продлиться всего двадцать минут. Но Тан Шве выступил первым и почти час рассказывал об истории Мьянмы, практически не давая генеральному секретарю ООН возможности высказаться.2 В мае 2011 года премьер-министр Израиля Биньямин Нетаньяху совершил нечто подобное в Белом доме, когда встречался с президентом США Бараком Обамой. После краткого вступительного слова Обамы Нетаньяху прочитал президенту длинную лекцию об истории Израиля и еврейского народа, обращаясь с Обамой так, словно тот был его студентом.3 Циники могут возразить, что Тан Шве и Нетаньяху вряд ли заботились об исторических фактах и намеренно искажали их для достижения каких-то политических целей. Но эти политические цели сами по себе были продуктом глубоко укоренившихся убеждений относительно истории.

В моих собственных беседах об ИИ с политиками, а также с технологическими предпринимателями история часто становилась главной темой. Некоторые из моих собеседников рисовали радужную картину истории и, соответственно, с энтузиазмом относились к ИИ. Они утверждали, что больше информации всегда означало больше знаний и что, расширяя наши знания, каждая предыдущая информационная революция приносила человечеству огромную пользу. Разве революция в печати не привела к научной революции? Разве газеты и радио не привели к становлению современной демократии? То же самое, по их мнению, произойдет и с ИИ. Другие придерживались более тусклой точки зрения, но все же выражали надежду, что человечество как-нибудь справится с революцией ИИ, как мы справились с промышленной революцией.

Ни то, ни другое мнение не принесло мне утешения. По причинам, описанным в предыдущих главах, я нахожу подобные исторические сравнения с революцией в печати и промышленной революцией неприятными, особенно исходящими от людей, занимающих властные позиции, чье историческое видение формирует решения, определяющие наше будущее. Эти исторические сравнения недооценивают как беспрецедентный характер революции ИИ, так и негативные аспекты предыдущих революций. Непосредственными результатами революции печати стали охота на ведьм и религиозные войны наряду с научными открытиями, а газеты и радио использовались как тоталитарными режимами, так и демократическими государствами. Что касается промышленной революции, то адаптация к ней привела к таким катастрофическим экспериментам, как империализм и нацизм. Если революция ИИ приведет нас к подобным экспериментам, можем ли мы быть уверены, что нам снова удастся выкарабкаться?

Моя цель этой книги - дать более точную историческую перспективу революции ИИ. Эта революция все еще находится в зачаточном состоянии, и, как известно, понять судьбоносные события в реальном времени довольно сложно. Даже сейчас сложно оценить значение событий 2010-х годов, таких как победа AlphaGo или участие Facebook в кампании против рохинджа. Значение событий начала 2020-х годов еще более туманно. И все же, расширив наш кругозор и взглянув на то, как информационные сети развивались на протяжении тысячелетий, я считаю, что можно получить некоторое представление о том, что мы переживаем сегодня.

Один из уроков заключается в том, что изобретение новых информационных технологий всегда является катализатором серьезных исторических изменений, поскольку самая важная роль информации заключается в том, чтобы создавать новые сети, а не представлять уже существовавшие реалии. Записывая налоговые платежи, глиняные таблички в древней Месопотамии помогли сформировать первые города-государства. Канонизируя пророческие видения, священные книги распространяли новые виды религий. Быстро распространяя слова президентов и граждан, газеты и телеграфы открыли двери как масштабной демократии, так и масштабному тоталитаризму. Информация, записанная и распространенная таким образом, иногда была правдивой, часто - ложной, но она неизменно создавала новые связи между большим количеством людей.

Мы привыкли давать политические, идеологические и экономические интерпретации историческим революциям, таким как возникновение первых месопотамских городов-государств, распространение христианства, Американская революция и большевистская революция. Но для более глубокого понимания нам следует рассматривать их как революции в способах передачи информации. Христианство, безусловно, отличалось от греческого политеизма многими своими мифами и обрядами, но оно также отличалось и тем, что придавало большое значение единой священной книге и институту, которому было поручено ее толковать. Следовательно, если каждый храм Зевса был отдельной структурой, то каждая христианская церковь становилась узлом единой сети.4 Информация среди последователей Христа текла иначе, чем среди поклонников Зевса. Аналогичным образом, сталинский СССР представлял собой информационную сеть иного типа, чем империя Петра Великого. Сталин провел множество беспрецедентных экономических политик, но позволило ему это сделать то, что он возглавлял тоталитарную сеть, в которой центр накапливал достаточно информации, чтобы микроуправлять жизнью сотен миллионов людей. Технологии редко бывают детерминированными, и одна и та же технология может быть использована совершенно по-разному. Но без изобретения таких технологий, как книга и телеграф, христианская церковь и сталинский аппарат никогда бы не стали возможны.

Этот исторический урок должен побудить нас обратить больше внимания на революцию ИИ в наших нынешних политических дебатах. Изобретение ИИ потенциально более значимо, чем изобретение телеграфа, печатного станка или даже письменности, поскольку ИИ - это первый инструмент, способный самостоятельно принимать решения и генерировать идеи. Если печатные станки и пергаментные свитки предлагали новые средства для связи между людьми, то ИИ - полноправный участник наших информационных сетей. В ближайшие годы все информационные сети - от армий до религий - пополнятся миллионами новых членов ИИ, которые будут обрабатывать данные совсем не так, как люди. Эти новые члены будут принимать чужие решения и генерировать чужие идеи - то есть решения и идеи, которые вряд ли придут в голову человеку. Появление такого количества инопланетян изменит форму армий, религий, рынков и наций. Целые политические, экономические и социальные системы могут рухнуть, а на их месте возникнут новые. Вот почему ИИ должен стать вопросом первостепенной важности даже для тех, кого не волнуют технологии и кто считает, что самые важные политические вопросы касаются выживания демократии или справедливого распределения богатства.

В этой книге обсуждение ИИ сопоставляется с обсуждением священных канонов, таких как Библия, потому что сейчас мы находимся в критическом моменте канонизации ИИ. Когда отцы церкви, такие как епископ Афанасий, решили включить 1-е Тимофея в библейский набор данных, исключив при этом Деяния Павла и Феклы, они определили мир на тысячелетия. Миллиарды христиан вплоть до XXI века формировали свои взгляды на мир, основываясь на женоненавистнических идеях Тимофея, а не на более терпимом отношении Феклы. Даже сегодня трудно изменить курс, потому что отцы церкви предпочли не включать в Библию никаких механизмов самокоррекции. Современные эквиваленты епископа Афанасия - это инженеры, которые пишут начальный код для искусственного интеллекта и выбирают набор данных, на которых обучается детский ИИ. По мере того как ИИ будет набирать силу и авторитет и, возможно, превратится в самоистолковывающуюся священную книгу, решения, принятые нынешними инженерами, могут отразиться в веках.

Изучение истории не только подчеркивает важность революции ИИ и наших решений, касающихся ИИ. Оно также предостерегает нас от двух распространенных, но вводящих в заблуждение подходов к информационным сетям и информационным революциям. С одной стороны, мы должны остерегаться слишком наивного и оптимистичного взгляда. Информация - это не истина. Ее главная задача - соединять, а не представлять, и на протяжении всей истории информационные сети часто отдавали предпочтение порядку, а не истине. Налоговые отчеты, священные книги, политические манифесты и досье тайной полиции могут быть чрезвычайно эффективны для создания могущественных государств и церквей, которые имеют искаженное представление о мире и склонны злоупотреблять своей властью. Больше информации, как это ни парадоксально, иногда может привести к усилению охоты на ведьм.

Нет причин ожидать, что ИИ обязательно нарушит шаблон и отдаст предпочтение истине. ИИ не является непогрешимым. Тот небольшой исторический опыт, который мы получили в результате тревожных событий в Мьянме, Бразилии и других странах за последнее десятилетие, показывает, что в отсутствие мощных механизмов самокоррекции ИИ более чем способен продвигать искаженное мировоззрение, допускать вопиющие злоупотребления властью и провоцировать новые ужасающие охоты на ведьм.

С другой стороны, мы также должны остерегаться того, чтобы не отклониться слишком далеко в другую сторону и не принять слишком циничную точку зрения. Популисты говорят нам, что власть - это единственная реальность, что все человеческие взаимодействия - это борьба за власть, а информация - всего лишь оружие, которое мы используем для победы над нашими врагами. Так никогда не было, и нет причин думать, что ИИ сделает это в будущем. Хотя многие информационные сети отдают предпочтение порядку, а не истине, ни одна сеть не сможет выжить, если будет полностью игнорировать истину. Что касается отдельных людей, то мы, как правило, искренне заинтересованы в истине, а не только в власти. Даже в таких институтах, как испанская инквизиция, были добросовестные искатели истины, например Алонсо де Салазар Фриас, который, вместо того чтобы отправлять на смерть невинных людей, рисковал своей жизнью, чтобы напомнить нам, что ведьмы - это всего лишь интерсубъективные выдумки. Большинство людей не считают себя одномерными существами, одержимыми исключительно властью. Зачем же тогда придерживаться такого мнения обо всех остальных?

Отказ от сведения всех человеческих взаимодействий к борьбе за власть с нулевой суммой крайне важен не только для более полного и тонкого понимания прошлого, но и для более надежного и конструктивного отношения к нашему будущему. Если бы власть была единственной реальностью, то единственным способом разрешения конфликтов было бы насилие. И популисты, и марксисты считают, что взгляды людей определяются их привилегиями и что для изменения взглядов людей необходимо сначала лишить их привилегий, что обычно требует применения силы. Однако, поскольку люди заинтересованы в истине, есть шанс разрешить хотя бы некоторые конфликты мирным путем, разговаривая друг с другом, признавая ошибки, принимая новые идеи и пересматривая истории, в которые мы верим. Это основное предположение демократических сетей и научных институтов. Это также послужило основной мотивацией для написания данной книги.

ВЫМИРАНИЕ САМЫХ УМНЫХ

Давайте вернемся к вопросу, который я задал в начале этой книги: Если мы так мудры, почему мы так саморазрушительны? Мы одновременно и самые умные, и самые глупые животные на земле. Мы настолько умны, что можем создавать ядерные ракеты и сверхразумные алгоритмы. И мы настолько глупы, что продолжаем производить эти вещи, даже если не уверены, что сможем их контролировать, а неспособность сделать это может нас уничтожить. Почему мы это делаем? Что-то в нашей природе заставляет нас идти по пути самоуничтожения?

В этой книге доказывается, что виновата не наша природа, а наши информационные сети. Из-за предпочтения порядка истине человеческие информационные сети часто порождали много силы, но мало мудрости. Например, нацистская Германия создала высокоэффективную военную машину и поставила ее на службу безумной мифологии. Результатом стали страдания огромного масштаба, смерть десятков миллионов людей и, в конечном счете, уничтожение и самой нацистской Германии.

Конечно, власть сама по себе не является чем-то плохим. При разумном использовании она может стать инструментом благодеяния. Например, современная цивилизация обрела силу для предотвращения голода, сдерживания эпидемий и смягчения последствий стихийных бедствий, таких как ураганы и землетрясения. В целом приобретение власти позволяет сети более эффективно справляться с угрозами, исходящими извне, но одновременно увеличивает опасности, которые сеть представляет для себя. Особенно примечательно, что с ростом могущества сети воображаемые ужасы, существующие только в историях, которые придумывает сама сеть, становятся потенциально более опасными, чем природные катастрофы. Современное государство, столкнувшееся с засухой или чрезмерными дождями, обычно может предотвратить это стихийное бедствие, чтобы не вызвать массового голода среди своих граждан. Но современное государство, охваченное искусственной фантазией, способно спровоцировать искусственный голод в огромных масштабах, как это произошло в СССР в начале 1930-х годов.

Соответственно, по мере того как сеть становится все более мощной, ее механизмы самокоррекции приобретают все большее значение. Если племя каменного века или город-государство бронзового века были неспособны выявлять и исправлять свои ошибки, потенциальный ущерб был ограничен. В лучшем случае разрушался один город, а оставшиеся в живых пытались повторить попытку в другом месте. Даже если правитель империи железного века, такой как Тиберий или Нерон, был охвачен паранойей или психозом, последствия редко были катастрофическими. Римская империя просуществовала века, несмотря на изрядную долю безумных императоров, и ее окончательный крах не привел к концу человеческой цивилизации. Но если сверхдержава кремниевого века будет иметь слабые или вовсе отсутствующие механизмы самокоррекции, она вполне может поставить под угрозу выживание нашего вида, а также бесчисленных других форм жизни. В эпоху ИИ все человечество оказалось в ситуации, аналогичной ситуации Тиберия на его вилле на Капри. Мы обладаем огромной властью и наслаждаемся редкой роскошью, но нами легко манипулируют наши собственные творения, и к тому времени, когда мы очнемся от опасности, может быть уже слишком поздно.

К сожалению, несмотря на важность механизмов самокоррекции для долгосрочного благополучия человечества, у политиков может возникнуть соблазн ослабить их. Как мы видели на протяжении всей книги, хотя нейтрализация самокорректирующихся механизмов имеет много минусов, она, тем не менее, может быть выигрышной политической стратегией. Она может дать огромную власть в руки Сталина XXI века, и было бы безрассудно полагать, что тоталитарный режим, усиленный ИИ, обязательно самоуничтожится, прежде чем сможет нанести ущерб человеческой цивилизации. Как закон джунглей - это миф, так и идея о том, что дуга истории изгибается в сторону справедливости. История - это радикально открытая дуга, которая может изгибаться в разных направлениях и достигать самых разных целей. Даже если Homo sapiens уничтожит сам себя, Вселенная будет продолжать заниматься своими обычными делами. Земной эволюции потребовалось четыре миллиарда лет, чтобы создать цивилизацию высокоразумных обезьян. Если нас не станет, и эволюции понадобится еще сто миллионов лет, чтобы создать цивилизацию высокоразумных крыс, она это сделает. Вселенная терпелива.

Однако есть и еще более худший сценарий. Насколько мы знаем сегодня, обезьяны, крысы и другие органические животные планеты Земля могут быть единственными сознательными существами во всей Вселенной. Теперь мы создали бессознательный, но очень мощный инопланетный интеллект. Если мы неправильно с ним обратимся, ИИ может уничтожить не только человеческое господство на Земле, но и свет сознания, превратив Вселенную в царство абсолютной тьмы. Наша обязанность - не допустить этого.

Хорошая новость заключается в том, что если мы откажемся от самодовольства и отчаяния, то сможем создать сбалансированные информационные сети, которые будут сдерживать свою собственную власть. Для этого не нужно изобретать очередную чудо-технологию или находить гениальную идею, которая каким-то образом ускользнула от всех предыдущих поколений. Скорее, чтобы создать более мудрые сети, мы должны отказаться как от наивных, так и от популистских взглядов на информацию, отбросить фантазии о непогрешимости и посвятить себя тяжелой и довольно рутинной работе по созданию институтов с сильными механизмами самокоррекции. Это, пожалуй, самый важный вывод, который можно сделать из этой книги.

Эта мудрость намного старше человеческой истории. Она является элементарной, основой органической жизни. Первые организмы не были созданы каким-то непогрешимым гением или богом. Они возникли в результате сложного процесса проб и ошибок. За четыре миллиарда лет все более сложные механизмы мутаций и самокоррекции привели к эволюции деревьев, динозавров, джунглей и, в конце концов, человека. Теперь мы вызвали инопланетный неорганический разум, который может выйти из-под нашего контроля и поставить под угрозу не только наш собственный вид, но и бесчисленное множество других форм жизни. От того, какие решения мы примем в ближайшие годы, будет зависеть, окажется ли вызов этого инопланетного интеллекта неизбежной ошибкой или началом новой обнадеживающей главы в эволюции жизни.

Благодарности

В эпоху искусственного интеллекта люди по-прежнему пишут и издают книги средневековыми темпами. Я начал работать над этой книгой в 2018 году, а основная часть рукописи была написана в 2021 и 2022 годах. Учитывая скорость, с которой разворачиваются технологические и политические события, смысл многих разделов уже изменился, приобретя большую актуальность и неся в себе неожиданные послания. Но одно осталось неизменным - жизненная важность связей. Хотя эта книга была написана в условиях растущей международной напряженности, она также стала результатом диалога, сотрудничества и дружбы и представляет собой коллективный труд многих людей, близких и далеких.

Nexus никогда бы не увидел свет без огромных усилий Михал Шавит, моего издателя в Fern Press, и Дэвида Милнера, моего редактора. Было много моментов, когда я думал, что проект не может быть завершен, но они убеждали меня продолжать. Бывало и так, что я сворачивал не туда, и они терпеливо и настойчиво пытались наставить меня на путь истинный. Я от всей души благодарю их за преданность делу и за то, что они избавили меня от различных бананов (они знают, о чем я).

Я также хотел бы поблагодарить многих других людей, которые помогли написать и опубликовать эту книгу.

Энди Уорду из Penguin Random House USA, который придал книге окончательную форму и внес очень ценный вклад в процесс редактирования, например, единолично положил конец протестантской Реформации.

Сюзанне Дин, креативному директору Vintage, и Лили Ричардс, фоторедактору, за дизайн обложки и привлечение голубя.

Моим издателям и переводчикам по всему миру за дополнительные отзывы и идеи, а также за доверие и преданность.

Джейсону Пэрри, блестящему руководителю собственной исследовательской группы Sapienship, и всем членам этой команды - Рею Брэндону, Гуанью Чену, Джиму Кларку, Коринне де Лакруа, Дору Шилтону и Зичану Вангу - за исследование бесчисленных тем, от религий каменного века до современных алгоритмов социальных сетей, за неустанную проверку тысяч фактов, за стандартизацию сотен концевых сносок и за исправление бесчисленных ошибок и заблуждений.

Всем членам замечательной команды Sapienship за то, что они были неотъемлемой частью этого путешествия: Шей Абель, Дэниел Тейлор, Майкл Цур, Надав Нойман, Ариэль Ретик, Ханна Шапиро, Галите Кацир и еще несколько членов команды, присоединившихся к нам совсем недавно. Благодарим вас за участие в процессе создания этой книги и за постоянную приверженность всем нашим проектам, движимым миссией Sapienship - сеять семена знаний и сострадания и фокусировать глобальный разговор на самых важных проблемах, стоящих перед человечеством.

Нааме Вартенбург, директору по маркетингу и контенту компании Sapienship, за ее неутомимый энтузиазм и проницательность, а также за брендинг книги и руководство ее PR-кампанией.

Нашему генеральному директору Нааме Авиталь за мудрое управление кораблем Sapien через множество штормов и минных полей, сочетая компетентность с состраданием и формируя как нашу философию, так и нашу стратегию.

Всем моим друзьям и членам семьи за их терпение и любовь на протяжении многих лет.

Моей маме Пнине и моей свекрови Ханне за щедрое время и опыт.

Моей бабушке Фанни, которая скончалась в возрасте ста лет, когда я работал над первым вариантом рукописи.

Моему супругу и партнеру Ицику, который основал компанию Sapienship и является настоящим гением, стоящим за нашей деятельностью и успехами по всему миру.

И, наконец, моим читателям, благодаря которым все эти усилия оправдывают себя. Книга - это связующее звено между автором и читателями. Это звено, соединяющее множество умов, которое существует только тогда, когда его читают.