Глава 8

Глава 5: Искусственные нейронные сети

Другие Умы

Разветвляющиеся Пути Мы наконец готовы приступить к обсуждению главных вопросов, поднятых в введении : природы общего интеллекта, «трудной проблемы» сознания и запутанной темы свободной воли. Начнем с свободной воли, продолжив с того места, где глава 3 остановилась, — с самоуправляемого автомобиля DAVE-2 от Nvidia. Наша цель — понять, что мы имеем в виду, когда называем действия модели «волевыми». Напомним, что DAVE-2 — это всего лишь свёрточная нейронная сеть, входными данными которой является изображение с фронтальной камеры, а выходными — положение руля. Это самый чистый и простой подход к кибернетическому вождению. Но способен ли он на выбор? Более конкретно, что происходит, когда такой «рефлексивный» автомобиль подходит к Т-образному перекрестку? Обычная предобученная модель, работающая без какого-либо контекста, не сможет адекватно отреагировать. Когда мы водим, это те моменты, когда мы можем принимать решения, основываясь на более высоких целях. В другие моменты мы сами находимся на «автопилоте»: цель — просто оставаться в своей полосе, следовать правилам дорожного движения и избегать столкновений с другими транспортными средствами, пешеходами или животными. Если мы установили привычные маршруты, скажем, на работу и обратно, мы также можем делать много поворотов на автопилоте. Это те случаи, когда наша внутренняя модель «автопилота» не является общей, а специфична для нашего личного опыта. Однако DAVE-2 только обучен выполнять общую задачу автопилота. Чтобы собрать набор данных, человеческие водители проехали по множеству различных маршрутов на разных дорогах и исключили из обучающих данных короткие интервалы, когда они меняли полосы или поворачивали. Во время реальных дорожных испытаний человеческий водитель вмешивался, чтобы выполнить эти маневры вручную. Что бы сделал автомобиль, если бы его оставили на автопилоте на Т-образном перекрестке? Предположительно, он выбрал бы самый прямой путь. На точно симметричном Т-образном перекрестке можно надеяться, что сама модель немного асимметрична, что заставит её каким-то образом разрешить ничью.

Совершенно симметричная модель не смогла бы разрешить ничью, и, следовательно, была бы вынуждена генерировать единственный результат, не приводящий к разрыву: двигаться прямо и съехать с дороги. (Помните, DAVE-2 не управляет газом или тормозами.)

Эта печальная ситуация иллюстрирует старую пословицу о том, что совершенство — враг хорошего. Она также напоминает о «осле Буридана», часто рассматриваемом как философская парадокс в обсуждениях свободы воли. В притче осел (или, если угодно, осел, хотя и другое определение тоже подходит) оказывается между двумя равными по размеру стогами сена и, не в силах решить, что из них поесть, умирает от голода.

Избежать этой «метастабильной» ситуации достаточно просто. Все, что для этого нужно, — это случайная переменная, немного шума в системе, чтобы разрешить любые почти ничьи.

В реальной жизни, однако, осел Буридана появляется лишь изредка, потому что немногие решения, которые мы принимаем, действительно произвольны, полностью симметричны или лишены контекста. Нам не нужно делать случайные повороты на Т-образных перекрестках, поскольку, когда мы за рулем, мы обычно пытаемся добраться до какого-то места. Более того, вопросы о выборе, решениях и свободе воли имеют смысл только тогда, когда мы рассматриваем агента с его собственной историей, действующего во времени и в контексте. Поэтому мы обычно не считаем общие рефлекторные действия осознанными.

Соревнование DeepMind AlphaGo с Ли Седолем прошло в 2016 году, в том же году, когда была опубликована статья Nvidia о самоуправляемом автомобиле DAVE-2. Игра в го чрезвычайно сложна, с гораздо большим количеством возможных ходов в любой момент игры, чем в шахматах — это обширный и запутанный сад разветвляющихся путей. По этой причине она сопротивлялась грубой силе поиска и эвристическим подходам, которые много лет назад привели к созданию программ уровня гроссмейстера по шахматам, а также наивному обучению с подкреплением на основе временной разницы.

▶ Сравнение поиска по дереву Монте-Карло в шахматах с гораздо большим количеством возможных ходов в го; Кохс 2017.

В конечном итоге трюк DeepMind был тем же, что и у Nvidia: замена рукописного кода на обученную свёрточную нейронную сеть.

Дизайн системы AlphaGo был значительно более сложным, поскольку включал не только отдельные сети политики и ценности, обученные с помощью усиления, но и традиционные методы, такие как рандомизированный или «Монте-Карло» поиск по дереву возможных будущих ходов.

В этом смысле это была гибридная модель, сочетающая глубокое обучение и GOFAI, хотя последующие модели — AlphaZero и MuZero — постепенно двигались к более чистому подходу глубокого обучения, устраняя оставшиеся ручные эвристики и одновременно улучшая производительность. MuZero достаточно универсален, чтобы играть в любую игру, а не только в го.

Демис Хасабис в юности, играющий в шахматы

DeepMind всегда стремилась решить задачу создания искусственного общего интеллекта через агентный подход. Игровая культура глубоко укоренилась в организации. Ее основатель, Демис Хасабис, был шахматным вундеркиндом и экспертом во многих других играх. (В 2024 году он получил Нобелевскую премию вместе с Джоном Джампером и исследователем из Университета Вашингтона Дэвидом Бейкером за AlphaFold, который применяет глубокое обучение для решения давней проблемы предсказания структуры белка по его аминокислотной последовательности.) До создания DeepMind Хасабис разрабатывал видеоигры и даже основал собственную игровую компанию. Первый заметный успех DeepMind в 2013 году заключался в сочетании обучения с подкреплением с сверточными нейронными сетями для игры в игры Atari.

▶
Прогресс в навыках агента DeepMind, обучающегося игре в Atari Breakout после ста, двухсот, четырехсот и шестисот тренировочных эпизодов; Silver и др. 2013.

Ставка компании на то, что игры могут предоставить контролируемую арену для разработки общего ИИ, безусловно, принесла впечатляющие и важные достижения. Комментаторы го, изучающие игры AlphaGo, восхваляли систему за «проявление креативных и блестящих навыков и вклад в развитие игры».

Однако, помимо ограничения, на которое указал Чёрчленд — однобокости — AlphaGo отличался от человеческого мозга еще одним важным образом: он не существовал во времени. У него не было динамики или внутреннего состояния.

Дети времени
Как и модель самоуправляемого автомобиля, ни AlphaGo, ни его преемники не хранят явной памяти о своих предыдущих «мыслях» или планах.
Да, система разрабатывает следующий ход, продумывая как можно больше шагов вперед, что делает затруднительным назвать эту расширенную оценку «рефлексивным действием». Однако, как только ход сделан, наступает день сурка — на следующем ходе она рассматривает доску заново.
AlphaGo не пытается смоделировать психологию противника и не обучается на ходу; следовательно, она не может индивидуализироваться. У нее также нет ощущения «я», действующего в мире. Все, что она моделирует, — это сам мир и возможные пути в нем, аннотированные (благодаря сети ценностей) оценкой каждого пути на «хорошесть» или «плохость».

Для настольной игры, такой как го или шахматы, ни одно из этих проектных решений не является обязательным недостатком. Согласно теории игр (как ее формализовал сам Джон фон Нейман, который был вовлечен во множество дел), оптимальный следующий ход не зависит ни от истории, ни от противника, ни от какого-либо внутреннего состояния, а только от состояния доски и правил игры — к которым оба игрока имеют полный доступ. Противник должен считаться всегда играющим оптимально. Иначе можно стать жертвой хитроумного соперника, который может ввести в заблуждение, играя глупо, а затем в нужный момент снять перчатки.

Дерево решений шахматной задачи; Ботвинник, 1970

Вы можете задаться вопросом, как AlphaGo могла осуществить сложную стратегию на несколько ходов — а она это определенно может — без «я» или памяти. Но при ясном представлении о разветвляющихся путях будущего на каждом ходе нет необходимости запоминать.

Все возможные стратегии всегда видны, включая продолжение той, которая казалась наилучшей в предыдущем ходе. Если она по-прежнему является лучшим вариантом после хода противника, значит, так тому и быть.
Хотя этот подход и выглядит элегантно, он может быть расточительным, поскольку часто приводит к повторному открытию одной и той же стратегии из хода в ход. Порой происходят катастрофические (и совершенно не человеческие) ошибки, так как взгляд модели на будущее не идеален, а, как и во всех методах Монте-Карло, стохастичен. Модель может сделать необычный ход, заметив блестящий, но отдаленный результат, но позже не распознать ту же возможность, даже если она все еще актуальна, и упустить ее из-за неверного решения. С глаз долой — из сердца вон.
▶
Движение и поведение
Портии
Пауки
Портии
предлагают яркий контраст с таким «безгосударственным» подходом. Хотя их размер составляет всего сантиметр или меньше, их называют «восьминогими кошками» из-за необычайно умного охотничьего поведения.
Они выглядят странно, передвигаясь медленно и неуклюже, как роботы — до тех пор, пока не прыгнут в атаку. В отличие от других пауков,
Портии
обладают парой больших, направленных вперед глаз, напоминающих камеры, с высоким разрешением в узком поле зрения, что позволяет им тонко различать детали. Их любимое лакомство — другие пауки, обычно пауки-строители, которые могут быть в два раза больше их самих.
Портии
могут контролировать поведение своей добычи, подделывая сигналы вибрации паутины; они изучают, какие сигналы вызывают желаемую реакцию у каждого вида, методом проб и ошибок. В лаборатории они даже могут научиться обманывать виды, с которыми никогда не встретятся в дикой природе.
▶
Охота
Портии
Они медленно и тщательно планируют свои атаки. С крошечными мозгами и телеобъективными глазами, которым нужно осматривать окружающую среду, кажется вероятным, что они жертвуют многими аспектами параллельности, присущими животным с более крупными мозгами (тему, к которой мы вернемся в
главе 8
).

Как только они разработают стратегию, они могут выполнить её виртуозно, перепрыгивая с веточки на веточку, спускаясь по шелковым нитям и атакуя свою цель сверху, сзади или спереди, в зависимости от того, что безопаснее в данной ситуации (ведь зачастую паук или насекомое, за которым они охотятся, вполне способны их съесть, если ситуация изменится). Возможно, самое впечатляющее в этом — это то, что Портия регулярно достигает своей добычи через непрямые маршруты, включая объезды, которые могут занимать до часа, во время которых она может удаляться от своей цели, теряя её из виду. Впечатляюще, не правда ли?

Структура и острота основных глаз Портии; Харланд и Джексон, 2000

Я привёл этот подробный рассказ, потому что он иллюстрирует — и развивает — ряд наблюдений Чёрчленда: Портия не играет в какую-то одну игру против единственного противника. В конечном итоге ей нужно есть, чтобы выжить, но она сама выбирает, с кем вступать в схватку и когда; она всегда может отступить и попробовать что-то другое или «продолжать сражаться».

«Игровое поле» не одинаково видно всем игрокам. В своей целостности оно не видно ни одному игроку. Портия должна создать и постепенно обновлять умственную модель мира, чтобы принимать решения. Эта модель должна включать не только внешне видимый мир, но и внутренние состояния как охотника, так и жертвы. Зная своё собственное состояние, Портия может оценить, насколько она голодна (или отчаянна), насколько сильна или слаба, следует ли охота ставить выше спаривания или отдыха и так далее.

Моделирование психического состояния своей жертвы также имеет решающее значение. Они возбуждены? Поняли ли они, что я за ними охочусь? Если да, то насколько хорошо я был локализован? Синхронизируя свои движения на паутине жертвы с порывами ветра, Портия может стремиться оставаться «вибрационно невидимой»; или, подергивая паутину, она может попытаться создать иллюзию пойманного насекомого.

Трикстер постоянно должен оценивать: работают ли мои уловки? Вызывают ли они ту реакцию, которую я хочу?

Ни одна из этих уловок или способностей не является принципиально недоступной для искусственных нейронных сетей; в конце концов, каждая способность может быть выражена в терминах функций, а нейронные сети являются универсальными аппроксиматорами функций. Тем не менее, такие способности не возникнут сами собой в системах, подобных DAVE-2 или AlphaGo, из-за ограничений настройки (автопилот или настольная игра) и структурных ограничений безгосударственного классификатора — даже если он принимает очень умные решения в моменте, оценивая множество возможных будущих.

Спексиш

Учитывая инопланетный образ жизни, физиологию, умвельт и ограничения мозга Порции, требуется прыжок воображения, чтобы понять, каково это — быть прыгающим пауком, хотя попытка сделать это может быть увлекательной (и, возможно, полезной).

Мне кажется, что Порция, кошки и люди на охоте разделяют не только способность оценивать и планировать атаку (или защищаться от нее), но и испытывать сомнения, неопределенность, страх и триумф. Я предполагаю, что такие чувства и переживания естественным образом возникли в ходе эволюции хищничества, как описано в главе 3, так же как голод естественным образом возникает из необходимости есть, как описано в главе 2.

Но утверждать, что другой разум испытывает что-то знакомое из собственного опыта, кажется весьма субъективным. Как можно это действительно знать? Вскоре мы исследуем, как такие утверждения можно оценивать более строго, как предсказательные гипотезы.

А пока давайте придерживаться более этологической перспективы. Этология занимается поведением животных, изучаемым с помощью лабораторных экспериментов и анализируемым в контексте нейрофизиологии, функции и эволюции. Сквозь этологическую призму мы можем просто задать те же вопросы о чувствах и внутренних состояниях, которые мы задавали бы о физических характеристиках, таких как различно адаптированные клювы финчей Дарвина.

Почему это чувство возникает и сохраняется в процессе эволюции? Какова его полезность? Что бы произошло, если бы его не существовало? Это позволяет нам избежать обвинений в антропоцентризме и немного отложить вопросы о «философских зомби».

Свободная воля, как желание или императив, кажется достаточно понятной с этологической точки зрения. Ни одно животное не любит быть в ловушке, включая людей; именно поэтому тюремное заключение является формой наказания, даже если наши физические потребности удовлетворены. Помните, что основная цель наличия мозга — это возможность действовать в мире, выбирая среди альтернативных будущих, чтобы повысить нашу динамическую стабильность — то есть оставаться живыми и продолжать иметь возможность делать выбор в будущем.

Когда другие ограничивают нашу способность принимать решения, это не приносит удовольствия, так же как и невыносимый голод. Ограничение наших возможных будущих делает нас все более беспомощными, как короля, загнанного в угол шахматной доски в эндшпиле.

Игра в Го предлагает еще более чистое выражение этой идеи. Хотя камни на доске не движутся после того, как их положили, их «свободы» — это количество соседних незанятых позиций, куда они гипотетически могли бы переместиться, и камни остаются «живыми» только до тех пор, пока у них есть хотя бы одна свобода. Смерть, будь то в игре или в реальной жизни, представляет собой окончательное исчерпание способности выбирать. Это зажатый конец нашей венской колбасы.

Взаимное предсказание — ключ к социальности и сотрудничеству, но в хищническом контексте, как поняли ранние кибернетики, предсказание может быть и противостоящим. Хищник будет пытаться предсказать добычу, чтобы загнать ее в свой желудок. Добыча будет пытаться предсказать действия хищника и сбежать. Каждый из них стремится сохранить свои собственные свободы, потенциально за счет противника. Поэтому каждый будет пытаться предсказать предсказания другого, бесконечно.

▶
Мышь, обученная проходить от входа (слева) к выходу (справа) в сложной арене, заполненной визуальными преградами, обходит робота, преследующего её, используя теорию разума; Лай и др., 2024.
Как мы более подробно обсудим в
главе 7,
когда взаимное предсказание является кооперативным, оно также должно быть несовершенным, поскольку когнитивное сотрудничество подразумевает разделение труда. Это означает, что каждая сторона приносит на стол когнитивные ресурсы или вводные данные, которых не хватает другим. Если одна из сторон, участвующих в сотрудничестве, всегда предсказуема для остальных, это подразумевает, что предсказуемая сторона не вносит ничего уникального и, следовательно, становится лишней.
Таким образом, будь то в кооперативном или противостоящем контексте, быть полностью предсказуемым — это плохие новости. В некотором смысле, это даже форма тюремного заключения. Тед Чианг язвительно исследует психологические последствия в своем рассказе «Что от нас ожидают».
На рынок выходит устройство под названием Предсказатель, состоящее лишь из кнопки и лампочки. Лампочка всегда мигает зеленым за секунду до нажатия кнопки. Миллионы Предсказателей продаются, и сначала люди воспринимают устройство как новинку, показывая его друзьям и пытаясь обмануть. Однако, когда до них доходит суть — что Предсказатель
не может
быть
обманут —
свободная воля оказывается иллюзией, и люди впадают в отчаяние, в конечном итоге теряя желание жить.
Настоящие предсказатели, конечно, не являются устройствами с одной кнопкой, а представляют собой другие умы, такие как ум кошки, преследующей свою добычу. Один из способов стать высоко предсказуемым — это исчерпать свои добровольные действия, как загнанная крыса. Но если чье-то поведение выглядит детерминированным снаружи — если его можно идеально предсказать наблюдателем — то с точки зрения противостояния это эквивалентно тому, что быть загнанным в угол.
Когда агент становится полностью предсказуемым для наблюдателя, он перестает восприниматься как агент этого наблюдателя.

Когнитивный ученый Дуглас Хофстадтер описал это свойство как «спексишность», ссылаясь на золотую роющую осу Sphex ichneumoneus. Хофстадтер опирался на наблюдения французского энтомолога Жана-Анри Фабра (1823–1915), которого считают основоположником этологии. Хотя Фабр в целом был внимательным и сочувствующим наблюдателем за поведением животных, он скептически относился к когнитивным способностям насекомых, утверждая, что они проявляют «машиноподобную упрямство».

Жан-Анри Фабр в 1880 году

Он заметил, что когда приходит время для Sphex откладывать яйца, она строит нору и ищет сверчка, чтобы накормить своих будущих детенышей. Вместо того чтобы съесть сверчка сама, она парализует его жалом, приносит к входу в нору, заходит внутрь, чтобы убедиться, что все в порядке, затем тащит сверчка внутрь, откладывает яйца рядом с телом, запечатывает нору и улетает. Это сложное действие, безусловно, выглядит целенаправленным — и так оно и есть.

▶
Оса Sphex приносит сверчка к входу в свою нору, заходит внутрь, чтобы проверить, что все в порядке, и возвращается, чтобы затащить сверчка внутрь.

Но затем Фабр заметил, что если сверчка сдвинуть на несколько дюймов после того, как оса зашла в нору проверить, все ли в порядке, Sphex снова появится и вернет сверчка на место, а затем снова зайдет в нору, чтобы еще раз убедиться, что все хорошо! Он описывал, как повторял этот процесс десятки раз. Сдвигая парализованного сверчка каждый раз, когда оса заходила в гнездо, Фабр смог заставить ее застрять в бесконечном цикле.

Одно из толкований этой маленькой притчи: легко обмануться, думая, что поведение является интеллектуальным или целенаправленным, когда на самом деле это просто работающая программа. Но это ставит вопрос: что еще это может быть? В некотором смысле мы все «просто работающие программы».

Лучше всего понять, что поведение шершня при подготовке гнезда определяется генетически, и, следовательно, проявляемый им интеллект является продуктом эволюции, а не моментального размышления отдельной осой. Индивидуальная оса, похоже, как и DAVE-2, действует на автопилоте, по крайней мере, в отношении поведения, связанного с гнездованием. Это кажется разумным, учитывая маленький размер мозга осы и ее двухмесячную продолжительность жизни во взрослом состоянии. У нее нет времени учиться, и некому учить, поэтому ей нужно знать, как размножаться и заботиться о своем потомстве «сразу из коробки».

Однако, возможно, более интересно то, как мы сами реагируем на наблюдение за шершневыми поведениями. Когда мы видим, какие сложные приготовления оса делает для своего потомства, мы думаем, что она умная и обладает волей. Затем, когда мы понимаем, что это поведение предопределено, мы «осознаем», что она просто машина, «оно», и любое впечатление о интеллекте или целенаправленном действии исчезает. Но разница заключается в наших собственных умах, а не в уме осы.

Алан Тьюринг пришел к аналогичному выводу: «Снаружи [...] вещь может выглядеть умной, пока не будут известны все ее правила поведения. Соответственно, чтобы машина казалась умной, по крайней мере некоторые детали ее внутренней работы должны оставаться неизвестными».

В случае с шершнем это осознание происходит благодаря нашему обратному инжинирингу сценария и «взлому» его для создания бесконечного цикла. Мы начинаем верить, что у осы нет интеллекта или воли именно потому, что теперь можем предсказать ее действия с абсолютной точностью. То, что мы на самом деле имеем в виду, говоря «она просто следует сценарию», заключается в том, что мы, снаружи, знаем, что это за сценарий, и даже не нуждаемся во взаимодействии с животным, чтобы предсказать, что оно сделает дальше.

Как вычислительное существо, как ты можешь избежать той же ловушки — как не стать «роботом» для хитроумного наблюдателя? Вот три способа:

Как описано в главе 3 о полете мотыльков, простое использование случайной переменной может сделать твое поведение свежим и неожиданным, даже если ты не так уж умен. В условиях противостояния эта стратегия все равно сработает, если твой противник достаточно умен, чтобы видеть сквозь тебя (то есть если твое внутреннее состояние прозрачно или может быть полностью смоделировано внешним наблюдателем). Это работает даже в том случае, если ты совершенно универсален и не способен к индивидуальному обучению, что означает, что твой поведенческий репертуар полностью закодирован генетически, и ты «точно такой же», как и все остальные члены твоего вида.

Случайность также ценна в кооперативных контекстах, таких как колонии насекомых, где она гарантирует, что даже почти идентичные особи будут расходиться, чтобы исследовать разные части своей среды.

Способность к обучению позволяет твоим реакциям быть более уникальными и расширяет твой поведенческий репертуар далеко за пределы того, что можно закодировать в твоем геноме. Храня в своем мозгу знания и поведение на основе прошлых опытов, ты становишься значительно более сложным внутри — и вся эта сложность остается скрытым состоянием, невидимым для постороннего. В конкурентной среде такое обучение на протяжении всей жизни делает тебя труднее предсказуемым. В кооперативной среде это позволяет развивать индивидуально дифференцированные навыки и экспертизу, значительно расширяя возможности для когнитивного разделения труда.

Если ты способен эффективно моделировать других, включая тех, кто моделирует тебя в ответ, то в условиях противостояния ты можешь перехитрить их, используя мета-стратегии. Моделирование других также жизненно важно для когнитивного разделения труда, так как позволяет тебе знать, кто знает то, что ты не знаешь.

Психологические исследования показывают, что мы, люди, так хорошо умеем отслеживать социально распределенные знания, что часто заблуждаемся, полагая, что знаем гораздо больше, чем на самом деле. На самом деле, большая часть нашего «знания» заключается в том, чтобы знать, к кому обратиться.

Полярные графики траекторий побега тараканов, испуганных порывом ветра, показывают случайный выбор среди нескольких предпочтительных направлений: (A) 431 собранный ответ от пяти особей; (B) частотные гистограммы восьмидесяти шести особей; (C) гистограмма углов ветра для тридцати восьми ответов в (A), когда таракан не поворачивал тело; и (D) диаграмма, иллюстрирующая влияние направления ветра на траекторию побега; подробности см. у Domenici и др. 2008.

Оса, вероятно, не будет использовать никакие из этих стратегий при подготовке гнезда, поскольку трюкачи, перемещающие сверчков, никогда не оказывали эволюционного давления на то, чтобы это конкретное поведение стало непредсказуемым. Взаимодействия хищник/жертва — это совершенно другая история. Вряд ли Sphex будет вести себя так «спехси», охотясь на сверчка, которого она приносит в свое гнездо, или избегая собственного хищника.

Последний трюк в списке — моделирование своего моделирующего — требует действительно высокого уровня интеллекта. Грубо говоря, вам нужно быть таким же умным, как тот, кого вы моделируете, или даже умнее, и вы должны уметь представить, как вы (и мир в целом) выглядите с их точки зрения.

Маленький размер мозга членистоногих исключает возможность этого трюка? Похоже, нет. Когда пауки Portia осознают, что их противник знает и чего не знает, и учатся активно манипулировать моделью мира этого противника, они действуют на более высоком когнитивном уровне.

Матрешки

Среди человеческих детей так называемая «теория разума» или способность «ментализировать» (я буду использовать эти термины как синонимы) требует довольно много времени для полного развития.

Классическая экспериментальная установка для изучения этого явления — тест Салли-Анны, который был популяризирован в 1985 году психологами Симоном Барон-Коэном, Аланом Лесли и Утой Фрит.

Экспериментаторы разыгрывают небольшую театральную сценку для своих юных участников, используя две куклы — Салли и Анну. У Салли есть закрытая корзина, а у Анны — коробка с крышкой. Салли кладет свой мрамор в корзину, а затем уходит на прогулку. Пока ее нет, Анна вынимает мрамор из корзины Салли и кладет его в свою коробку, закрывая крышку. Позже, когда Анна отсутствует, Салли возвращается.

▶ Тест Салли-Анны, проводимый с ребенком

Во время сценки детям задают четыре вопроса: Первый вопрос, Вопрос о Назывании, служит разминкой и спрашивает, какая кукла кто; он устанавливает базовое понимание ситуации. Когда Салли возвращается, задается Вопрос о Вере: «Где Салли будет искать свой мрамор?» За ним следует Вопрос о Реальности: «Где мрамор на самом деле?» … и Вопрос о Памяти: «Где мрамор был в начале?»

Даже младенцы (к тому времени, когда они начинают немного говорить) способны сказать, кто есть кто, и понять, где находится мрамор на протяжении всей сценки, хотя он спрятан от глаз; поэтому вопросы 1, 3 и 4 довольно просты. Однако до двух с половиной — четырех лет дети, как правило, ошибаются с Вопросом о Вере. Они, вероятно, не могут достаточно хорошо моделировать умы других, чтобы осознанно приписывать им ложные убеждения.

Психологи обычно очень осторожны в выборе тех типов агентов, которые, даже гипотетически, могут проявлять теорию разума, отчасти из-за нагрузки, связанной с такими выражениями, как «осознанно приписывать». Многие оставляют этот термин только для людей, хотя у других высших приматов также были зафиксированы успешные результаты в тесте Салли-Анны с соответствующими модификациями.

Тем не менее, с функциональной точки зрения, теория разума — это именно то, что необходимо для лжи или обмана, как это делает Порция (и как делают многие другие животные).

Проявление этой когнитивной способности подразумевает не только умение моделировать чужие умы, но и создавать контрфактические ("что если") вселенные. В тесте Салли-Энн существует реальная вселенная, в которой мрамор находится в коробке. Есть вселенная в голове Салли, где мрамор лежит в корзине. Каждая из этих вселенных также содержит агентов, таких как Салли и Энн, которые, в свою очередь, имеют свои модельные вселенные в своих виртуальных головах. Например, Энн во вселенной, находящейся в уме Салли, тоже верит, что мрамор в корзине. Конечно, Салли и Энн — это всего лишь куклы; они существуют лишь в умах экспериментатора и испытуемого. Экспериментатор и испытуемый, в свою очередь, являются абстрактными людьми, о которых я рассказываю вам, дорогой читатель. Матрешки, вселенные внутри вселенных, в бесконечной рекурсии. Это захватывающая перспектива.

Однако, будучи взрослыми, мы постоянно ведем такие рекурсивные размышления, даже не задумываясь об этом. Чтение романа, такого как "Джейн Эйр", предполагает регулярное развлечение теориями ума четвертого, пятого и шестого порядка, когда мы размышляем о том, что Шарлотта Бронте ожидает от нас, что мы поверим в то, что Джейн думает, что мистер Рочестер должен думать о том, что Джейн думает о чувствах мистера Рочестера к Бланш. Упражнение в этой способности к ментализации, похоже, было основным занятием английской аристократии девятнадцатого века. (Написание популярных романов об этом добавляло еще один слой непрямоты, иногда ироничной.)

Но теория ума — это не просто ценное умение для навигации по скрытым колким замечаниям и избегания неловких ситуаций за чаем. Существуют серьезные доказательства того, что это и есть суть интеллекта; таким образом, это находится в центре главного аргумента этой книги.

Мы подошли к этому центру.

Моя точка зрения заключается в том, что теория разума: — Обеспечивает «взрывы интеллекта», наблюдаемые в нашей собственной линии, гоминидах, и в других умных видах; — Позволяет нам рассматривать контрфактические «что если»; — Мотивирует и усиливается развитием языка; — Позволяет принимать целенаправленные решения, выходящие за рамки «автопилота»; — Лежит в основе свободной воли; — Оперативно действует как в социальных сетях, так и в индивидуальных мозгах; — Результат симбиозов между предсказателями; и — Является источником и механизмом сознания. В некотором смысле, теория разума и есть разум.

Взрыв интеллекта Это большие утверждения. Начнем с более устоявшихся из них. В 1970-х годах Диан Фосси, ведущий эксперт в области поведения горилл, пригласила британского нейропсихолога Николаса Хамфри провести несколько месяцев на своей исследовательской станции в горах Вирунга в Руанде. Позже, размышляя о том, что он увидел, Хамфри написал: «[И]з всех животных в лесу гориллы, казалось, ведут самую простую жизнь — еда в изобилии и легко доступна (если они знают, где ее найти), мало или совсем нет хищников (если они знают, как их избегать)... на самом деле, делать почти нечего (и делается немного), кроме как есть, спать и играть. И то же самое можно сказать и о естественном человеке».

▶ Архивные кадры из фильма National Geographic 1973 года, документирующего исследования горилл Диан Фосси в Центральной Африке, 1967–1972 годы.

Эти наблюдения противоречили привычному объяснению эволюции высокого интеллекта — что все дело в том, чтобы быть блестящим охотником или «выигрывать» в жестокой, хоббсовской игре выживания в суровой среде. Но если не для охоты (или уклонения от охотников), зачем тогда нужна интеллекция? Разве нельзя жить легкой жизнью гориллы, не неся высоких затрат на большой мозг? Ископаемые свидетельства говорят об обратном: мозги приматов во многих линиях, включая горилл и людей, со временем не уменьшались, а, наоборот, значительно увеличивались.

Объяснение Хамфри: «[Ж]изнь великих обезьян и человека [...] критически зависит от обладания обширными фактическими знаниями о практических техниках и природе среды обитания. Такие знания могут быть приобретены только в контексте социальной общины [...], которая обеспечивает как среду для культурной передачи информации, так и защитную среду, в которой может происходить индивидуальное обучение. [...][Г]лавная роль творческого интеллекта заключается в том, чтобы удерживать общество вместе».

Сейчас существует множество вариаций этой базовой теории — некоторые, как Хамфри, подчеркивают сотрудничество и разделение труда, другие — конкуренцию и макиавеллистскую политику. Эти подходы довольно хорошо соответствуют объяснениям «любви» и «войны» как факторов возникновения интеллекта в целом, описанным в главе 3.

В 1990-х годах эволюционный психолог Робин Данбар и его коллеги использовали сравнительные измерения размера мозга у различных видов, чтобы продвинуть тесно связанную «гипотезу социального мозга», которая утверждает, что резкие увеличения размера мозга, наблюдаемые у гоминид и китообразных (китов и дельфинов), среди прочих, возникают в результате ментального соперничества.

Взрыв в размере мозга гоминид за последние несколько миллионов лет (однако обратите внимание на недавнее снижение, возможно связанное с началом социальной эволюции и разделением труда)

В основе всех этих связанных гипотез лежит наблюдение, что у высоко социальных животных, таких как мы, теория разума является мощно адаптивной чертой. Способность лучше понимать мысли других увеличивает шансы на нахождение партнера, создание коалиций, получение ресурсов от друзей и семьи, помощь в воспитании потомства, избегание насилия (или оказаться на выигрышной стороне), повышение престижа и накопление поклонников или последователей. Поэтому неудивительно, что люди с лучшей теорией разума, как правило, живут дольше и имеют больший репродуктивный успех. Это означает, что дарвиновский отбор будет действовать.

Сильная теория разума коррелирует как с большим количеством друзей, так и с большими размерами мозга, особенно в тех областях, которые связаны с ментализацией — прежде всего, в лобной коре. Таким образом, удивительно, но мы можем наблюдать доказательства эволюционного давления на социальный интеллект даже среди современных людей.

Я предполагаю, что дополнительный объем коры у высоко социальных людей посвящен не только общим навыкам ментализации, но и богатым усвоенным представлениям — мы могли бы даже назвать их симуляциями — о многих конкретных членах их семьи, друзьях, коллегах и знакомых. В конце концов, ментализация требует не только абстрактного представления о другом человеке, но и моделирования его конкретного жизненного опыта, того, что он знает и чего не знает, его особенностей и ценностей, способов самовыражения — короче говоря, всего, что составляет личность, мировоззрение и умвельт. Вы, вероятно, без особых усилий используете такие знания, чтобы разыгрывать гипотетические социальные ситуации в своей голове, опираясь на множество людей, которых вы знаете.

Эта задача оказывается даже сложнее, чем кажется на первый взгляд, потому что в социальном зале зеркал существуют бесконечные отражения: все эти люди также моделируют других, включая вас. И, конечно, их модели вас включают модели их самих и других. Эти отношения важны, потому что они сильно влияют на поведение. Кто поделился мясом с кем после последней охоты и перед кем? Кто спит с кем? Кто сплетничает об этом, а кто не в курсе? С кем кто ссорится и по какому поводу (или из-за кого)?

Даже если ваша модель вторичных отношений (т.е. кто дружит с кем и что вы знаете об этих взаимодействиях) не так богата, как ваша модель первичных отношений (ваши друзья), само количество более высоких порядков в вашей модели взрывается.

Если у вас есть двадцать одноклассников, которые все знают друг друга (и вас), вам нужно отслеживать не только свои двадцать отношений с ними, но и все их отношения друг с другом и с вами, что составляет еще 20×20=400 единиц информации. Отношения третьего порядка могут достигать тысяч.

Цифры становятся поистине ошеломляющими, когда вы учитываете, что количество наших знакомых может легко достигать сотен; семейные, школьные и рабочие окружения, как правило, включают группы людей, которые все знают друг друга; а наши теории разума могут доходить до шестого порядка или даже выше.

Можно представить, что даже если многие углы будут срезаны, объем мозга, необходимый для социального моделирования, может расти как в зависимости от количества ваших друзей, так и от вашей способности моделировать отношения более высокого порядка.

На самом деле, когда Данбар и его коллеги начали исследовать связь между размерами мозга и размерами социальных групп у умных животных, они обнаружили, что с увеличением размера группы объем мозга, отведенный под кору, также увеличивается.

Уровень ментализации, который Данбар называет «уровнем намеренности», кажется, ограничен объемом коры; поведенческие исследования показывают, что обезьяны могут функционировать только на первом уровне, в то время как не человекообразные обезьяны обладают намеренностью второго уровня. По аналогии, архаические люди и неандертальцы, возможно, могли достичь лишь намеренности четвертого уровня, что находится «на нижнем конце нормального распределения для современных взрослых людей и примерно на том же интеллектуальном уровне, что и молодые подростки».

Наконец, наклон зависимости между объемом коры и размером группы значительно круче для человекообразных обезьян, чем для обезьян, что согласуется с идеей о том, что моделирование более высоких уровней намеренности требует большего вложения когнитивных ресурсов на каждого члена группы.

Корреляция между размером неокортекса и размером социальных групп среди обезьян и человекоподобных, переработано из Дунбара 1998

Результаты, связывающие размер мозга с размером социальных групп и размер социальных групп с дарвиновским фитнесом, представляют собой настоящий лабиринт отражений, выявляя глубокую самоподобие — и обратную связь — между мозгами и социальными группами. Если у вас немного больше мозг, чем у ваших друзей и семьи, и вы способны более надежно моделировать большее количество отношений, вы получите дарвиновское преимущество, и, следовательно, в среднем у вас будет немного больше потомков, чем у тех, кто менее социально одарен. Но это означает, что ваши потомки сами станут сложнее для социального моделирования; то есть, модель каждого из них теперь должна быть более сложной, включая более высокий уровень намерений и большее количество отношений. И помните, все пытаются предсказать друг друга, но не хотят быть полностью предсказуемыми!

Таким образом, это гонка вооружений, не слишком отличающаяся от кембрийского взрыва — хотя (обычно) более дружелюбная. Каждый получает больший мозг, чтобы моделировать других, и в то же время другие становятся все сложнее для моделирования, потому что... ну, их мозги тоже становятся больше. В результате происходит взрыв социальной интеллекции: быстрое (по эволюционным меркам) увеличение объема мозга в вашем виде.

Когда социальное моделирование становится важной частью жизни каждого, влияние на индивидуальные стимулы становится драматичным. Одинокие операторы, как леопарды, довольствуются тем, что заботятся о себе; их умвальт в основном состоит из их территории и добычи, в то время как другие леопарды, чаще всего, являются нежелательными нарушителями. Для современного человека быть изгнанным или исключенным из сообщества становится серьезным наказанием — или даже смертным приговором. Наш мир в значительной степени состоит из других людей, и большинство из нас не смогли бы выжить без постоянной взаимопомощи.

В то же время социальность — это сложное дело.

Мы стремимся «побеждать» в моделировании других, не будучи при этом полностью смоделированными сами; мы конкурируем за возможности спаривания и за внимание; мы стремимся к доминированию и престижу. Эти динамики вновь иллюстрируют, как конкуренция и сотрудничество могут переплетаться настолько тесно, что порой трудно различить, что есть что.

Отбор также действует на уровне социальных групп. Если одна группа обладает чуть большими мозгами и большей социальной ловкостью, сама группа может вырасти, и, таким образом, будет склонна вытеснять меньшую (и с меньшими мозгами) группу. Таков, возможно, был удел некоторых из наших ныне вымерших гоминид.

Общества обладают своего рода коллективным интеллектом, и обширный корпус работ в области социальной антропологии показывает, что коллективный интеллект подчиняется закону масштабирования, не отличающемуся от закона индивидуальных мозгов. Кстати, теория разума важна как для эффективного обучения, так и для эффективного преподавания, что подразумевает, что она способствует культурной эволюции на уровне группы.

Таким образом, более крупные общества могут создавать и развивать более сложные технологии, а значит, развивать большую адаптивность и устойчивость.

Большее масштабирование, другими словами, может поддерживать больший интеллект, а больший интеллект улучшает динамическую стабильность как на индивидуальном, так и на групповом уровне.

Экипаж из восьми

Трудно не задаться вопросом, применим ли этот рекурсивный паттерн и на более мелких масштабах. Могут ли наши мозги быть «обществами» нейронных цепей, которые эволюционировали, чтобы моделировать друг друга и тем самым создавать больший коллективный интеллект, который мы называем «мозгом»? Нейробиологи и исследователи ИИ выдвигали такие теории много раз на протяжении многих лет, предлагая разнообразные подтверждающие доказательства.

Во-первых, кора головного мозга имеет модульную или повторяющуюся структуру, состоящую из сотен «кортексных колонн» — хотя эти колонки не имеют четких границ, что привело к бесконечным спорам о их точном определении и гранулярности.

Поэтому, когда я использую термин «кортексный столб», прошу воспринимать это с долей скептицизма; я буду также использовать более расплывчатые выражения, такие как «небольшой участок коры» или «часть мозга».

Несмотря на эти неопределенности, мы знаем, что основной «кортексный контур» в разных областях коры в целом остается схожим. Когда мы различаем «слуховую кору» и «зрительную кору», например, разница, похоже, заключается в том, откуда каждая из них получает свои входные сигналы.

В одном известном эксперименте зрительные нервы детенышей хорьков были хирургически перенаправлены в слуховую кору, и эти животные тем не менее развили способность видеть. Более того, характерная нейронная карта ориентированных визуальных признаков, которую Хубель и Визель открыли в зрительной коре, сформировалась в «слуховой» коре хорьков, хотя и более неаккуратно.

Существуют доказательства того, что человеческий мозг может перестраиваться аналогичным образом: слепые люди могут научиться видеть, используя слух через «клик-сонар», и даже могут приобрести ограниченную форму зрения с помощью пространственно ориентированной стимуляции языка.

Карты чувствительности к ориентации визуальных стимулов в зрительной коре нормального хорька (V1), за которыми следует аналогичная карта в слуховой коре (A1) для хорька, чьи зрительные нервы были «перепрограммированы» на подачу сигналов в слуховую кору. Более темные области представляют собой корковые участки с более высокой активностью, а цвета показывают угол визуальной решетки, вызывающей наибольший ответ; Шарма, Анджелуччи и Сур, 2000.

Возможно, именно общая модульность и стала причиной взрыва интеллекта: так же, как ДНК могла легко эволюционировать, чтобы воспроизводить больше позвонков и ребер, создавая змей (как упоминалось в главе 1), геномы животных, переживающих взрыв интеллекта, могли реагировать на давление индивидуального и группового отбора, воспроизводя больше кортикальных колонок. Таким образом, эволюция могла постепенно расширять кортикальную поверхность, не изобретая ничего принципиально нового. У самых крупных животных с большим мозгом, таких как дельфины и люди, это расширение достигло такой степени, что кора была скомкована в плотные складки, придавая нашим мозгам характерный рельефный вид. Мы умудряемся уместить около четверти квадратного метра кортикальной площади в наших черепах.

Учитывая это, можно даже рассмотреть кору как нечто большее, чем единый организм: как «колонию» кортикальных колонок, которые смогли воспроизводиться внутри наших черепов в все большем количестве благодаря увеличению сотрудничества между собой. Более высокий уровень интеллекта, который они нам дарят, повышает нашу индивидуальную приспособленность, что, в свою очередь, позволяет нам формировать более крупные общества, что увеличивает динамическую стабильность в целом.

Возможно, вам будет некомфортно думать о своей коре как о колонии сущностей, а не как о едином целостном организме — «вас». Однако помните, что на каком-то уровне жизнь всегда функционирует именно так. Наши клетки содержат колонии митохондрий, а наши тела состоят из колоний клеток. Все эти маленькие сущности обладают своим собственным интеллектом, как и любое живое существо, чтобы выжить среди других подобных сущностей в динамичной среде.

Я думаю, причина, по которой мы находим интеллектуальные кортикальные колонки странными, заключается в том, что их umwelt , область, в которой они проявляют интеллект, пересекается с «нашим» umwelt — в отличие, скажем, от белой кровяной клетки, которая, хотя и явно живая и активная, обитает в микроскопическом внутреннем мире, совершенно чуждом нам.

Корабельные колонки, в отличие от этого, воспринимают цвета и формы, людей и места, истории и эмоции. Наше понимание — это их понимание. И это странно.

Позвольте мне отвлечься на спекулятивное размышление о любимом «инопланетном разуме» — осьминоге.

Осьминоги всегда казались немного «мухой в мази», когда речь идет о гипотезе социальной интеллигентности. В отличие от других очень умных животных на Земле, они известны своим капризным и индивидуалистичным характером. Они не склонны проводить время друг с другом и обычно встречаются лишь для спаривания — напряженная встреча, которая может закончиться насилием или даже каннибализмом.

▶ Осьминоги во время спаривания

Хотя они являются блестящими учеными на протяжении всей жизни, они не живут достаточно долго, чтобы вырастить своих детенышей, и, следовательно, не могут накапливать культурные знания. Если бы это было возможно, можно было бы предположить, что моря нашей планеты кишели бы городами осьминогов, а возможно, даже осьминожьими вычислительными машинами (которые, безусловно, использовали бы восьмеричную, или базу восемь, систему счисления — гораздо более разумный инженерный выбор, чем наша десятичная).

Если осьминоги такие антисоциальные, а интеллект — это социальное явление, почему же они так умны? Можно уклониться от ответа и заметить, что социальность не обязательно включает только особей своего вида и не всегда является дружелюбной. С всеядными аппетитами и полным отсутствием защитной оболочки осьминог должен полагаться на свои умственные способности, чтобы моделировать и предсказывать все, что он хочет либо поймать, либо от чего убежать; вероятно, что высокоразвитая теория разума, уязвимость перед хищниками и гибкие стратегии охоты развивались одновременно.

Однако более интересная возможность возникает, если рассмотреть другие способы, которыми осьминоги так отличаются от других животных с большим мозгом, включая нас. «Мозг» осьминога сильно децентрализован, вероятно, из-за высокой стоимости долгосрочной связи в нервных системах моллюсков.

Наши собственные длинные нервные волокна покрыты жирными миелиновыми оболочками, что значительно ускоряет и снижает энергетические затраты на передачу электрических импульсов. Однако у нервных волокон моллюсков миелиновых оболочек нет. Для быстрой передачи импульсов в немиелинизированных нервах необходимо значительно увеличить диаметр аксона, что объясняет наличие у кальмаров «гигантского аксона» — единственного нервного волокна диаметром до 1,5 миллиметров, проходящего вдоль всего тела. Этот гигантский аксон обеспечивает быструю и скоординированную реакцию на угрозу.

Но, очевидно, для животного с множеством нейронов, управляющих сложным поведением, нет места (или энергетического бюджета) для множества таких гигантских аксонов, поэтому подавляющее большинство нейронной обработки должно происходить локально. Это, вероятно, объясняет, почему три пятых нейронов осьминога находятся в его щупальцах, а не в голове.

Хотя головоногие моллюски являются билатеральными, как и мы, их тела гораздо более модульные, чем у любых наземных животных, демонстрируя множество дополнительных почти симметрий. У осьминога более двухсот присосок расположены в красивых узорах вдоль восьми щупалец, окруженных цепочками нейронных сетей. Каждая присоска является хватательным органом, почти как пара противоположных пальцев, и обладает гораздо более богатым локальным сенсорным восприятием, чем наши руки, включая рецепторы осязания и вкуса, хроматофоры для ярких кожных проявлений и даже фоторецепторы для восприятия света. Кажется, что множество процессов — от вкушения и движения до изменения цвета, реакции, принятия решений, предсказания и даже рассуждения — происходит под локальным контролем.

▶ Экстремальная модульность тела осьминога; не только каждое щупальце умно, но и каждая присоска

Таким образом, модульность осьминога не только структурная, но и функциональная. Каждая присоска умна. Каждое щупальце тоже обладает интеллектом и способно реагировать на стимулы сложными движениями без участия центрального мозга.

Руки распознают друг друга напрямую, когда они движутся, избегая запутывания без необходимости в центральном представлении геометрии животного, что — учитывая дикий спектр возможных форм для такого мягкого существа с множеством степеней свободы — стало бы необычайной задачей для любого мозга.

Руки даже могут напрямую общаться друг с другом через кольцо ганглиев, окружающее «плечи», с дополнительными прямыми соединениями между чередующимися руками; эти пути полностью обходят мозг.

Но это еще не все. Осьминоги иногда вынуждены откусывать поврежденную руку, действие, известное как «автотомия». Они могут даже делать это, чтобы отвлечь хищника, оставляя одну извивающуюся конечность позади, в то время как остальные семь, вместе с головой, убегают. (На этом этапе, как замечает остроумный комментатор на Reddit, у нас получится септопус.) У как минимум одного вида кальмаров также наблюдалась «атакующая автотомия»: отрезанная рука атакует хищника, пока остальная часть животного убегает.

После автотомии новая рука вырастает заново. У осьминогов этот процесс занимает около 130 дней.

▶ Частичная автотомия у кальмара Octopoteuthis deletron, когда его руки застревают в бутылочной щетке. Обратите внимание на продолжающуюся активность отрезанного кончика руки; Bush 2012.

Возможно, осьминога лучше всего рассматривать как тесно сплоченное сообщество из восьми рук, которые делят между собой пару общих глаз. На самом деле, основная часть центрального «мозга» состоит из пары зрительных долей; мы могли бы представить, что эти доли сжимают визуальную информацию в интересах рук, а не являются «начальником» или, даже в каком-то смысле, «осьминогом». В этом свете атакующая автотомия у кальмара (нервная система которого организована аналогичным образом) может не так уж сильно отличаться от тактики «камикадзе» пчелы, защищающей улей.

Может быть, взрыв интеллекта, приведший к появлению осьминога, был вызван предсказательной социальной моделью — теорией разума, по сути — среди его восьми рук? Как бы абсурдно это ни звучало, я думаю, это вполне вероятно.

Щупальца осьминога обладают индивидуальным интеллектом, но их взаимодействие ограничено из-за высокой задержки и низкой пропускной способности немиелинизированных нервных волокон. В таких условиях централизованное управление невозможно.

Тем не менее, щупальца осьминога должны работать вместе, чтобы плавать, охотиться, избегать аквариумов и так далее; для этого им необходимо моделировать действия друг друга. Мы знаем, что люди могут эффективно сотрудничать в выполнении таких задач, полагаясь на минимальное общение; вспомните элитное военное подразделение или охотничью группу, обменивающуюся тонкими знаками во время преследования добычи. Даже интеллектуальные задачи, такие как решение головоломок в квест-комнатах или участие в математических олимпиадах, требуют такого командного взаимодействия. Язык — это очень низкопропускная среда, но мы все равно справляемся.

Рассказы о небольших, но высокоэффективных командах неизменно подчеркивают единство цели, которое можно достичь, и необходимость для каждого члена команды догадываться о действиях других на основе минимальных подсказок: то есть высокоточная взаимная предсказуемость или ментализация. Когда это происходит в соревновательной гребле, это называется «качанием»: «Это происходит только тогда, когда все восемь гребцов работают в идеальном единстве, так что ни одно действие не выбивается из общего ритма. […] Каждое малейшее движение […] должно точно повторяться каждым гребцом, от одного конца лодки до другого. […] Только тогда лодка будет казаться частью каждого из них, движущейся, как будто сама по себе.»

▶ Архивные кадры с Олимпийских игр 1936 года в Берлине, где команда гребцов Университета Вашингтона завоевала золотую медаль; Brown 2013.

Гомункулус

Насколько мы отличаемся от осьминога на самом деле?

У нас быстрые миелинизированные нервы, которые позволяют более эффективно централизовать наш мозг в голове, но если то, что я предложил, верно — что наши мозги можно рассматривать как симбиотические колонии корковых колонок, моделирующих друг друга — то разница может быть скорее в степени, чем в качестве.

Это тревожно, потому что у нас есть сильное чувство единого «я». На протяжении веков многие интуитивные (и сверхъестественные) размышления исходили из предположения о неделимом «я», находящемся где-то в теле. Предположительно, оно расположено в мозге. Вот почему мы можем представить себе «трансплантацию всего тела», но не «трансплантацию мозга». Распространённый термин для этого «чего-то в мозге» — «гомункулус», что в переводе означает «маленький человек», который где-то там управляет процессами. Во многих религиозных традициях бессмертная душа выполняет эту гомункулярную роль.

Раннее понимание нейронауки Леонардо да Винчи в значительной степени основывалось на полученной мудрости от Галена о когнитивных функциях трёх желудочков, соответствующих воображению, разуму и памяти. К 1509 году да Винчи провёл обширные вскрытия и эксперименты, включая использование воска для создания форм желудочков мозга быка, что привело к революционной анатомической точности, но пока не дало значительного концептуального прогресса.

Рене Декарт (1596–1650) рассматривал эту проблему с нейроанатомической точки зрения. Влиятельный сторонник «механической философии», или того, что мы сейчас называем физикой, Декарт считал, что тело и мозг должны быть механическими, или машиноподобными, поскольку мы, похоже, состоим из того же вещества, что и остальная физическая вселенная.

Кроме того, человеческая анатомия имеет много общего с анатомией других животных, а человеческое поведение — с поведением животных: «страсти» голода и сексуального влечения, рефлексы отдергивания при ожоге и так далее. Поэтому Декарт ввел термин «bête-machine», или «животная машина», чтобы описать механистическую физиологию тел животных и человека.

Тем не менее, Декарту нужно было как-то примирить механическую философию с его христианской верой. Церковь утверждала, что у нас есть бессмертные души, в то время как у других животных их нет, а Просвещение подчеркивало божественный дар человеческой рациональности; другие животные, безусловно, не писали философских трактатов. Заимствовав у Аристотеля, Декарт нашел элегантное решение: отождествить рациональность с душой. Интрига заключалась в том, что для того, чтобы нематериальная душа могла управлять материальным телом, необходим был некий интерфейс между душой и мозгом.

Чтобы теоретизировать, как это может работать, Декарт снова обратился к классическому миру, на этот раз к медицинскому авторитету. Галена (примерно 130–210 гг. н.э.) считал, что мозговые желудочки заполнены «психическим пневмой», летучим, парообразным веществом, которое он описывал как «первый инструмент души». Развивая эту идею, Декарт представил тело как, по сути, гидравлическую машину, работающую на психической пневме: «Когда рациональная душа присутствует в этой машине, она будет иметь свое главное место в мозге и будет находиться там, как фонтанщик, который должен находиться у резервуаров, к которым возвращаются трубы фонтана, если он хочет инициировать, препятствовать или […] изменять их движения».

Умно! Но где же находился этот «фонтанщик»? Декарт пришел к выводу, что он должен находиться в шишковидной железе, небольшой структуре в форме шишки, расположенной в центре мозга. Во-первых, она находится рядом с мозговыми желудочками, предполагаемыми «резервуарами» психической пневмы.

Более важно то, что эпифиз — это одна из немногих четко определенных структур, расположенных вдоль средней линии мозга, что означает, что у нас есть только один такой орган. Будучи неделимым, душа, безусловно, не могла бы находиться в паре структур с обеих сторон мозга!

Иллюстрации эпифиза, сидения души, гидравлически «управляющего» телом с помощью психического пневмы; Декарт, 1677

Предупреждение: главная функция эпифиза — производство мелатонина. Он помогает регулировать циркадные ритмы. Это не место обитания души.

Ошибка Декарта была более фундаментальной, чем выбор неправильной железы. Некоторые нейробиологи до сих пор ищут неуловимый участок мозга, цепь или тип нейронов, где может находиться наше сознание. Безусловно, не все области мозга равны; тяжесть инсульта критически зависит от того, какие структуры он повреждает. Однако я считаю, что попытка определить местоположение гомункула, души или «я» в мозге подобна попытке найти, где находится «качели» в гребной лодке.

Это не значит, что одно из этих явлений нереально или иллюзорно. Качели вполне реальны, как могут подтвердить те, кто их испытывал. Но это глагол, а не предмет; распределенное, а не локализованное; динамический процесс во времени, а не статичное состояние; и реляционное, а не индивидуальное. В этом нет ничего сверхъестественного, но это также не физическое и даже не объективное. Это функционально. Это приводит к более высокой производительности лодки и, следовательно, имеет ощутимые последствия в мире. Но это также субъективно, воспринимается каждым из восьми членов экипажа в отношении к другим и к целому.

Представьте, что одного из членов экипажа в лодке заменяют роботом. Не тем глупым, что у нас есть на фабриках сегодня, а тем, который способен грести, как человек, слышать, видеть, чувствовать и использовать тактильные и аудиовизуальные сигналы для общения с остальными членами экипажа.

Может ли такая «киборг-команда» достичь свинга? Я думаю, что ответ однозначен — «да», и, учитывая уровень современных ИИ-моделей, все оставшиеся препятствия в основном связаны с недостатками в батареях и моторах — то есть с телами, а не с «умами».

Этот мысленный эксперимент можно рассматривать как версию вопроса, который задали философы Дэвид Чалмерс и Сьюзан Шнайдер, и который мы могли бы назвать «мозгом Тесея», ссылаясь на гораздо более старый мысленный эксперимент Плутарха о «корабле Тесея» (чтобы немного дольше оставаться в морской теме). У Тесея, мифического царя и основателя Афин, есть легендарный корабль, который афиняне сохраняют на протяжении поколений. На протяжении многих лет он подвергается бесчисленным ремонтам, чтобы оставаться в хорошем состоянии. Вопрос в том, когда каждое бревно было заменено, остается ли это все еще кораблем Тесея?

Что-то, близкое к реальному кораблю Тесея: USS Constitution, построенный в 1797 году. На первом фото, сделанном в 1858 году, он находится на ремонте в военно-морской верфи Портсмута; на втором фото, сделанном в 1927 году на верфи Чарлстауна, он проходит трехлетнюю реставрацию, в ходе которой «обновляется» 85 процентов корабля; и, наконец, после крупного ремонта в 2015 году, от оригинального дерева осталось совсем немного.

Что-то, близкое к реальному кораблю Тесея: USS Constitution, построенный в 1797 году.

Первое фото, сделанное в 1858 году, показывает корабль на ремонте в военно-морском порту Портсмута; на втором фото, сделанном в 1927 году в военно-морском порту Чарлстауна, он проходит трехлетнюю реставрацию, в ходе которой обновляется 85 процентов корабля; и, наконец, после масштабного ремонта в 2015 году от оригинального дерева почти ничего не осталось.

Теперь, когда мы немного разобрались в клеточной биохимии, мы понимаем, что этот вопрос относится и к нам, поскольку большинство клеток в нашем организме обновляются много раз на протяжении жизни, и даже в самых долговечных нейронах со временем каждый атом будет заменен. Если мы хотим утверждать непрерывность нашей идентичности, нам нужно признать, что «я» — это, как и корабль, динамический и вычислительный процесс, а не конкретный набор атомов. И то же самое справедливо и для корабля!

Давайте последуем за Чалмерсом и Шнайдером и рассмотрим вопрос «корабля Тесея» в контексте мозга, теперь с кибернетическим поворотом, как для гребного экипажа. Представьте, что один нейрон в вашем мозге заменяется компьютерной моделью этого нейрона. Вновь наибольшие проблемы здесь технологические, а не концептуальные. Благодаря тем экспериментам середины века с гигантским аксоном кальмара (и множеству работ с тех пор) у нас есть отличные вычислительные модели отдельных нейронов, по крайней мере, в отношении их быстрой динамики.

Полноценный интерфейс «нейрон-машина» — это задача гораздо более сложная. Он потребует не только подключения компьютера ко всем пресинаптическим и постсинаптическим нейронам, но и способности ощущать и выделять различные нейромодуляторные химические вещества. Это значительно превышает наши сегодняшние возможности. Но давайте отложим практические вопросы в сторону. Вопрос в том: если один из ваших нейронов будет заменен на «робот-нейрон», вы это заметите?

Конечно, нет, потому что мозг устойчив к любым сбоям, связанным с отдельным нейроном.

Но что если мы повторим эту процедуру с миллионом ваших нейронов? Или с половиной из них? Или со всеми?

Этот вопрос вызывает тревогу, потому что подчеркивает трудности, с которыми мы сталкиваемся, пытаясь осознать динамичную, процессуальную, вычислительную, распределенную и ориентированную на отношения природу «я». Мы все еще достаточно картезианцы в своем мышлении, чтобы задумываться, будет ли—по описанию Шнайдера гипотетического хирурга, заменяющего ваши биологические нейроны на кремниевые—«ваше сознание постепенно угасать по мере замены нейронов, как когда вы убавляете громкость на музыкальном плеере. В какой-то момент […] ваше сознание просто исчезает». Или, возможно, «ваше сознание останется прежним до тех пор, пока в какой-то момент оно внезапно не прекратится. В обоих случаях результат один: свет гаснет».

Эти идеи—я не знаю, как сказать это мягче—глупы (и, думаю, Шнайдер и Чалмерс оба согласны с этим). В физических и вычислительных терминах нейрон имеет внутреннюю и внешнюю стороны, и если внутренности будут выскоблены и заменены другой техникой, выполняющей ту же функцию—то есть обеспечивающей идентичные взаимодействия снаружи—то ни одна из более крупных функций, в которых участвует этот нейрон, не будет затронута. Согласно тезису Чёрча-Тьюринга, эти функции могут быть вычислены множеством эквивалентных способов и с использованием различных вычислительных субстратов. Это верно на каждом уровне вложенного множества отношений или функций, которые мы называем «жизнью» или «интеллектом».

Иллюзия и Реальность

Философ ума Дэниел Деннэт считал, что сознание и «я» — это иллюзии; мы роботы, состоящие из роботов, состоящих из роботов, поэтому, по мнению Деннета, нет никакого «там», кроме как для удобства речи.

Аналогично, для философов-нейробиологов Сэма Харриса и Роберта Сапольски свободная воля — это иллюзия, потому что умы являются продуктами неумолимых физических процессов.

Иллюзионизм
антология академических статей о сознании как иллюзии, включая работы Дэниела Деннета и Николаса Хамфри; Фрэнкиш, 2017.
Мы действительно роботы, состоящие из роботов, состоящих из роботов, и умы действительно основаны на физических процессах. Однако мне кажется, что слово «иллюзия» здесь не совсем уместно, поскольку оно подразумевает неверное предположение или, в лучшем случае, вежливую фикцию. Хотя никто не предлагает полностью отказаться от этой «фикции», Сапольский почти подходит к краю пропасти, когда утверждает, что, поскольку умы физичны, а свободная воля иллюзорна, такие понятия, как уголовное правосудие, награды, похвала, вина и моральная ответственность, все недействительны и должны быть отвергнуты.
В защиту Сапольского стоит сказать, что задавать трудные вопросы о наших устоявшихся представлениях о справедливости, вознаграждении и ответственности действительно полезно, особенно когда мы сталкиваемся с альтернативами, которые кажутся более гуманными, справедливыми или приводят к лучшим результатам. Становиться нигилистом из-за того, что «всё это иллюзия», менее продуктивно. Такой нигилизм может также привести нас к выводу, что столы и стулья не «реальны», потому что они тоже всего лишь наборы атомов.
Глава 2
предлагает более прагматичный взгляд на реальность, знакомый как из физики, так и из реальной жизни: «реальность» — это наше название для модели с хорошей предсказательной силой. Или, скорее, набора моделей. Нам всегда понадобится много моделей, потому что каждая из них имеет ограниченную область применимости. Было бы замечательно открыть святой грааль физиков — «Теорию всего», объединяющую квантовые поля и гравитацию. Но это не даст вам никакой информации о том, понравится ли вашей тете торт, который вы для нее печете, возьмет ли ваш друг вашу смену в кафе или подружится ли ваш ребенок с соседом. На самом деле, если вы не один из немногих избранных физиков, это не даст вам никакой информации в вашей жизни.

Хорошие вопросы, которые стоит задать о модели, это: Согласуется ли она с наблюдениями? Делает ли она какие-либо проверяемые предсказания? Кому она интересна? Какую функцию она выполняет? Где она дает сбой? Есть ли у нас лучшая кандидатура на модель? Иногда у нас действительно есть более подходящая модель, но, как и в случае с общей теорией относительности, это может быть тревожным или бросать вызов глубоко укоренившимся интуициям. Ньютоновская физика, которая кажется нам гораздо более интуитивной, вытекает из общей теории относительности, но только как приближение, действительное в нашем повседневном мире, где пространство-время достаточно плоское, а объекты движутся значительно медленнее скорости света.

Это не значит, что классическая физика — это «иллюзия»; скорее, более общая теория освещает более широкий спектр. Теория Эйнштейна показывает нам, когда Ньютоновское приближение справедливо, когда оно не работает и почему. Она разрешает кажущиеся противоречия, такие как несовместимость Ньютоновской физики с постоянной скоростью света. В этом смысле общая теория относительности на самом деле укрепляет более узкую классическую теорию, успокаивая нас, что кажущиеся парадоксы не являются поводом для беспокойства, и показывая, почему, когда и в какой степени мы можем полагаться на привычные приближения.

Свободная воля; единое, неделимое «я»; и взаимодействие с другими едиными «я» в мире — это аксиомы здравого смысла, лежащие в основе чего-то вроде Ньютоновской модели социальной жизни. Теория разума — это именно эта модель. Это наша народная теория — в буквальном смысле. Мы используем ее, когда предсказываем вкусы нашей тёти, готовность друга помочь или дружбу нашего ребенка. Хотя она мощная и полезная в повседневной жизни, теория разума также вызывает замешательство, даже парадоксы, когда мы пытаемся согласовать ее с физической вселенной; отсюда и проблемы, в которые нас ввел Декарт. В следующем обсуждении мы развернем более общую теорию, которая поможет нам лучше понять нашу народную теорию — как она возникает и каковы ее концептуальные пределы.

Но давайте помнить, насколько мощна эта народная теория.

Понравится ли торт тете Милли? Для физика такое предсказание может показаться незначительным по сравнению с теми исключительно точными количественными прогнозами, которые мы ожидаем от физических теорий. Но это не так.

Притча названа в честь французского философа XIV века Жана Буридана, но ее версии существовали задолго до него.

Самые ранние версии рандомизированных или «Монте-Карло» методов (названных в честь знаменитого казино) были реализованы в Лос-Аламосе Огюстом Теллером и Арианной Розенблут для моделирования цепных реакций в ядерном оружии.
Silver et al. 2017
↩
Schrittwieser et al. 2020
↩
Silver et al. 2013
↩
Kahng and Lee 2016
↩
Churchland 2016
↩

Это действительно, хоть и косвенно, сохраняет память о предыдущих ходах: изображение размером 19×19 пикселей, используемое свёрточными сетями AlphaGo для оценки доски, включает «каналы», представляющие, например, количество ходов с момента, как камень был поставлен.
von Neumann 1928; von Neumann and Morgenstern 1944
↩
↩

Мой старый сокурсник в колледже зарабатывал на жизнь, играя в шахматы в Вашингтонском сквере в Нью-Йорке. Сначала мы с ним играли на деньги; я был действительно плох, но он только делал вид. Затем он выигрывал у других шахматистов, которые изначально играли небрежно, предполагая, что он легкая добыча. После этого мы делили выигрыш.

Я немного упрощаю. AlphaGo был спроектирован так, чтобы «кэшировать» оценки позиций на доске с помощью методов Монте-Карло, чтобы их можно было повторно использовать без пересчета во время последующих ходов; однако это было инженерное улучшение. Это не подразумевало введение скрытых состояний, влияющих на игру.
R. R. Jackson and Pollard 1996; Harland and Jackson 2000
↩
↩
Wilcox and Jackson 2002
↩
Tchaikovsky 2018
↩

Прежде чем рисковать и гуглить это, вспомните из главы 3 «Поведение, цель и телеология», что сосиска Винера сущности — это трубчатая зона неопределенности, которую она поддерживает вокруг своей траектории в мире, тем самым избегая полной предсказуемости.
Chiang 2005
↩

Хофстадтер 1982
↩
Читка 2022
↩
Фабр 1916
↩
Насекомые демонстрируют значительные индивидуальные различия в интеллекте, так же как и люди; когда Фабр применил свой трюк на другой популяции Sphex того же вида, он обнаружил, что они не попались на удочку, согласно Читке 2022
↩
. Мы вернемся к истории Sphex с более критическим взглядом в главе 9 «Ум улья».
Риски 2016
↩
. На самом деле ни одно живое существо не может быть полностью идентично другому, так как даже самый простой организм обладает множеством внутренних степеней свободы, и многие из них нейтральны, то есть не приносят ни преимущества, ни недостатка для выживания.
Сломан и Фернбах 2018
↩
. Виммер и Пернер 1983; Барон-Коэн, Лесли и Фрит 1985
↩
,
↩
.
Сетох, Скотт и Байяржон 2016
↩
.
Крупеней и др. 2016
↩
.
Динг и др. 2015
↩
. Обратите внимание, что паук может демонстрировать социальную компетентность без понимания — это означает, что он может не моделировать себя, приписывая другим ложные убеждения, что эквивалентно более высокому уровню теории разума.
Хамфри 1976
↩
. Основная идея была выдвинута другими исследователями в 1950-х годах (Шанс и Мид 1953
↩
) и снова в 60-х (Джолли 1966
↩
), хотя и с меньшим эффектом.
Уайтен и Бирн 1997; де Ваал 2007
↩
,
↩
.
Данбар 1998
↩
.
Сара Блаффер Хрди убедительно утверждает, что среди людей и некоторых других умных видов «для воспитания ребенка нужна деревня», в том смысле, что одна мать не может обеспечить все необходимые калории; бабушки, дедушки, братья и сестры, а также няни, которые помогают, называются «аллопарентами». В аллопарентальных видах будущие матери без необходимой социальной поддержки непропорционально выбирают инфантицид или, среди людей, аборт. Если они все же рожают ребенка, его шансы на выживание значительно увеличиваются с помощью аллопарентов; Хрди 2009
↩
.
Павловский, Ловен и Данбар 1998; Хоулт-Лунстад и др. 2015
↩
,
↩
.
Пауэлл и др. 2012
↩
.

Вероятно, нет четкой границы между общими навыками и специфическими знаниями, как в этой, так и в любой другой области, поскольку каждое конкретное знание, которое вы получаете, представлено в терминах вашего существующего концептуального словаря и, в свою очередь, расширяет этот словарь. Это можно представить почти как алгоритм сжатия, в котором ваш опыт на данный момент составляет "словарь", с помощью которого сжимаются последующие знания и впечатления. Это может (по крайней мере, отчасти) объяснить, почему время, кажется, проходит быстрее с возрастом: мы более эффективно сжимаем наш жизненный опыт — увы.

Улицы и др. 2024
↩
Данбар 1992
↩
Данбар 2016
↩
Гопник и Мельтцофф 1993; Зив и др. 2016
↩
,
↩
Мутукришна и др. 2014
↩
.
Минский 1988; Хокинс 2021; М. Беннет 2023
↩
,
↩
,
↩
.
Маунткасл 1957; Буксховеден и Казанова 2002; Кэдвелл и др. 2019
↩
,
↩
,
↩
.
Буономано и Мерцени 1998
↩
.
Шарма, Анджелуччи и Сур 2000
↩
. Обратите внимание, что это утверждение недавно было оспорено некоторыми исследователями, которые утверждают, что кажущиеся случаи кортикального ремаппинга (особенно после травм мозга) являются иллюзией и лишь отражают более активное использование уже существующих, скрытых возможностей в соседних областях коры; Т. Р. Макин и Кракауэр 2023
↩
. Действительно, вероятно, что кортикальные карты с четко определенными границами несколько иллюзорны. Однако, на мой взгляд, доказательства — как из нейробиологии, так и из машинного обучения, где одна и та же архитектура нейронной сети может научиться обрабатывать очень разные входные данные — предполагают, что кортикальный ремаппинг реален и объясняет, как он может происходить без необходимости радикально изменять архитектуру или алгоритм обучения.
Коларик и др. 2014
↩
.
Шебат, Шнайдер и Птио 2020
↩
.
Годфри-Смит 2016
↩
.
Обнаружены исключительные места, где группы осьминогов живут вместе; Шил и др. 2017
↩
.
Осьминоги также существуют уже долгое время, и у нас нет способа узнать, каковы могли быть их социальные поведения сто миллионов лет назад.

Возможно, их интеллект развивался в то время, когда они были добрее друг к другу.
Миелинизация — это то, что придаёт нашим длинным нервным волокнам белесый оттенок; отсюда и «серое вещество» коры головного мозга, где связь в основном локальная, и «белое вещество» внутренней части мозга, состоящее в основном из проводников.
Поскольку его огромный размер делает его удобным для работы в лаборатории, гигантский аксон кальмара сыграл ключевую роль в экспериментах середины века, которые установили биофизику потенциала действия.
Sivitilli и Gire 2019
↩
.
Crook и Walters 2014
↩
.
Так как клюв является единственной жесткой частью осьминога, он может протискиваться через крошечные отверстия или трещины — по anecdotal evidence, практически в любое пространство, достаточно большое, чтобы в него могло пройти одно из его глазных яблок; Godfrey-Smith 2016
↩
.
Kuuspalu, Cody и Hale 2022
↩
.
Budelmann 1998
↩
.
S. L. Bush 2012
↩
.
D. J. Brown 2013
↩
.
Хотя вера Декарта, вероятно, была искренней, инстинкт самосохранения, безусловно, также сыграл свою роль. Как мы увидим, чрезмерное увлечение механической философией, даже через столетие, было опасным.
Galen 1968
↩
.
Descartes 1677
↩
.
Dennett 2017a; Susan Schneider 2021; Chalmers 2022
↩
,
↩
,
↩
Bailey 2003; Dennett 2009; Frankish и др. 2017
↩
,
↩
,
↩
.
S. Harris 2012; Sapolsky 2023
↩
,
↩
.
Столы и стулья, похоже, чаще всего упоминаются философами, когда речь заходит о «реальности», вероятно, потому что они так повсеместны в мире философа.
Множество миров