Глава 7: Агенты и цели

Мы сами

Блок-схема В старомодном представлении о мозге, изображенном в виде блок-схемы, блоки по краям могут иметь такие названия, как «зрительная кора», «слуховая кора», «двигательная кора» и так далее. Предполагается, что они работают как периферийные устройства компьютера, выполняя специализированную обработку для своей конкретной модальности. (Роботы, как правило, тоже строятся по такому принципу.)

Нейронные сигналы, вероятно, будут двигаться в очевидном направлении: внутрь для сенсорных модальностей, наружу для моторных. Сверточные нейронные сети, дизайн которых был непосредственно вдохновлен зрительной корой, соответствуют этому представлению. Они полностью прямопоточные, что означает, что их соединения работают в одном направлении — от «сетчатого» входного слоя к семантически значимому выходу в слое встраивания.

Эти семантические встраивания, в свою очередь, кажутся подходящим типом входа для... чего?

Что-то должно находиться в центре, принимая обработанный сенсорный ввод, принимая решения и генерируя команды высокого уровня; мы можем назвать это Центральным Процессором, хотя обычно его называют чем-то вроде «ассоциативной коры». Трудно взглянуть на этот блок на схеме и не подумать о «гомункуле». Ведь именно там живет «вы». Перцептрон, который просто преобразует пиксели в встраивания, не кажется многообещающим местом на схеме для расположения чего-то, что можно было бы назвать «я».

Тем не менее, как подразумевает перспектива, ориентированная на моторные функции, изложенная в главе 4, почти все в этой блок-схеме и ее парадигме обработки информации может быть неверным. Во-первых, я утверждал, что гомункула нет. Если бы он существовал, его отключение, безусловно, выключило бы свет. Вместо этого, когда значительная часть несенсорной «ассоциативной коры» в лобных долях разрушается или отключается от остальной части мозга — как это произошло с многими жертвами безумия лоботомии середины двадцатого века — эффекты могут быть тревожно тонкими, так же как и у пациентов с разделенным мозгом.

Следует подчеркнуть, что могут быть.

Детали процедуры и характер, а также степень последующего повреждения мозга значительно варьировались. Некоторые жертвы этой жестокой медицинской моды погибли сразу от массивного церебрального кровоизлияния или стали глубоко инвалидами. Например, после лоботомии в 1941 году Розмари Кеннеди, сестра президента Джона Ф. Кеннеди, осталась неспособной ходить, говорить внятно или пользоваться туалетом; ей требовался постоянный уход на протяжении всей оставшейся жизни.

Тем не менее, в 1942 году звездные нейрохирурги Уолтер Фриман и Джеймс Уоттс заявили, что из двухсот лоботомий, проведенных на тот момент, шестьдесят три процента пациентов «улучшились», двадцать три процента остались «без изменений», и только четырнадцать процентов стали «хуже». Розмари Кеннеди была одной из этих двухсот и, вероятно, была отнесена к категории «хуже». Хотя к любым оценкам того, что считалось «улучшением», следует относиться с недоверием, такие цифры ясно показывают, что большинство лоботомированных пациентов не оказались в таком состоянии, как она. Что же, тогда, задавались вопросом Фриман и Уоттс, на самом деле делают лобные доли?

▶ Сцена из фильма 1944 года, восхваляющего достоинства префронтальной лоботомии для лечения шизофрении

«Неврологические проявления после префронтальной лоботомии удивительно незначительны, и старые представления о лобных долях как о связанных с высшей интеграцией движений пришлось пересмотреть. […] Психиатр должен самостоятельно обдумать эти проблемы и определить, какой вклад в нормальное социальное существование вносят лобные доли […]».

Еще одна загадка: как описано в главе 5, кора мозга обладает высокой модульностью. В частности, хотя между сенсорной и моторной корой существуют тонкие различия, их структура и соединения удивительно похожи. Обе области доминируют за счет рекуррентных связей, или обратной связи — отголоски кибернетики Винера. Это кажется особенно странным для сенсорных областей. Перцептроны полностью основаны на прямой связи, и они действительно, похоже, захватывают что-то из происходящего в зрительной коре.

«Рецептивные поля» единиц на ранних этапах свёрточной нейронной сети (то есть визуальные паттерны, к которым эти модельные нейроны наиболее чувствительны) поразительно напоминают рецептивные поля реальных нейронов на начальных этапах визуальной системы. Разреженные, семантически значимые встраивания на последних слоях перцептронов также схожи с паттернами активации, зарегистрированными у нейронов более высокого уровня.

Подобные наблюдения привели к дебатам между нейробиологами и исследователями в области ИИ. Некоторые (особенно со стороны ИИ) подчеркивают функциональные сходства между мозгами и глубоким обучением. Нейробиологи, временами раздраженные расплывчатостью этих параллелей, указывают на несоответствия, включая:

Реальные нейроны общаются с помощью спайковых потенциалов действия, а не непрерывных значений искусственных нейронных сетей.
Нейроны и синапсы значительно сложнее, чем их карикатурные версии в глубоких сетях.
Алгоритм обратного распространения ошибки, используемый для обучения перцептронов, не является биологически правдоподобным.
Глубокое обучение, верное своему названию, часто опирается на десятки или даже сотни слоев, в то время как в мозге всего несколько слоев. Мозги были бы бесполезны, если бы визуальные стимулы должны были проходить через так много корковых слоев, поскольку нейроны и синапсы относительно медлительны по сравнению с компьютерами; в реальной жизни часто просто нет времени, чтобы сенсорный ввод прошел через несколько синапсов, прежде чем он должен стать моторным выходом, вызывающим поведенческую реакцию. И, конечно,
Визуальная кора, как и вся кора, доминирует за счет обратных связей, в то время как перцептроны полностью основаны на прямой передаче информации.

Аргументы обменивались с обеих сторон. Некоторые из возражений, выдвинутых нейробиологами, легко опровергнуть. Например, универсальные теоремы аппроксимации функций, упомянутые в главе 3, доказывают, что, в принципе, сети сложных спайковых нейронов могут быть аппроксимированы (более крупными) сетями сильно упрощенных модельных нейронов.

Исследователи также разработали версии обратного распространения ошибки и связанных с ним правил обучения, которые более правдоподобны с биологической точки зрения. Хотя мы еще не полностью понимаем нейробиологию, существуют доказательства таких правил обучения в мозге.

В 2018 году исследователи в области машинного обучения обнаружили, что свёрточные нейронные сети можно надежно обмануть, заставив их делать странные ошибки классификации с помощью «враждебных стимулов», что многие тогда считали убедительным доказательством того, что глубокое обучение не имеет ничего общего с биологическим зрением.

Однако противоречивые результаты 2022 года показали, что визуальная система приматов может быть обманута точно так же и в той же степени!

Таким образом, дебаты продолжаются.

Очевидно, что поверхностность зрительной коры и её высокая рекуррентная связь не могут быть обойдены — в этом отношении мозг явно не похож на свёрточную нейронную сеть (CNN). Структурно зрительная кора — на самом деле, вся кора — больше напоминает «рекуррентную нейронную сеть» (RNN).

Рекурсия

Как следует из названия, рекуррентные нейронные сети имеют как прямые, так и обратные связи. Более формально, это означает, что нейроны принимают входные данные не только от других нейронов в пространстве (т.е. из предыдущего слоя), но и во времени. То есть выход нейрона в момент времени t становится входом для нейронов в момент времени t + 1; веса, связанные с этими входами, определяют рекуррентную часть связности сети.

Архитектура рекуррентной нейронной сети, показанная справа «развернутой» по временным шагам t – 1, t, t + 1, ...

Имейте в виду, что прямые искусственные нейронные сети по определению не имеют ни времени, ни памяти. Когда они оценивают входные данные, они делают это независимо от любых других входов; временная переменная не участвует. Вводя время, RNN расширяют нейронные вычисления в динамическую область. Это более реалистично, поскольку любая физическая система (включая мозг) разворачивается во времени.

Входной вес, связывающий каждый нейрон с его активацией на предыдущем временном шаге, реализует механизм памяти в его самой простой форме: степень устойчивости нейронной активности. Рекуррентные сети являются обобщением прямых сетей, поскольку любую прямую сеть, такую как CNN, можно реализовать как рекуррентную сеть. Чтобы понять, как это работает, представьте, что вы заменяете «пространственные» прямые связи CNN на эквивалентные обратные связи. CNN с сотней слоев превратится в эквивалентную RNN, которая работает в течение ста временных шагов.

С этой точки зрения высокая доля рекуррентных связей в зрительной коре может показаться менее удивительной; эти рекуррентные цепи могут реализовывать что-то вроде глубокого обучения, но делая это во времени, а не в пространстве. На самом деле, поскольку любой вид последовательной нейронной обработки должен происходить во времени, простая переработка, о которой здесь идет речь, сводится к не более чем играм с обозначениями.

Но как насчет времени реакции? Вам, например, как высоко визуальному жертвенному животному, вряд ли будет полезно воспринимать мир с задержкой в сто временных шагов. В момент t=0 тигр может только начинать появляться из-за кустов. В момент t=8 он может заметить вас. В момент t=16 он может напрячься, готовясь к прыжку. А в момент t=80 вы уже можете оказаться в его пасти, так что t=100 не будет!

Нет проблем. Даже когда глубокие свёрточные сети оптимизируются исключительно для точности, исследователи обнаружили, что полезно добавлять «пропускные соединения» к стандартному последовательному потоку информации, позволяя некоторым активациям обходить слои. Более того, хотя углубление прямой архитектуры является способом улучшения производительности задачи, «ранние выходы» могут быть использованы, если дополнительная точность не требуется — или если важна скорость реакции.

После всего лишь нескольких слоев CNN или временных шагов RNN сеть может сделать разумное предположение о том, есть ли кошка на изображении.

Поскольку точность сети на данном этапе оставляет желать лучшего, её можно настроить так, чтобы она предпочитала ложные срабатывания ложным отрицаниям и сразу же инициировала своевременное оповещение. Именно так мы действуем в случае с ярко выраженными стимулами; отсюда и двойное восприятие. (Что это, кошка?)

Несколько дополнительных слоёв или временных шагов могут точно определить, является ли речь о маленьком Felis domesticus или потенциально хищном Panthera tigris . (Фух! Это всего лишь домашняя кошка.) Может потребоваться десятки дополнительных слоёв или временных шагов, чтобы уточнить породу, угадать цвет глаз, установить её настроение и вероятное состояние ума; но в рекуррентной модели мы бы сказали: «при более внимательном рассмотрении…». Таким образом, рекуррентные сети могут обеспечивать как быстрые реакции, так и многослойную точность CNN, действуя динамически, а не как статические функции.

Этот динамический аспект — суть дела. Визуальный мир не является последовательностью некоррелированных неподвижных изображений, а зрительная кора не представляет собой абстрактную, вне времени математическую функцию. В постоянно меняющемся и временно коррелированном мире, где действия (включая перцептивные действия, такие как саккады) определяют то, что мы видим, высоко рекуррентные архитектуры ожидаемы, а классификацию лучше рассматривать как непрерывное предсказание.

Оценка функции, подобной CNN, с нуля для каждого визуального кадра была бы безумием; во-первых, это было бы вычислительно неэффективно, поскольку, большую часть времени, каждый кадр почти идентичен предыдущему. Более того, независимая обработка кадра за кадром не смогла бы воссоздать визуальный мир таким, каков он есть на самом деле. Построение и поддержание «контролируемой галлюцинации», описанной в главе 4 , требует интеграции информации на протяжении многих кадров. А это значит, что нужна память. Это, почти по определению, работа для рекуррентной сети с постоянным состоянием.

▶ Демонстрации отслеживания взгляда Portia из лаборатории доктора Элизабет М.

Яков, UMass Amherst
Представьте, как может работать визуальная система паука рода Portia. Из-за очень узкого поля зрения его высокоразрешающих глаз, смотрящих вперед, использование CNN, работающего по кадрам, было бы практически бесполезным; для Portia понимание визуальной сцены требует динамичного движения глаз и реконструкции модели мира с течением времени — не так уж и отличаясь от того, как слепой человек может "увидеть" лицо другого человека на ощупь, используя кончики пальцев, хотя в случае Portia это было бы скорее похоже на один единственный кончик пальца. Крупные хищники, такие как птицы, лягушки и богомолы, представляют собой настоящую угрозу для пауков Portia, по-видимому, потому что они слишком большие, чтобы их можно было распознать вовремя!
Люди могут видеть больше одновременно, чем Portia, но не так уж и много, как нам кажется. Если бы мы испытали наш визуальный поток в более сыром, менее "галлюциногенном" виде, он выглядел бы как дрожащие, зернистые кадры из ужасов, подобных "Ведьме из Блэр", с лучом фонарика, который спазматически прыгает, освещая то ветку дерева здесь, то кусочек лица там, угол сарая, что-то темное на земле. Этот троп ужасов вызывает у вас перцептивную клаустрофобию, ощущение, что, куда бы вы ни смотрели, важные события происходят за пределами экрана — сбоку, сверху или за спиной. Как и в случае с Portia, которую преследует гигантский богомол, нам бы хотелось отдалиться и увидеть, что же на самом деле происходит!
▶ Из "Ведьмы из Блэр", 1999
Если вы обычно не испытываете это чувство постоянной паники, связанное с "Ведьмой из Блэр" — и, дорогой читатель, я надеюсь, что это так — это не потому, что вы видите гораздо больше одновременно. Это потому, что ваша контролируемая галлюцинация достаточно хороша, чтобы заставить вас чувствовать, что вы действительно видите все, что происходит "за пределами экрана", хотя на самом деле не можете. То есть, вы уверены, что ваша постоянно обновляемая предсказательная модель точно отражает каждую значимую для поведения особенность вашей окружающей среды, далеко за пределами узкого конуса этого дрожащего луча фонарика.

Копия Эфферента Предсказание лежит в основе интеллекта на каждом уровне. Согласно главе 2, даже одиночные клетки, такие как бактерии, должны предсказывать последовательности событий, как внутренних, так и внешних, чтобы выжить. Появляющиеся доказательства также указывают на то, что это то, что делают одиночные нейроны; их правила синаптического обучения, похоже, приводят к локальному предсказанию последовательностей.

Кора головного мозга также, похоже, реализует моделирование предсказательных последовательностей. Это может объяснить высокую рекуррентную архитектуру коры, будь то в перцептивных, моторных или так называемых «ассоциативных» областях: поскольку последовательности разворачиваются во времени, любой предсказатель последовательностей также должен функционировать во времени, что требует обратных связей.

В визуальных (и других перцептивных) областях предсказание последовательностей также будет включать распознавание иерархий все более инвариантных признаков, таких как те, что используются в сверточных нейронных сетях, обученных с помощью подхода маскированного автоэнкодера. Это связано с тем, что инвариантные признаки можно рассматривать как предсказания. Если вы понимаете, что смотрите на банан, например, вы можете предсказать, что он останется бананом в будущем, даже если он вращается, вы приближаетесь к нему или отдаляетесь, или если вы отворачиваетесь и затем снова смотрите на него.

Теперь представьте, что происходит, когда несколько областей мозга соединены, запутаны в взаимном предсказании. На самом деле, мы уже это сделали. Несколько областей мозга участвуют в движении глаз, но давайте проигнорируем анатомические детали и представим, что единственный «моторный регион глаза» отправляет сигналы к маленьким, быстро действующим мышцам, которые нацеливают глаза.

Сначала рассмотрим моторный регион в изоляции. Чтобы выполнить собственную предсказательную обработку, ему нужно будет освоить основы управления движением глаз: как отправлять сигналы мышцам, которые приводят к предсказуемым реакциям рецепторов растяжения в этих мышцах. Три угловые переменные определяют положение каждого глаза, но шесть мышц контролируют движение, и множество отдельных нервных волокон иннервируют каждую из них.

Наша программа развития обеспечивает базовую маршрутизацию, так что соответствующие сенсорные и моторные сигналы подключаются к нейронам в нужных общих областях. Тем не менее, обучение контролю глазодвигательных функций — задача не из легких. Когда сенсомоторный контур не настроен идеально, это может проявляться в виде «ленивого глаза» или колеблющегося паттерна, известного как «нистагм». Винер бы распознал это как симптомы чрезмерной или недостаточной отрицательной обратной связи; последнее похоже на тремор намерения.

▶ Нистагм

Тем временем зрительная кора будет пытаться предсказать, какие образы увидят сетчатки в любой момент времени. В служении этой предсказательной функции она реконструирует целый трехмерный мир. Это кажется гораздо более возвышенным, чем то, что, как предполагается, делает область глазодвигательных функций, и мы можем быть искушены вернуться к ошибке гомункулуса, но теперь с другой стороны: представить, что зрительная кора — это «начальник» или «центральный процессор», который отдает команды области глазодвигательных функций, указывая, куда смотреть дальше, рассматривая её как простую «периферию».

Но, так сказать, «обувь» на обеих «ногах». Область глазодвигательных функций может и действительно двигает глазами по своему усмотрению, возможно, в ответ на вестибулярный сигнал, звук, прикосновение или что-то еще. Она может даже делать это в ответ на ничто . В конце концов, мы постоянно принимаем решения по своим собственным причинам, то есть не как немедленные реакции на внешние стимулы. Помните, что в распределенной модели «я» эти решения могут инициироваться практически любой областью мозга.

Все области вашего мозга — это «вы».

Таким образом, коммуникация между зрительной корой и областью глазодвигательных функций не просто состоит из однонаправленного потока координат взгляда, отправляемого из одной области в другую. Это двусторонний диалог, который передает (в сжатом виде) наиболее полезные аспекты состояния каждой области другой.

Под «наиболее полезными» я имею в виду наиболее способствующими предсказанию будущего для принимающей области.

В общем, вместо того чтобы представлять, что область A отправляет «команды» области B, лучше вообразить, что в области B находятся «сенсорные» нейроны из области A, которые стремятся выявить наиболее важную информацию для формирования собственных прогнозов. Таким образом, зрительная кора будет стремиться учиться у моторной области глаз о движениях глаз, когда они происходят, поскольку это поможет предсказать, что зрительная кора «ожидает» увидеть дальше. Моторная область глаз, в свою очередь, будет хотеть узнать от зрительной коры, где находятся самые интересные места в окружающей среде, потому что знание этих мест поможет предсказать, куда глаза будут смотреть дальше. Эти области сотрудничают, чтобы лучше предсказывать себя и, в процессе, лучше предсказывать друг друга. Да, это звучит довольно похоже на теорию разума — но реализуется между областями мозга!

Эта картина делает контринтуитивный экспериментальный прогноз: сигналы, указывающие на движение, на самом деле будут отправляться из моторных областей в другие части мозга, а не наоборот. И это действительно так: это называется «копия эфферента».

В середине девятнадцатого века пионер немецкой физики и протоневролог Герман фон Гельмгольц впервые предположил, что нечто подобное копии эфферента должно существовать. Он заметил, что если закрыть один глаз, а затем аккуратно надавить на другой глаз (но, пожалуйста, делайте это через веко и осторожно — не причиняйте себе вреда, а потом не вините меня), вы увидите, как мир начинает двигаться. Это интересно, потому что когда вы двигаете глазным яблоком обычным способом, мир кажется совершенно неподвижным, хотя изображения, которые видят ваши глаза, совсем не стабильны. Следовательно, зрительная система должна выполнять нечто вроде отмены самодвижения, и для этого ей нужен чрезвычайно точный сигнал о движении глаз в реальном времени — копия эфферента. Гельмгольц рассудил, что когда вы нажимаете на глазное яблоко, нет копии эфферента от глазных мышц, соответствующей этому смещению, поэтому обычная «отмена движения» зрительной системы не компенсирует его.

Механическая модель управления глазами из Трактата о физиологической оптике Гельмгольца
Гельмгольц был прав, но в 1900 году сэр Чарльз Шеррингтон, выдающийся нейробиолог, впоследствии удостоенный Нобелевской премии, усомнился в идее эфферентной копии, что привело к её забвению на многие десятилетия.
Проведя значительную часть своей карьеры, исследуя рефлексы спинного мозга, Шеррингтон не обнаружил в сенсомоторных путях ничего, что напоминало бы эфферентную копию — только стимул, реакцию и обратную связь от рецепторов растяжения в мышцах.
Однако позже, в двадцатом веке, с развитием технологий нейронной записи, многочисленные исследования подтвердили, что эфферентные копии действительно существуют и повсеместны — не только для движений глаз, но и для всей моторной активности, и у разных видов.
Но почему это называется «копией»? Возможно, потому что ошибка гомункулов умирает неохотно; мы продолжаем представлять, что моторные области получают «команды» на движение сверху, а затем (в некотором роде озадаченно) отправляют «дубликаты» этих «команд» обратно к отправителю — предположительно, к «вам». На самом деле, ваши моторные области так же «вы», как и любая другая часть вашего мозга, и хотя сигналы, идущие к моторным регионам, безусловно, несут информацию о будущих движениях, представление о них как о «командах» и о сигналах, идущих в обратном направлении, как о «копиях» этих команд упускает суть.
В случае движения глаз ошибку может быть легко совершить, потому что глаза действительно обычно смотрят на то, что наиболее интересно, но это не делает моторные области подчинёнными зрительной коре и не меняет того факта, что моторная область и зрительная кора делают одно и то же: предсказывают.
Феноменальность
Если вы ещё не уверены, что мозг служит мышцам не меньше, чем наоборот, подумайте о значении термина «поведенчески значимый», который я использовал для описания того, что находится в нашем умвельте, то есть того, что мы воспринимаем и что нам важно.

Поведенчески значимое означает значимое для мышц! Если мы не можем на это воздействовать, это не имеет значения. И для существ, подобных нам, так же как и для ранних двусторонних организмов, таких как аколея, все действия основаны на мышцах.

Безусловно, долгий эволюционный путь ведет от червей к людям... но это непрерывный путь. Наши тела по-прежнему, в значительной степени, автономные сущности, удивительно независимые от наших более недавно эволюционировавших мозгов. Помните, если поддерживать жизнь, наши сердца будут продолжать биться даже после удаления из тела, как это выяснил Индиана Джонс в Храме Судьбы. Как внутренний червь, наш кишечник продолжает функционировать под преимущественно местным контролем, а децентрализованная "автономная" нервная система выполняет первоначальные функции долгосрочной мышечной координации.

Наши кровеносные сосуды тоже состоят из мышц и регулируют поток питательных веществ в каждую область тела. Говоря прямо, они решают, кто будет есть и когда. Поскольку мозг крайне жаден до энергии, регулирование в этой области особенно тонкое: отдельные капилляры, питающие менее кубического миллиметра мозговой ткани, расширяются и сжимаются каждую секунду. Этот дифференциальный поток оксигенированной крови — это сигнал, который измеряется с помощью функциональной магнитно-резонансной томографии (фМРТ), одного из наших самых важных инструментов для картирования активности мозга.

Мозг, в свою очередь, состоит из множества систем, наложенных друг на друга, повторяющих одну и ту же широкую функциональную схему: более новые или "высшие" уровни обеспечивают поведенчески значимое долгосрочное предсказание и тем самым тянут достаточно тяжести, чтобы оправдать свое существование, но при этом дополняют в значительной степени автономную основную архитектуру.

Гидранцефалия — редкое расстройство, при котором дети рождаются без коры головного мозга. Это состояние предлагает удивительное понимание того, насколько человеческое поведение может быть независимым от этих «высших» областей мозга: «Эти дети не только бодрствуют и часто находятся в состоянии alert, но и проявляют реакцию на окружающую среду в виде эмоциональных или ориентировочных реакций на события, происходящие вокруг них […], чаще всего на звуки, но также и на яркие визуальные стимулы […]. Они выражают удовольствие, улыбаясь и смеясь, а отвращение — капризами, выгибанием спины и плачем […], их лица оживляются этими эмоциональными состояниями. Знакомый взрослый может использовать эту реакцию, чтобы создавать игровые последовательности […], начиная с улыбок, переходя к хихиканью, а затем к смеху и большому восторгу со стороны ребенка.»

Ребенок с гидранцефалией; свет проникает через голову, revealing the absence of much of the brain.

Эта цитата взята из статьи, утверждающей, что сознание может быть возможным и без коры головного мозга — что, безусловно, открывает ящик Пандоры для философов, придерживающихся (антропоцентрической) точки зрения, что сознание требует большого мозга. Мы легче всего можем распознать, как выглядит улыбка, смех и капризы у другого человека, но у меня нет сомнений, что сознание в этом чисто опытном смысле далеко не уникально для нашего вида.

Сознание в более сложном, «странном контуре», описанном в главе 6, включает в себя способность моделировать себя рекурсивно, что выходит далеко за пределы способности воспринимать текущие ощущения и эмоции. Именно это дает нам более высокий уровень теории разума, самоанализ, способность к свободной воле и осознанному выбору, планированию и (насколько можно сказать, что мы обладаем этим) «рациональности». Все это, вероятно, требует коры головного мозга или ее функционального эквивалента.

Оба смысла слова «сознание», описанные выше, заставляют нас снова обратиться к старой проблеме — философскому зомби.

Помните, что сознание в форме «странной петли» предоставляет нам эволюционные преимущества как на индивидуальном, так и на социальном уровне. Оно позволяет нам лучше планировать, понимать других, обучать и учиться, делить труд и многое другое. Все эти преимущества проявляются в нашем поведении; иначе они не могли бы повлиять на наши шансы на выживание, и, следовательно, не было бы эволюционного давления на развитие этой способности.

Поскольку сознание в форме «странной петли» проявляется в поведении, его можно исследовать экспериментально — например, с помощью теста Салли и Анны. Также можно разработать версии теста, основанные на путешествиях во времени и контрфактах, а не на третьих лицах, что потребует от вас способности моделировать, что вы знали бы или делали бы в различных гипотетических обстоятельствах. Умение моделировать себя и других, другими словами, является навыком, прежде всего. Неудивительно, что, будучи социальными существами, мы его развили.

Но что насчет невыразимого, опытного аспекта сознания, или того, что философы любят называть «феноменальным сознанием»? Является ли это всего лишь более простой формой опыта (включая боль, голод и так далее), которой, как кажется, обладают все живые существа, и на то есть веские причины, как описано в главе 2? Является ли это чем-то большим, чем эти первобытные чувства, требующим более сложного моделирования? Если да, может ли навык моделирования себя (и других) существовать без реального ощущения быть «я»?

Некоторые философы задаются вопросом о зомби-состоянии, потому что у каждого из нас есть ощущение, каково это — быть собой. Это ощущение совершенно недоступно извне, не обязательно проявляется в поведении и, следовательно, не может быть протестировано никакими средствами. Синдром запертого человека, при котором повреждение мозга вызывает почти полную или полную парализацию, ужасно иллюстрирует, как сознание и поведение могут быть разъединены.

Люди с синдромом запертого человека полностью осознают свое состояние, но если их паралич тотален (и отсутствуют технологии записи мозговой активности), они не могут ни общаться, ни вести себя добровольно. Философский зомби, напротив, способен демонстрировать убедительное поведение, но при этом не имеет внутреннего осознания — и для нас, находящихся снаружи, нет способа это определить.

▶ Интерфейс «мозг-компьютер», разработанный для пациентов с синдромом запертого человека в Центре биоинженерии и нейроинженерии Висс в Женеве.

Знание о том, находится ли кто-то в состоянии запертого человека или же полностью отсутствует, имеет огромное значение для нашего поведения. Например, во время серьезной операции мы предполагаем, что общий наркоз отключает сознание пациента; поэтому, если хирург хочет слушать «Comfortably Numb» во время операции, нет необходимости заранее проверять, нравится ли пациенту Pink Floyd. С другой стороны, повторяющееся воспроизведение этой песни в комнате с пациентом, который ненавидит Pink Floyd, было бы настоящей пыткой.

Наше понимание того, есть ли кто-то «здесь» и когда это происходит, со временем изменилось. Раньше было обычным делом обрезать младенцам мальчикам без анестезии, исходя из теории, что новорожденные не могут испытывать боль. Большинство из нас сегодня считает это варварством, но правда в том, что ни один взрослый не имеет непосредственного опыта того, что могут или не могут испытывать новорожденные, поскольку мы не можем помнить ничего из того времени.

Очевидно, что если мы верим в существование философского зомби, это также будет иметь значение для нашего поведения, поскольку это подразумевает другой стандарт ухода. Николас Хамфри считает, что феноменальное сознание на самом деле требует модели самого себя, поэтому для него очевидные признаки счастья или дискомфорта, проявляемые детьми с гидроцефалией, представляют собой своего рода зомби. Это напоминает взгляды Декарта на животных, хотя, по мнению Хамфри, граница проходит не между людьми и всем остальным, а между теплокровными социальными животными — птицами и млекопитающими — и остальным миром.

Я полагаю, он бы сказал, что у вашего домашнего хомячка есть душа, а у вашей игуаны — нет. Это различие может иметь определённую ценность. Например, в ситуации людей с неизлечимыми заболеваниями или узников концентрационных лагерей мы различаем боль и страдание. Боль сравнительно легко понять, хотя её трудно выразить словами; это то, о чём мы говорим, когда говорим, что что-то болит, и подразумеваем это буквально.

Страдание, с другой стороны, включает в себя ужас ожидания будущей боли, страшных социальных последствий, переживания стыда или утраты. Оно может сопровождаться болью и углублять её — например, осознание того, что резкое жжение в глазах после производственной травмы может предвещать постоянную слепоту. Или же оно может не сопровождаться физической болью, как в случае, когда вы читаете сообщение о смерти любимого человека.

Эти более сложные переживания явно требуют различных форм и степеней самосознания, путешествий во времени, контрфактического анализа и теории других умов. Даже возможно, что такое высокоуровневое восприятие может затмить первичное ощущение боли, как это происходит, когда боль сексуализируется для людей, увлекающихся БДСМ, или когда мы проявляем стойкость, едим острую пищу или выдавливаем прыщ.

Тем не менее, хотя различие между болью и страданием имеет смысл, мне далеко не очевидно, что это различие является чётким или бинарным. Вспомните, в главе 2, строителя, у которого гвоздь прошёл сквозь ботинок, страдающего, несмотря на то, что он не был повреждён, в отличие от человека, который неделю ходил, не замечая, как четырёхдюймовый гвоздь проникает в его мозг. Или подумайте о том, как горе может ощущаться как физическая боль.

В 1970-х годах зоолог и защитник прав людей с аутизмом Темпл Грандин начала переработку убойных комплексов для скота, чтобы минимизировать страдания животных, основывая свои проекты как на интуиции (то есть на высокочувствительной теории разума), так и на количественном измерении стрессовых поведений.

Крупный рогатый скот — это млекопитающие, не так уж отличающиеся от людей, поэтому Хамфри, Грандин и, вероятно, большинство из нас сегодня согласились бы с тем, что они могут испытывать как боль, так и, по крайней мере, некоторую степень страдания. Однако мы также знаем, что они не способны к такому высокому уровню теории разума или столь сложной модели мира, как люди.

Дизайн коровьего прохода от Темпл Грандин

Таким образом, когда защитники прав животных сравнивают условия содержания скота с концентрационными лагерями, они лишь отчасти правы; это сравнение антропоморфно. На самом деле, чтобы Грандин могла эффективно проявлять сострадание в своих проектах, ей необходимо преодолеть это антропоморфное восприятие и создать нечто более близкое к реальному опыту и саморефлексии коровы, а не думать о ней так, как о человеческом заключенном. Страдания коровы могут быть интенсивными, если она слышит и видит другую корову, испытывающую боль, но, вероятно, её не так беспокоит экзистенциальный страх, что каждый новый день может стать для неё последним.

Я менее уверен в том, что мы можем точно оценить внутреннюю жизнь игуаны. Можно с уверенностью сказать, что её способность к моделированию значительно ниже, чем у коровы, но утверждать, как это делает Хамфри, что у неё нет модели самого себя, кажется натяжкой. Игуаны охотятся, спариваются и иногда сражаются с другими игуанами за территорию, ресурсы или самок. Взрослый самец будет агрессивно относиться к другим взрослым самцам, но не к самкам или молодым особям.

Мы можем утверждать, что эти поведения «инстинктивные», но не имеет значения, была ли нейронная схема усвоена в течение жизни животного или закодирована генетически (то есть усвоена в процессе эволюции). Суть в том, что ментализация, будь то усвоенная или инстинктивная, возникает именно для поддержки таких поведений. Поэтому, хотя я сомневаюсь, что игуана много думает о следующей неделе или задаётся вопросом, не портит ли застрявшая еда на её подбородке её внешний вид, мне странно утверждать, что она не может испытывать боль, голод или угнетённое чувство, когда её социальный статус под угрозой из-за незваного гостя.

Слепота восприятия
Может показаться странным, что Хамфри отрицает возможность того, что игуаны могут испытывать какие-либо ощущения (или вообще какие-либо переживания), учитывая его основополагающую роль в формулировании гипотезы социальной интеллигентности. Почему он придерживается такого исключительного мнения? Как оказывается, его рассуждения во многом связаны с другим его достижением: открытием, сделанным в начале его карьеры, — «слепоты восприятия».

Хамфри начал свои исследования для получения степени PhD в лаборатории Лоренса Уайскранца в Кембридже в 1964 году. Как и Хубел с Уизелем по ту сторону Атлантики, Уайскранц изучал зрение. Он разработал особенно радикальную операцию, заключающуюся в полном удалении зрительной коры у обезьяны, чтобы подтвердить, казалось бы, очевидное: обезьяна без зрительной коры будет совершенно слепа.

Сначала это действительно так и казалось. В процессе работы над диссертацией, когда Уайскранц уехал на конференцию, Хамфри начал работать с Хелен, макакой, у которой зрительная кора была удалена полтора года назад. На протяжении этого долгого времени Хелен не проявляла никаких признаков способности видеть, кроме примитивной способности различать свет и тьму — словно каждая сетчатка была сведена к одному гигантскому пикселю или «ведру света».

Схема кортикальных и подкорковых зрительных путей у макак, из работы Хамфри 1972 года.

Тем не менее, у Хамфри были основания сомневаться, что это вся история. Как оказалось, существует гораздо более древний зрительный путь, также присутствующий у рыб и лягушек (которые не имеют коры), который проходит от глаз к «оптическому тектиуму» в среднем мозге. Хамфри записывал активность визуально чувствительных нейронов в среднем мозге обезьяны и обнаружил, что у них есть локализованные рецептивные поля, не так уж отличающиеся от нейронов, которые Хубел и Уизель записывали в зрительной коре кошки. Могла ли Хелен научиться использовать этот более старый, всё ещё целый путь, чтобы снова видеть?

Ответ, похоже, был одновременно и да, и нет. Несмотря на то что она казалась функционально слепой, Хелен часто, «вопреки себе, [...] смотрела в правильном направлении».

С вкусными угощениями и большим терпением (он работал с ней семь лет!) Хамфри научил её вновь справляться с множеством визуальных задач, включая передвижение по новым местам, лазание по деревьям, нахождение и подъем мелких предметов — короче говоря, именно те задачи, которые способствовали эволюции зрения приматов.

▶ Хелен, макака с «слепым зрением», снятая на видео во время выполнения визуальных задач в лаборатории Николаса Хамфри в 1960-х годах.

Тем не менее, Хамфри продолжал ощущать, что что-то странное в том, как она выполняла эти задачи. Казалось, она не осознает, что может их выполнять, и ей нужно расслабиться, чтобы позволить себе справляться с ними. Под давлением, когда в лабораторию приходил уважаемый гость, желавший увидеть демонстрацию, она замирала и снова казалась неспособной видеть, как будто, слишком задумываясь, всё еще верила, что она слепа.

Хамфри изложил эти наблюдения в статье 1972 года под названием «Зрение и Ничто», предсказывая, что подобное может происходить и у людей в схожих обстоятельствах.

Кстати, мне кажется удивительным, что Хамфри смог сделать такие выводы о субъективном опыте Хелен, несмотря на барьер между видами, отсутствие общего языка и глубоко контринтуитивную природу того, что он описывал. Как и в работе Темпл Грандин, это замечательный пример теории разума между видами.

Теория оказалась верной. Два года спустя, в 1974 году, Уайскранц получил возможность изучить пациента человека, известного как Д. Б., у которого была удалена правая зрительная кора для лечения невыносимых головных болей. Результатом этого вмешательства стало полное слепое пятно в левом зрительном поле, как и следовало ожидать. Однако Уайскранц настоял на том, чтобы Д. Б. всё же попытался выполнять задачи, связанные с левым зрительным полем, так же, как Хамфри подбадривал Хелен, начиная с указания на источник света, затем угадывая форму и цвет предмета и так далее.

К собственному удивлению пациента, он обнаружил, что может выполнять эти действия с надежной регулярностью, если позволит себе это, хотя они казались ему случайными догадками. Вейскранц назвал этот странный феномен «слепым зрением», а в оттиске, который он отправил Хамфри с объявлением о своем открытии, написал: «ХЕЛЕН ОПРАВДАНА».

С тех пор пациенты с слепым зрением продемонстрировали, что могут выполнять множество задач, связанных с их субъективно «слепыми» визуальными областями, включая пространственное восприятие, оценку эмоциональных выражений лиц и даже чтение слов.

В 2008 году пациент, перенесший инсульт и, как Хелен, не имевший оставшейся зрительной коры, был снят на видео, когда он шел по загроможденному коридору больницы, осторожно избегая всех препятствий. Он считал себя совершенно слепым.

▶ Пациент с слепым зрением, преодолевающий препятствия в коридоре в 2008 году; по данным Хамфри 2023 года, фигура на заднем плане — Лоренс Вейскранц, 82 года.

Существование древнего подкоркового визуального пути, позволяющего слепому зрению, объясняет, как некоторые дети с гидроцефалией могут реагировать на визуальные стимулы, несмотря на отсутствие коры. Это также объясняет убеждение Хамфри в том, что дети с гидроцефалией — наряду с рептилиями и амфибиями, чье зрение полностью зависит от этого пути — не обладают сознанием.

Для Хамфри это выглядело как неопровержимый аргумент: если Д. Б. может быть компетентным, но не сознательным, когда дело касается задач, связанных с его левым полем зрения, то компетентность и сознание могут быть отделены друг от друга. Более того, сознание, похоже, сосредоточено в коре, хотя более старые подкорковые области вполне компетентны в самых разных задачах. Таким образом, эта логика утверждает, что лягушки, игуаны и дети с гидроцефалией могут вести себя по-разному, но, не имея коры, они не могут быть сознательными.

Слепое зрение — это увлекательный и важный феномен, но я считаю, что интерпретация Хамфри этого явления сталкивается с ошибкой гомункулуса.

Как и в случае с шишковидной железой Декарта, Хамфри предполагает, что сознание едино и целостно, расположено в одном месте в мозге. Если оно находится в коре, то не может быть и в другом месте. Но, говоря прямо, почему мы должны верить кому-то, когда они утверждают, что «они» не могут видеть или не осознают, что находится в их левом зрительном поле, если они явно способны действовать так, будто осознают?

Как показывают пациенты с разделённым мозгом — да и как любой из нас демонстрирует в экспериментах по слепоте выбора — «я», формирующее слова, выходящие из наших уст, не является нашим целым «я»; это всего лишь интерпретатор, расположенный в определённой области левого полушария коры. Ни интерпретатор, ни какая-либо другая область мозга не связаны, не имеют доступа к информации или не могут моделировать каждую другую часть мозга. Связь на самом деле довольно разреженная, и каждая область делает множество предположений о том, чем занимаются другие области, которые она может «воспринимать». Если область A не связана с областью B, то никакая активность в области B не может быть частью «умвельта» A. A не может делать предположения о том, что происходит в B; она даже не осознаёт отсутствие B, так же как вы не ощущаете отсутствие информации от моих глаз.

Тем не менее «вы» включает все ваши области мозга, и все они содержат (частичные) модели «вас». Таким образом, в конечном итоге слепое зрение лишь доказывает, что более одной области мозга моделирует сигналы от глаз, но интерпретатор напрямую подключён только к одной из этих областей — и, что неудивительно, это соседняя корковая область.

Однако между визуальной областью среднего мозга и мышцами остаётся путь. Пока моторная кора не испытывает стресса и не начинает слепо управлять контролем, этот более старый визуально-моторный путь может обеспечивать разумное, «видящее» поведение, хотя любые действия, возникающие в результате, будут казаться интерпретатору случайными, как удары в темноте.

Ничто из этого не подразумевает, что язык необходим для сознания, или что понимание языка ограничено какой-то одной областью мозга. Мы знаем из экспериментов со сплит-мозгом, что правое полушарие тоже может понимать язык, иначе оно не смогло бы следовать указаниям, таким как «встань и пройдись». Вероятно, оно не так хорошо разбирается в языке из-за разделения труда и специализации. Эксперименты с бессознательным зрением показывают, что даже подкорковые визуальные области могут читать, по крайней мере, немного. Но у большинства людей ни эти подкорковые области, ни правое полушарие не развили навыков (или не подключены к нужным участкам), чтобы управлять легкими, гортанью, языком и губами для производства речи. Таким образом, слуховая кора нейробиолога будет слышать только то, что скажет интерпретатор левого полушария пациента.

Я предполагаю, что значительная часть интеллекта, самосознания и даже социального моделирования находится как в правом полушарии, так и в «нижних» областях мозга (особенно когда связанные регионы могут моделировать и учиться друг у друга). У всех нас были моменты, когда мы осознавали, что на самом деле уже знали что-то, видели что-то или понимали что-то задолго до того, как наш интерпретатор это осознал. Фраза «подсознательно осознающий» часто используется для описания таких ситуаций, но это еще одно проявление гомункулусного мышления. Поскольку наш интерпретатор — настоящий мастер в искусстве обмана (и, вероятно, каждая другая область мозга тоже), я подозреваю, что мы обычно даже не осознаем, когда это происходит, а вместо этого мгновенно переписываем нарратив — «конечно, я это уже знал!» — для различных скользких определений «я».

Возможно, «высшие» корковые области мозга в каком-то смысле «более сознательны», чем нижние, по причинам, уже обсужденным: социально обусловленный рост объема коры подразумевает, что значительная часть работы коры заключается в моделировании людей и управлении более высокими отношениями между ними.

Это подразумевает моделирование «я» более высокого порядка, своего рода «странные петли». Поскольку префронтальная кора не получает прямых сенсорных сигналов или моторных выходов, ей не нужно заниматься детальным моделированием этих более непосредственных сигналов, что может освободить ресурсы для такого моделирования более высокого порядка. Мы знаем, что именно эта часть мозга значительно увеличилась в размерах у современных людей, и что повреждения префронтальной коры ухудшают как социальные функции, так и «исполнительный контроль», то есть планирование и принятие решений, требующие мысленного путешествия во времени.

Тем не менее, я не считаю, что следует проводить границу где-то в мозге — будь то вертикально через мозолистое тело, горизонтально между корой и более старыми частями, или между передними и задними участками коры — и называть области с одной стороны «сознательной», где обитает некий маленький фонтанер, а остальное просто «мозговой машиной».

Более распределенное, менее гумункулоцентричное понимание сознания вытекает из гипотезы Хамфри о социальной интеллигентности. Нам просто нужно немного дальше проследить за ее последствиями, чтобы понять, что она применима как внутри одного мозга, так и между мозгами.

Подвал

Многие другие книги об интеллекте сосредотачиваются на эволюции мозга и его функциональной архитектуре. Макс Беннетт предлагает особенно интересный синтез, объединяющий эволюционные и функциональные перспективы в своей книге 2023 года «Краткая история интеллекта», хотя, как и во всех великих теориях о мозге, некоторые из его утверждений вызывают споры.

В отличие от Беннетта или большинства исследователей, готовых высказаться, я убежден, что современные системы ИИ действительно обладают интеллектом, и это, в свою очередь, убедило меня в том, что секрет интеллекта прост, универсален и общ: это автогрегативное предсказание на всех уровнях. Поэтому я сосредоточился в основном на объяснении этого общего принципа и его последствий, а не на углублении в нейробиологию в каких-либо деталях.

Мы уже видели, как наш мозг распределяет задачи, будь то в модели иерархической визуальной обработки Хубела и Уизела, в рассказах о пациентах с разделённым мозгом или в случае слепоты у макаки по имени Хелен. Эти примеры подчеркивают роль коры головного мозга, самого последнего эволюционного дополнения к нашим сложным, высокоразвитыми мозгам — и, возможно, учитывая широкий спектр модальностей, с которыми она может справляться с минимальными изменениями в своей организации, самой универсальной. В следующем разделе мы более систематически исследуем кору. Но сначала давайте рассмотрим подземные структуры мозга — его более старые и глубокие части.

Сравнительная анатомия мозга у четырёх сильно различающихся позвоночных

Самые ранние известные позвоночные, костные рыбы, относящиеся к кембрийскому взрыву, вероятно, имели мозг, организованный примерно так же, как у нас, хотя и меньшего размера, с пропорциями частей, отличающимися от наших. Некоторые части, которые есть у нас, у них были совершенно отсутствующими. Однако базальные ганглии, скопление «ядер» (то есть анатомически отличительных групп нейронов с характерной связностью) в центре мозга, уже существовали. Так же как и «медиальный паллиум», который эволюционировал в «гиппокамп» у млекопитающих. Я кратко расскажу об этих структурах не потому, что они единственные важные части мозга (их много), а потому что то, что мы знаем об их эволюции и функции, связано с более широкими темами этой книги.

Гиппокамп, что в переводе с греческого означает «морской конёк», представляет собой спираль мозговой ткани, названную так из-за своей характерной формы. Находясь глубоко в каждом полушарии, он играет ключевую роль в обучении последовательностям, пространственной навигации и формировании памяти. Его первоначальная функция, вероятно, заключалась в создании пространственных карт в реальном времени — функция, имеющая огромное значение для любого животного, способного перемещаться по стабильной среде, используя собственные силы.

С 1950-х годов мы знаем, что гиппокамп играет ключевую роль в формировании «эпизодических» (то есть автобиографических) воспоминаний у людей, благодаря случаю Генри Молайсона. Известный при жизни как H. M., он, возможно, самый знаменитый нейропсихиатрический пациент всех времен.

В подростковом возрасте он начал испытывать эпилептические припадки; со временем атаки усиливались, становясь изнурительными. В 1953 году, в возрасте двадцати семи лет, была предпринята нейрохирургическая операция как последняя надежда на лечение. Нейрохирург определил, что медиальные височные доли с обеих сторон мозга Молайсона, в которых находятся гиппокампы, были очагами припадков и уже значительно атрофировались из-за непрерывной электрической активности. В соответствии с этим, их полностью удалили.

Хотя операция частично помогла ограничить припадки, она оставила Молайсона с полной «антероградной амнезией» — неспособностью формировать новые воспоминания. Он казался неповрежденным во время обычного общения, сохранил большинство своих воспоминаний до операции и имел нормальную кратковременную память, но если его внимание отвлекалось, для него это было все равно, что взаимодействие никогда не происходило. К моменту его смерти в 2008 году его последние воспоминания все еще относились к 1953 году.

▶ Отрывок из интервью 2004 года с пациентом E. P., который в 1992 году перенес вирусный энцефалит, приведший к полной разрушению его гиппокампов и вызвавший глубокую антероградную амнезию, аналогичную той, что была у Генри Молайсона.

Как нам понимать тот факт, что гиппокамп необходим для формирования воспоминаний, но не для их хранения или воспроизведения? Одна из популярных теорий предполагает, что, возможно, из-за своей первоначальной функции в качестве пространственного картографа, гиппокамп может запоминать разрозненные паттерны последовательной активности в коре за один раз, как это происходит, когда вы перемещаетесь по новой среде, и нейронные популяции, представляющие неизменные высокоуровневые концепции, активируются одна за другой.

Это по-прежнему тот способ, которым мы даем указания, например: «идите по дороге, пока не увидите автозаправку, затем фермерский рынок, где продают бананы, потом рекламный щит с Памелой Андерсон» и так далее.
Если эти последовательности заметны, их можно «консолидировать» в единое представление в медленно обучающейся коре через повторное воспроизведение. Это может быть одной из ключевых функций сна; зафиксировано, что в мозгах спящих животных происходит повторное воспроизведение предыдущих переживаний быстрее реального времени, и мы знаем, что формирование памяти страдает при недостатке сна.
Если это так, то история обучения последовательностям предлагает интересный пример разделения труда между гиппокампом и корой. Гиппокамп работает быстро, но ограничен в сложности, тогда как кора медлительна, но гораздо больше и богаче на ассоциативные связи. Таким образом, гиппокамп осуществляет быстрое однократное обучение от коры в данный момент, а затем, во время сна, кора инициирует обучение на основе воспроизведения от гиппокампа.
▶
Клетки места гиппокампа важны не только для формирования памяти, но и для воображения и планирования будущего поведения. Здесь клетки места в гиппокампе крысы декодируются во время поведения (мультяшная крыса указывает на фактическое положение, в то время как тепловая карта показывает предполагаемое положение на основе нейронной записи) и во время быстрых всплесков планирования будущей траектории, которые замедлены в 20 раз; Pfeiffer и Foster, 2013.
Базальные ганглии играют центральную роль в том виде обучения с подкреплением, который описан в главе 4. Они, похоже, интегрируют и выбирают среди конкурирующих паттернов активации в других областях мозга и выбирают среди возможных действий, опосредованных дофамином. Это поведение, похожее на softmax, управляет тем, что мы часто называем нашими решениями низкого уровня или «автопилотными» решениями.
Такие привычные поведения, похоже, требуют минимального участия коры.

К ним относятся так называемая «мышечная память», моторные навыки, которые не требуют «мысли» (ими управляют ядра в задней части мозга), и ассоциации между стимулами и действиями, вызванные простыми высокоуровневыми целями, такими как желания и зависимости (ими управляют ядра в передней части).

Поведение рыб и амфибий, похоже, в основном определяется механизмом, похожим на обучение с подкреплением, который не имеет высокоуровневой предсказательной симуляции мира, других или самого себя. Такие «высшие» функции появились у самых ранних млекопитающих с развитием «неокортекса».

Неокортекс
Неокортекс, который я называю просто «кортексом», — это видимая внешняя часть целого мозга, состоящая из немиелинизированной «серой материи», богатой местными связями. «Белая материя», составляющая большую часть внутренней структуры мозга, — это миелинизированные волокна, соединяющие различные части кортекса друг с другом и с более глубокими областями мозга.

Функциональная анатомия моторных и сенсорных областей человеческого коркового мозга

Задняя половина кортекса является сенсорной и делится на области, специализирующиеся на зрении, звуке, осязании и других модальностях, причем каждая область отражает свою важность для экологии животного. Например, у крыс «барабанный кортекс», занимающий большую площадь чувствительной к прикосновениям или «сомато-сенсорной» области, посвящен усикам, которые они ловко используют, чтобы «видеть» в темноте.

Передняя половина кортекса, или «лобная кора», у людей развита в значительной степени. В очень общих чертах, ее функция, похоже, заключается в симуляции себя и других. Соседствующая с сомато-сенсорной областью тонкая полоса называется «моторной корой», которая обычно ассоциируется с контролем движений тела. Двигаясь вперед оттуда, мы находим «предмоторную кору», а на самом переднем конце, прямо за лбом, расположена «префронтальная кора».

Префронтальная кора специализируется на теории разума.

Нанесение ущерба часто не приводит к катастрофическим последствиям для сенсорных или моторных навыков, а также не сказывается на результатах IQ-тестов. Иногда даже сообщают о том, что выполнение различных задач, связанных с интеллектом, улучшается после повреждения префронтальной коры! Возможно, когда мы меньше думаем о том, что о нас думают другие, или о том, что они думают, что мы думаем о них, и так далее, нам легче сосредоточиться на задаче.

Тем не менее, префронтальная кора — это область, которая наиболее явно развивалась в ходе эволюции приматов, и особенно драматично у людей. В соответствии с гипотезой социальной интеллигентности, описанной в главе 5, это подчеркивает фундаментально социальный характер человеческого интеллекта. Когда мы лучше моделируем поведение других, мы развиваем более сильный коллективный интеллект, что дает нам преимущества на уровне группы. Но, вероятно, здесь также имеет место «многоуровневый отбор», поскольку сложное социальное моделирование делает нас индивидуально более приспособленными, позволяя использовать специализированный интеллект других для удовлетворения наших собственных потребностей и желаний.

Чтобы привести крайний пример, домашние собаки и кошки используют социальное моделирование, или, как говорят, «EQ» (коэффициент эмоционального интеллекта), чтобы заставить нас выполнять их «IQ-мысли» за них — и, по сути, всю работу (за исключением рабочих животных). Мы не только обеспечиваем их более надежной пищей и укрытием, чем они могли бы получить самостоятельно; мы даже проводим ветеринарные исследования, разрабатывая лекарства и другие методы лечения, которые, с интеллектуальной точки зрения, выходят за пределы их возможностей. В результате они живут гораздо дольше своих диких сородичей и размножаются в гораздо больших количествах, занимая обширные экосистемы, которые в противном случае были бы для них непригодны. Цена, конечно, в том, что большинство из них глуповаты и некомпетентны (извините, ребята) по сравнению с более выносливыми дикими родственниками. Персики с плоскими лицами и болтливые чихуахуа вряд ли выживут во время зомби-апокалипсиса.

В каком-то смысле мы все похожи на кошек и собак друг друга. Конечно, многие из нас выполняют какую-то честную работу.

Но когда в последний раз вы охотились или искали себе ужин, шили свою одежду, строили укрытие, разрабатывали антибиотики или помогали родиться своему ребенку? Наши более выносливые предки-приматы справлялись с этими задачами гораздо лучше, чем мы. Эти изменения не являются исключительно культурными. Неандертальцы, которые также были весьма универсальными, имели более теплую шерсть и более сложные пищеварительные системы, чем у нас — и, к тому же, больший мозг. В последней, самой короткой главе нашей генетической истории, совпадающей с эпохой быстрого культурного накопления, похоже, что общий объем нашего мозга начал уменьшаться по мере того, как мы специализируемся и все больше полагаемся друг на друга для взаимопомощи. Таково наследие наших расширяющихся префронтальных кортикальных областей.

Недавнее снижение нашей черепной емкости, возможно, совпадающее с появлением экстремальной социальной активности человека в голоцене; DeSilva и др. 2023.

Объединяя этот краткий и, безусловно, фрагментарный обзор человеческого мозга с нашей историей до сих пор, можно выделить несколько ключевых моментов: Многие области мозга, а не только корковые, являются предсказателями последовательностей. Разные области мозга эффективно предсказывают события на различных временных масштабах, причем более поздние эволюционно развитые области, как правило, способны к более сложным предсказаниям на более длительных временных интервалах. Предположительно, это обеспечивается как более мощными архитектурами обучения, так и увеличением размеров. Люди, в частности, являются самыми сильными известными обучающимися последовательностям; это одно из немногих убедительных предложений, подчеркивающее реальный когнитивный «разрыв между людьми и другими животными». Области мозга активно предсказывают друг друга и, когда они связаны с сенсорными входами или моторными выходами, предсказывают эти входы и выходы. Таким образом, то, как они соединены, в значительной степени определяет, что они предсказывают и какие информационные ресурсы могут использовать для этого. Эффективное взаимное предсказание предполагает взаимное обучение.

Разделение труда в мозге не является абсолютно чистым или математически определимым, и это хорошо. Оно позволяет, например, одной области мозга сначала усвоить что-то, а затем обучить этому другим, будь то для снижения задержки, повышения надежности, параллелизма или большей универсальности. Это было бы невозможно, если бы указанные области мозга не обладали, в какой-то степени, способностью к последовательному обучению.

Называя более старые регионы, такие как базальные ганглии, «бессознательными» или внедряя внутренний «автопилот», мы предполагаем, что они на самом деле не являются частью нас, а представляют собой периферийные элементы по отношению к гомункулу, находящемуся где-то в мозге. Возможно, мы на самом деле имеем в виду, что интерпретатор не имеет полного доступа к этим более старым регионам. Эта нехватка доступа может быть полезной особенностью, так как она позволяет выполнять ловкие и быстрые действия, которые могли быть сначала усвоены корой — например, возвращение подачи в сквош — параллельно с (и без прерывания) более медленной, вдумчивой кортикальной обработкой. В этом случае разделение труда выглядит как тактика против стратегии. Для достижения цели требуется целая деревня... и ваш мозг — это деревня.

Социальная нейронаука

На этом этапе вы, возможно, задаетесь вопросом, почему, если цель интеллектуальной системы (будь то клетка, область мозга или человек) заключается просто в предсказании своего будущего, она не будет обманывать, чтобы сделать эту задачу как можно проще. Например, она могла бы предсказать, что не сделает и не испытает ничего, и просто... не сделать и не испытать ничего. Миссия выполнена!

Это называется проблемой Темной Комнаты, по очевидным причинам.

На самом деле, люди, страдающие от тяжелой депрессии, могут стать жертвами чего-то подобного и провести много времени в этой Темной Комнате, либо спя, либо не в силах заставить себя встать с постели.

В главе 2 мы столкнулись с причиной, по которой это обычно не происходит.

Помните, что если бактерия предсказывает свою собственную гибель, она не сможет сделать больше никаких предсказаний после этого; на самом деле, способность к предсказанию развивается именно для того, чтобы избежать такого исхода. Вот почему переменные, предсказываемые живой системой, включают внутренние корреляты динамической стабильности, такие как голод, насыщение, усталость и ожидание. Подчинение требованиям этих переменных необходимо для выживания, а значит, и для предсказания (или наличия) любого дальнего будущего.

Также помните, что для высоко социальных существ взаимозависимость является нормой. Вы выживаете благодаря другим. Вы не можете размножаться без других. (Вот почему одиночество также является одной из таких значимых переменных.) Таким образом, вы не можете быть обузой. Даже домашние кошки и собаки в конечном итоге не бесполезны; они выполняют свою часть сделки различными формами «эмоционального труда».

Области мозга тоже взаимозависимы. Они зависят друг от друга в передаче сигналов; они моделируют друг друга и являются взаимными umwelt . Помните, что они также требуют значительных затрат. Мозговая ткань поглощает энергию жадно, составляя двадцать процентов нашего метаболизма, несмотря на то, что составляет лишь два процента от массы тела. Каждое увеличение объема мозга также связано с повышением смертности как для матери, так и для ребенка во время родов. (Осьминог может протиснуться через отверстие размером с его глаз, но для человеческого младенца череп является ограничивающим фактором. А наши черепа большие .) Короче говоря, если область мозга не выполняет свою роль и не приносит пользу, генетический код для ее построения не сохранится в зародышевой линии.

Конкуренция также происходит в процессе развития мозга. Нейронные соединения активно развиваются в мозге младенца, но многие из них впоследствии отступают или подвергаются обрезке. Развитие мозга все еще плохо изучено, но, похоже, что ресурсы для поддержания любого данного нейронного соединения, так или иначе, предоставляются получателем информации, проходящей через это соединение.

Долговечность такой связи будет зависеть от ценности, которую она предлагает — то есть от способности помогать получателю предсказывать будущее. Все формы неконтролируемого обучения последовательностям с использованием обратного распространения можно понять в тех же терминах. Синапсы укрепляются, когда они помогают получателю предсказать будущее, и ослабевают, когда этого не делают.

Таким образом, ничто не может надолго уединяться в Темной комнате: ни синапс, ни аксоны, ни нейроны, ни корковые колонки, ни области мозга, ни сам мозг, ни целый человек — потому что отношения важны. Невозможность помогать другим — это быстрый путь к утрате связей, а отсутствие отношений ведет к буквальному несуществованию.

Мы можем развить концепцию «социальной нейронауки» (или «нейроэкономики»), задав вопрос, кому служит интерпретатор. Кто получает выгоду? Да, язык — мощный инструмент для мышления. Однако язык, прежде всего, социальный.

Вы уже знаете, о чем думаете. Ваш собеседник — нет.

Когда ваш левый полушарий, отвечающий за генерацию языка, рассказывает историю о том, почему вы только что встали с кресла или почему вы поддерживаете прогрессивное налогообложение, можем ли мы тогда рассматривать этот генератор нарративов в вашем мозге как аванпост мозга вашего собеседника? Это может показаться странным взглядом, но, возможно, странным это кажется только если мы — WEIRD — так сосредоточены на себе и одержимы своей автономией, что не замечаем, как на самом деле мы состоим из наших отношений. В конце концов, говорить было бы бессмысленно, если бы не было слушателя.

Подумайте об этом так: если вы говорите и считаете, что ясно донесли свою мысль, но ваш слушатель не услышал, была ли коммуникация эффективной? Вовсе нет. Коммуникационный орган, который не приводит к пониманию со стороны получателя, не выживет с точки зрения эволюции.

Что если вы не собирались общаться, но ваш слушатель все равно понял вас? В таком случае коммуникация оказалась совершенно эффективной. Если мы хотим увидеть, как общение служит получателю, а не отправителю, нам нужно лишь задать себе вопрос: общаемся ли мы когда-либо против своей воли.

Конечно, общаемся, как знает каждый, кто когда-либо краснел. Покраснение — это непроизвольный сигнал смущения или стыда; он существует для блага других, чтобы они могли заглянуть в ваше эмоциональное состояние. Эмоциональное выражение в целом в значительной степени непроизвольно, требуя усилия воли, чтобы попытаться, успешно или нет, подавить его. Оно опирается на древние нейронные пути, которые, вероятно, присутствуют у всех млекопитающих. Интересно, что вокализация у нечеловеческих приматов поддерживается именно этими путями, а не теми частями мозга, которые были более недавно перепрофилированы для языка у людей.

«Улыбка Дюшенна» — еще один пример непроизвольной эмоциональной коммуникации среди людей.

Если вы не хороший актер, когда вы заставляете себя улыбнуться, определенные мелкие мышцы вокруг глаз не сокращаются, и улыбка не воспринимается как искренняя. А эти мышцы улыбки Дюшенна расположены именно вокруг глаз — в тех местах, куда мы смотрим, когда взаимодействуем друг с другом. Почти как будто они созданы для того, чтобы подрывать попытки обмана.

Гийом Дюшенн (1806–1875), в честь которого названа улыбка Дюшенна, провел первые систематические исследования человеческого выражения лица, используя электроды для избирательной стимуляции лицевых мышц.

▶ Улыбка слева — фальшивая; улыбка справа — настоящая.

На самом деле, то, как выглядят человеческие глаза, само по себе является подсказкой — с концентрическими, максимально контрастными белыми склерами, цветными радужками и черными зрачками, как мишень, что делает очевидным, на что мы смотрим. Одним взглядом на группу людей мы можем отследить, куда направлен взгляд каждого.

Очень немногие существа с глазами демонстрируют, на чем сосредоточено их внимание таким образом; вспомните, как выглядят маленькие черные зрачки мыши, зловещая W-образная форма зрачка осьминога или непроницаемыеCompound глаза насекомых. Даже среди наших ближайших родственников, других приматов, никто не обладает такой дружелюбной морфологией взгляда, как у нас.

Существует множество примеров непроизвольной коммуникации, будь то тон голоса, дрожь, плач, потоотделение… как будто наши тела просто жаждут выдать нас. И действительно, они это делают. Вся эта система раскрытия информации существует для того, чтобы другие могли читать нас, как открытую книгу. Она предназначена для того, чтобы усилить теорию разума — и не нашу теорию разума других, а их теорию нашего разума.

Мы могли бы рассматривать это как адаптации на уровне группы, поскольку сообщества с более развитой теорией разума среди своих членов будут превосходить сообщества с менее развитой теорией разума. С этой точки зрения, такие явления, как покраснение, возникают потому, что они приносят коллективную пользу, даже если каждый из нас индивидуально предпочел бы обойтись без этого.

Я хотел бы предложить более радикальную возможность. Давайте углубимся в тему о том, что нижестоящие области — то есть получатели информации в мозге — управляют обучением, распределяя ресурсы на верхние области. В этом случае человек, который общается, находится выше, а человек, получающий это сообщение, — ниже. Принцип все еще применим?

Да! Не забывайте, что мы живем благодаря другим. Мы буквально выживаем только потому, что другие кормят нас и заботятся о нас. Это может показаться грубым или упрощенным, но, на каком-то уровне, это правда: мы получаем пищу в обмен на информацию, которую предоставляем другим, помогая им предсказывать будущее. Однако это не исключает параллельного действия группового отбора — это, безусловно, вероятный случай многоуровневого отбора.

Тем не менее, компонент индивидуальной приспособленности имеет некоторые интересные последствия.

Иногда говорят, что лучшие лжецы и мошенники верят в свои собственные выдумки. Это может быть правдой в том смысле, что у таких людей могут быть участки мозга, способные скрывать определенные намерения от интерпретатора или даже подсовывать ему ложную информацию. Такая внутренняя компартментация имеет смысл, если интерпретатор воспринимать как, по сути, доносчика, работающего на благо вашего собеседника.

Теперь давайте поменяем местами роли и рассмотрим поведенческий аспект наличия информатора или шпиона в мозгах других людей, что позволяет вам воспринимать их внутреннее состояние. Эти сигналы не обязательно приводят к изменению поведения со стороны отправителя, но они действительно вызывают изменения в поведении получателя. В частности, такие сигналы необходимы для того, чтобы вызвать заботу или, если говорить языком философов, моральную восприимчивость. Моральный агент — это сущность, которая может действовать во благо или во зло и нести за это ответственность; моральный пациент — это сущность, на которую можно воздействовать, и действия которой имеют моральные последствия для действующего лица.

Мы склонны много думать о моральных агентах, ответственности или виновности, но гораздо реже о том, кто или что считается моральным пациентом, разве что в самых абстрактных, универсальных терминах Просвещения: «Все люди (или что-то другое?) созданы равными» (см. главу 6). Как и в случае с интеллектом, мы хотим, чтобы моральная восприимчивость означала что-то абсолютное, независимое от наших отношений, наших конкретных точек зрения и нашей уникальной биологической наследственности. Однако биология действительно имеет значение.

Младенцы — это изначальные моральные пациенты природы. Забота о них, когда они (непо своей воле) плачут, стала абсолютной необходимостью, когда люди начали рожать преждевременно, более или менее в последний возможный момент, когда их головы все еще могли пройти через таз женщины.

В своей книге 2019 года
«Совесть: Происхождение моральной интуиции»
Патрисия Чёрчленд убедительно доказывает с нейробиологической точки зрения, что наши моральные чувства, в конечном счёте, являются следствием простого биологического факта: беспомощности младенцев. Забота начинается с заботы о молодых.
Оригинальная связь между матерью и ребёнком, конечно, многократно переосмыслялась — нейронно, психологически и культурно. Когда младенцы начали требовать больше калорий, чем могла предоставить одна мать, на помощь пришли отцы, бабушки, няни и даже целые деревни.
Когда влюблённые называют друг друга «малышом», они могут (неосознанно) признавать переосмысленный детский патенциал в служении их парной связи. Когда божество или государство представляется в образе защитной матери или отца, те же чувства мобилизуются. У нас большие, гибкие мозги; мы хорошо умеем обобщать и переосмыслять.
Моральный патенциал — это то, о чём идёт речь, когда мы говорим о философских зомби. Основная идея философского зомби заключается в том, что его поведение идентично поведению человека, но он не является моральным пациентом. Когда мы начинаем понимать вещи в контексте отношений, мы осознаём, что зомбиность не является свойством, которое существует или не существует для сущности в изоляции; она также неотделима от поведения. Однако поведение пациента на самом деле не является предметом обсуждения. Скорее, речь идёт о поведении морального агента, которое зависит от способности агента воспринимать другого как морального пациента — то есть, как не зомби, а как сущность, заслуживающую заботы и внимания. Призыв к универсальным правам человека за последний век является наглядным примером.
Следуют ли за этим права роботов? В 2010-х годах патенциал ИИ был, в лучшем случае, маргинальной темой для интеллектуальных дебатов среди моральных философов.
Очевидно, что ИИ не укоренён в человеческой биологии и не достиг морального патенциала через многоуровневый эволюционный отбор, как это сделали люди.

С другой стороны, модели ИИ все чаще вовлечены в отношения с людьми и друг с другом, и в этих отношениях они становятся — функционально — все более похожими на людей. Поэтому неудивительно, что мы начинаем видеть серьезные обсуждения о благополучии ИИ.

Независимо от того, выступают ли ученые за или против, большая часть академической дискуссии продолжает пытаться разобраться в том, что такое ИИ «по своей сути». Однако сложно теоретизировать о правах и благосостоянии, не начиная с сети отношений, которые порождают такие понятия.

Технически: обратное распространение требует транспонирования матрицы весов, что нарушает принцип, согласно которому нейронные вычисления должны оставаться локальными.

Здесь я предполагаю, что время можно разбить на дискретные шаги, как это в основном происходит в современном мире цифровых вычислений и искусственных нейронных сетей. Реальные мозги и нейроны не работают во времени, разбитом на дискретные отрезки, но последовательный характер обработки информации, когда сигнал проходит от одного нейрона к другому, все же сохраняется.

Питер Годфри-Смит выдвигает гипотезу о том, что некоторые животные, такие как насекомые, могут обладать ноцицепцией без боли. Он представляет себе, что раненая пчела может регистрировать повреждение так же, как мы осознаем, что что-то не так с нашей машиной, когда загорается индикатор «проверьте двигатель», без сопутствующего ощущения боли. Однако поведенческие исследования явно не подтверждают эту точку зрения.

Хамфри 2023
↩
Хамфри 1972
↩
Хартманн и др. 1991
↩
Кэри 2008
↩
Альтернативный вариант — рассматривать интерпретатора как гомункулуса. Однако, поскольку интерпретатор, по сути, занимается лишь оправданием решений, принятых в других частях мозга, это не кажется чем-то значимым, чем стоит гордиться.
М. Беннет 2023
↩
Существовали некоторые незначительные исключения; например, благодаря частому подкреплению существующая память могла быть изменена, чтобы включить новую информацию.
Надасди и др. 1999; А. К. Ли и Уилсон 2002
↩
↩
Раш и Борн 2013
↩
Вёллм и др. 2006; ван Велув и Шанс 2014
↩
↩
У. Фриман 1971
↩
Для общего обзора этого «парадоксального» функционального улучшения после повреждения мозга см. Капур 1996
↩
Честно говоря, кошки менее одомашнены, чем собаки, и, похоже, лучше способны вернуться к диким инстинктам.
Хеннеберг и Стейн 1993
↩
Даже сетчатка является предсказателем последовательностей; Шварц и др. 2007
↩
Гирланда, Линд и Энквист 2017
↩
А. Кларк 2023
↩
Хуттенлохер 1979
↩
Ацил и др. 2018
↩
Оуран, Амосс и Рендалл 2011
↩
Дюшен 1876; Экман, Дэвидсон и Фризен 1990
↩
↩
Кобаяши и Кохсима 1997
↩
Становится все более очевидным, что многие исторические дебаты, ставящие школы индивидуального и группового отбора в дарвинизме друг против друга, являются заблуждением. Оба процесса происходят одновременно; О’Горман, Шелдон и Уилсон 2008
↩
Чёрчленд 2019
↩
Хрди 2009
↩
Гункель 2018
↩
Р. Лонг и др. 2024
↩
Заметное исключение: в статье под названием «Сотрудничаем ли мы с тем, что создаем?» исследователи Кэти Эванс, Скотт Роббинс и Джоанна Брайсон выступают против патентоспособности ИИ на основе отношений между человеком и ИИ, которые они понимают более односторонне, чем я; К. Д. Эванс, Роббинс и Брайсон 2023
↩
Трансформеры