Глава 9.5: Последствия

Нет идеальных героев или злодеев
Поскольку эта книга следует грубой хронологии, начиная с четырех миллиардов лет назад и проходя через исторические события, приведшие к вычислениям, кибернетике, нейронауке и ИИ, многие из фигур, с которыми мы столкнулись, являются историческими. Обратный взгляд помогает нам судить, где они были правы или ошибались, хотя это также может привести к упрощению. Некоторые фигуры канонизированы, в то время как другие несправедливо принижены или стерты из памяти. Некоторые запятнаны из-за убеждений, которые были мейнстримом в их время, но больше не являются таковыми, или из-за смелых идей, которые позже оказались ошибочными, иногда до смешного (или ужасающего) уровня.
Если судить о плодовитых мыслителях, живых или мертвых, по их худшим записям, никто не выйдет с хорошей репутацией. За исключением, возможно, Алана Тьюринга. Он мог быть прав по всем пунктам.
Все остальные — это смешанная картина, и это лучшее, на что мы можем разумно надеяться — если нас вообще будут помнить.
▶
Роли фон Неймана в раннем развитии компьютера и на начальных этапах ядерной гонки были неразрывно связаны.
Например, я подчеркивал блестящие вклады Джона фон Неймана в информатику наряду с Тьюрингом. Но в 1950 году, когда Советский Союз все еще значительно отставал от США в создании ядерного арсенала, фон Нейман, будучи теоретиком игр, выступил за превентивный ядерный удар: «Если вы говорите, почему бы не разбомбить их завтра, я отвечаю: почему бы не сегодня? Если вы говорите сегодня в пять часов, я отвечаю: почему бы не в один?»
Если бы фон Нейману позволили реализовать свою политику, его бы запомнили как монстра и массового убийцу.
▶
Майор Конг, спускающийся на бомбе в
Докторе Стрейнджлаве, Кубрик, 1964
Или рассмотрим Линн Маргулис, блестящего, бунтарского биолога, который сделал больше всех в двадцатом веке для продвижения симбиогенетической точки зрения на эволюцию и гипотезы Гайи.

Маргулис также отрицала существование СПИДа, утверждая еще в 2011 году (в год своей смерти), что симптомы вызваны латентными сифилитическими инфекциями в «группах риска». Она была упрямой сторонницей теории заговора, согласно которой террористические атаки 11 сентября были делом рук самих американцев.

Ее лучшие и худшие интеллектуальные наследия были продуктами одного и того же творческого ума и противоречивого мировосприятия. Так что… оставив в стороне Тьюринга, в этой книге нет идеальных героев. Здесь нет и злодеев. Пионеры GOFAI, такие как Мински и Паперт, могли ошибаться, отвергая перцептроны, но они внесли значительный вклад в информатику. Я подчеркивал ошибочность взгляда Лейбница на вычислимую истину и абсурдность картезианской дуалистической концепции духовного гомункула, который надувает психическую пневму в шишковидную железу. Но Декарт и Лейбниц были блестящими мыслителями своего времени, и их ошибки в значительной степени были некорректированным остатком идей, унаследованных от предшественников.

Теперь, когда мы приближаемся к концу книги, мне нужно критически рассмотреть идеи живущих. Учитывая напряженный интеллектуальный климат сегодня, важно четко обозначить условия моего взаимодействия. Я буду выступать против позиций, которые занимают мои хорошие друзья, такие как Мелани Митчелл, Тед Чианг, Джоанна Брайсон и Кристоф Кох, и оспаривать аргументы, представленные в недавних книгах Ника Бострома, Макса Тегмарка, Рея Курцвейла и Юваля Ноя Харари, среди прочих.

Но прежде чем сосредоточиться на различиях, я хочу подчеркнуть, что все они — умные люди. Я многому научился, читая их работы и общаясь с ними, и согласен со многими из поднятых ими вопросов. Наши разные выводы часто сводятся к удивительно тонким нюансам в восприятии.

Если бы эта книга сосредоточилась на точках широкого согласия, она была бы гораздо длиннее. Но это не была бы книга, на которую стоило бы тратить время, чтобы написать или прочитать.

Согласно книге Мерсье и Спербера «Загадка разума», одной из основных функций языка является аргументация, а через аргумент мы помогаем друг другу медленно, но верно двигаться вперед. Как и многое другое, то, что является противостоянием, также является сотрудничеством. Митчелл, Чианг, Брайсон, Кох, Бостром, Тегмарк, Курцвейл, Харари и многие другие, как и я, рискуют, углубляясь в сложные вопросы с реальными последствиями. Нам всем не безразлично будущее, и мы разделяем множество базовых ценностей. Мы все на одной стороне, несмотря на конфликтный способ, которым СМИ часто изображают современные дебаты о ИИ или о чем-то другом, что имеет значение.

В прошлом, когда Кремниевая долина жила в восторженном оптимизме, близком к утопии, я часто казался ворчливым пессимистом в комнате. Поднятие исторических перспектив и аргументация против техно-детерминизма казались мне важной коррекцией в культуре, которая иногда казалась уверенной, что мы достигли «конца истории» и движемся к универсальной либеральной демократии, изобилию для всех и цифровому бессмертию.

Примерно в середине 2010-х настроение начало портиться. Это, вероятно, было вызвано сочетанием факторов: растущим экономическим неравенством и эрозией среднего класса; возрождением популистской политики; разделяющим влиянием социальных медиа; растущим осознанием двусторонней природы технологий; увеличением недоверия к корпорациям в целом и к технологическим компаниям в частности.

Данные долгосрочных опросов показывают систематическое снижение доверия к технологическому сектору на протяжении 2010-х годов; Эдельман 2021.

Данные долгосрочных опросов показывают систематическое снижение доверия к технологическому сектору на протяжении 2010-х годов; Эдельман 2021.

Примерно в то же время прогресс в области ИИ начал стремительно ускоряться, и он оказался вовлечен в этот более широкий дух времени.

Некоторые инсайдеры Кремниевой долины, которые еще недавно проповедовали евангелие техно-рая, резко изменили свои взгляды и стали одержимы видениями неминуемого апокалипсиса, связанного с ИИ. Старое евангелие изобилия основывалось на идее, что мы живем в беспрецедентные времена. Новые разговоры об апокалипсисе также опираются на представление о том, что мы находимся в уникальной ситуации. Так что теперь мои попытки взглянуть на вещи с исторической перспективы могут заставить меня звучать как оптимист в комнате!

Мое мышление, безусловно, изменилось за последнее десятилетие, но в одном аспекте оно осталось неизменным: я всегда считал, что дебаты и обсуждения имеют значение. Я оптимист. Но стрела времени, в которой более простые сущности стремятся объединяться в более сложные, не подразумевает техно-детерминизм и не дает нам права быть пассивными.

▶ Олдос Хаксли в 1961 году рассуждает о технологическом детерминизме: идее, что технологии и «прикладные науки» теперь следуют своим путем, унося человечество за собой, в отличие от того, чтобы человечество «контролировало» их (как он подразумевает, это было раньше). Поскольку современное человечество представляет собой глубокую коллективную симбиозу, включающую как технологии, так и биологию, ни утверждение «технология контролирует человечество», ни «человечество контролирует технологии» не является последовательным. Также не очевидно, что индивидуальная или коллективная человеческая воля была ограничена этой симбиозой; в некоторых отношениях мы менее свободны, а в других — более свободны.

Где есть жизнь, там есть выбор. У обществ есть свободная воля по тем же причинам, что и у людей, и наши перспективы остаются обнадеживающими только в той мере, в какой мы способны мыслить: моделировать, предсказывать, исследовать и принимать решения между альтернативными будущими.

Симбиозы могут проявляться многими способами, и, соответственно, жизнь на Земле может развиваться различными путями. Некоторые из этих путей обладают большей динамической стабильностью, чем другие, а некоторые более привлекательны, чем остальные.

В некоторых случаях многие из наших давних желаний сбудутся. Однако другие могут действительно привести к частичному или полному исчезновению существующих сущностей, включая людей. Этот риск обсуждается с тех пор, как фон Нейман сказал: «Почему бы не один час?»

Кроме того, он был незаслуженно забытым героем войны, чья криптографическая работа в Блетчли-Парке спасла бесчисленное количество жизней, и его последующее мученичество со стороны британского правительства за то, что он был геем, невозможно простить.
Бхаттачарья 2021
↩
.
Маргулис и др. 2009
↩
.
Гейдж 2012
↩
.
Фукуяма 2006
↩
.
Эволюционный переход