Глава 18

Что такое интеллект? | АнтикифераЧто такое интеллект?Интерлюдия Без идеальных героев и злодеевИнтерлюдия Без идеальных героев и злодеевПоскольку эта книга следует грубой хронологии, начиная с четырех миллиардов лет назад и проходя через исторические события, приведшие к вычислениям, кибернетике, нейронауке и ИИ, многие из фигур, с которыми мы столкнулись до сих пор, являются историческими. Обратная перспектива помогает нам судить о том, где они были правы или неправы, хотя это также рискует упростить ситуацию. Некоторые фигуры канонизированы, в то время как другие несправедливо принижены или стерты. Некоторые подверглись критике за то, что придерживались убеждений, которые были мейнстримом в их время, но больше не являются таковыми, или за то, что их идеи были смелыми, но позже оказались ошибочными, иногда до смешного (или ужасного).Если мы будем судить плодовитых мыслителей, живых или мертвых, по их худшим зафиксированным идеям, никто не выйдет с хорошей репутацией. Кроме, возможно, Алана Тьюринга. Он мог быть прав во всем. 1 Все остальные — это смешанная картина, и это лучшее, к чему из нас может разумно стремиться — если нас вообще будут помнить.▶ Роли фон Неймана в раннем развитии компьютера и на ранних этапах гонки ядерных вооружений были неразрывныНапример, я подчеркивал блестящие вклады Джона фон Неймана в информатику наряду с вкладами Тьюринга. Но в 1950 году, когда Советский Союз все еще сильно отставал от США в создании ядерного арсенала, фон Нейман, всегда оставаясь теоретиком игр, выступил за превентивный ядерный удар: «Если вы говорите, почему бы не разбомбить их завтра, я говорю, почему бы не сегодня? Если вы говорите сегодня в пять часов, я говорю, почему бы не в час?» 2 Если бы фон Нейману было позволено реализовать свою политику, его бы запомнили как монстра и массового убийцу.▶ Майор Конг, спускающийся на бомбе в «Докторе Стрейнджлаве», Кубрик 1964 годаИли рассмотрим Линн Маргулис, блестящего, бунтарского биолога, который сделал больше всех в двадцатом веке для продвижения симбиогенетического взгляда на эволюцию и гипотезы Гайи.

Маргулис также была отрицателем СПИДа, утверждая еще в 2011 году (в год своей смерти), что симптомы вызваны латентными инфекциями сифилиса в «группах риска». Она была упрямым сторонником теории заговора, согласно которой террористические атаки 11 сентября были делом рук внутри. Ее лучшие и худшие интеллектуальные наследия были продуктами одного и того же творческого ума и контрарной чувствительности. Итак... кроме Тюринга, в этой книге нет идеальных героев. В ней также нет злодеев. Пионеры GOFAI, такие как Минский и Паперт, могли ошибаться, отвергая перцептроны, но они внесли значительный вклад в информатику. Я подчеркивал неправильность взгляда Лейбница на вычислимую истину и абсурдность картезианской дуалистической концепции духовного гомункула, выдувающего психическую пневму в шишковидную железу. Но Декарт и Лейбниц были блестящими мыслителями своего времени, и их ошибки в значительной степени были некорректированным остатком идей, унаследованных от их предшественников. Теперь, когда мы приближаемся к концу книги, мне нужно критически рассмотреть идеи живущих. Учитывая спорный интеллектуальный климат сегодня, важно четко сформулировать условия моего взаимодействия. Я буду выступать против позиций, занимаемых моими хорошими друзьями, такими как Мелани Митчел, Тед Чианг, Джоанна Брайсон и Кристоф Кох, и оспаривать аргументы, представленные в недавних книгах Ника Бострома, Макса Тегмарка, Рея Курцвейла и Юваля Ноя Харари, среди прочих. Но прежде чем сосредоточиться на различиях, я хочу подчеркнуть, что все они умные люди. Я многому научился, читая их работы и общаясь с ними, и согласен со многими из поднятых ими вопросов. Наши различающиеся выводы часто сводятся к удивительно тонким нюансам в восприятии. Если бы эта книга сосредоточилась на точках широкого согласия, она была бы гораздо длиннее. Но это не была бы книга, которую стоит писать или читать.

Согласно книге Мерсье и Спербера «Загадка разума», одной из основных функций языка является аргументация, а через аргументы мы помогаем себе коллективно двигаться вперед. Как и многое другое, то, что является противоречивым, также является совместным. Митчелл, Чианг, Брайсон, Кох, Бостром, Тегмарк, Курцвейл, Харари и многие другие, как и я, рискуют, чтобы глубоко погрузиться в сложные вопросы с реальными ставками. Нам всем не безразлично будущее, и мы разделяем многие базовые ценности. Мы все на одной стороне, несмотря на конфликтный способ, которым СМИ обычно изображают современные дебаты о ИИ или о чем-то еще значительном. В прошлые годы, когда Кремниевая долина была охвачена восторженным оптимизмом, граничащим с утопией, я часто казался угрюмым пессимистом в комнате. Поднятие исторических перспектив и аргументация против техно-детерминизма казались мне важной корректировкой в культуре, которая иногда казалась уверенной, что мы достигли «конца истории» и находимся на пути к универсальной либеральной демократии, изобилию для всех и цифровому бессмертию. Примерно в середине 2010-х годов настроение начало портиться. Это, вероятно, было связано с сочетанием факторов: растущим экономическим неравенством и эрозией среднего класса; возрождением популистской политики; разделяющим влиянием социальных медиа; растущей осведомленностью о двустороннем характере технологий; увеличением недоверия к корпорациям в целом и к технологическим компаниям в частности. Данные продольных опросов показывают систематическое снижение доверия к технологическому сектору на протяжении 2010-х годов; Эдельман 2021. Примерно в то же время прогресс в области ИИ начал резко ускоряться, и он оказался вовлечен в этот более широкий дух времени. Некоторые инсайдеры Кремниевой долины, которые до недавнего времени проповедовали евангелие техно-рая, находящегося за углом, изменили свою позицию и стали одержимы видениями неминуемого апокалипсиса ИИ.

Старая евангелие изобилия основывалось на идее, что мы живем в беспрецедентные времена. Новые разговоры об апокалипсисе также основаны на идее, что мы живем в беспрецедентные времена. Так что теперь мои попытки исторической перспективы могут заставить меня звучать как оптимист в комнате! Мое мышление, безусловно, эволюционировало за последнее десятилетие, но в одном отношении оно осталось неизменным: я всегда верил, что дебаты и обсуждения имеют значение. Я оптимист. Но стрела времени, в которой более простые сущности, как правило, объединяются в более сложные, не подразумевает техно-детерминизма и не дает нам права быть пассивными. ▶ Олдос Хаксли в 1961 году высказывается о технологическом детерминизме: идея о том, что технологии и «прикладные науки» теперь следуют своим собственным путем, унося человечество за собой, в отличие от того, чтобы человечество «контролировало» (как он подразумевает, это было раньше). Поскольку современное человечество представляет собой глубокую, коллективную симбиоз, включающую технологии, а также биологию, ни утверждение «технология контролирует человечество», ни «человечество контролирует технологии» не является последовательным. Также не очевидно, что индивидуальная или коллективная человеческая агентность была ограничена этой симбиозом; в некоторых отношениях мы менее свободны, а в других — более свободны. Где есть жизнь, там есть выбор. У обществ есть свободная воля по тем же причинам, что и у людей, и наши перспективы остаются обнадеживающими только и именно в той степени, в которой мы способны быть разумными: моделировать, предсказывать, исследовать и решать между контрфактическими будущими. Симбиозы могут происходить многими способами, и, соответственно, жизнь на Земле может эволюционировать многими способами. Некоторые из этих путей имеют большую динамическую стабильность, чем другие, а некоторые более аппетитны, чем другие. В некоторых из них многие наши давние желания сбудутся. Другие действительно могут включать частичное или полное исчезновение существующих сущностей, включая людей.

Этот риск существовал с тех пор, как фон Нейман сказал: «Почему бы не в один час?» Кроме того, он был незаслуженно забытым героем войны, чья криптографическая работа в Блетчли-Парке спасла бесчисленные жизни, что делает его последующее мученичество со стороны британского правительства за его гомосексуальность непростительным. Бхаттачарья 2021 ↩.Маргулис и др. 2009 ↩.Гейдж 2012 ↩.Фукуяма 2006 ↩.10 Эволюционный переход