Начало бесконечности стр. 575
это просто не рекомендуется делать, потому что общая мера всех историй, в которых есть страдание, очень мала? Или это безобидно и тривиально?
Ещё более сомнительный пример рассуждения антропного типа — это аргумент Судного дня. В нём ожидаемая продолжительность жизни нашего вида оценивается в предположении, что среднестатистический человек стоит, грубо говоря, где-то в середине ряда всех людей. Значит, следует ожидать, что общее число тех, кто когда-либо будет жить, примерно в два раза больше числа тех, кто уже жил. Конечно, это пророчество и уже только по этой причине, наверно, не может быть веским аргументом, но я попробую вкратце рассмотреть его в его же собственных понятиях. Во-первых, его вообще нельзя применять, если общее число людей будет бесконечным, ведь в таком случае каждый, кто жил, будет стоять необычайно близко к началу этого ряда. Таким образом, если уж на то пошло, этот аргумент предполагает, что мы стоим у начала бесконечности.
Кроме того, сколько живёт человек? Вскоре — в течение нескольких поколений — мы избавимся от болезней и старения, а технологии смогут предотвращать смерть в результате убийства или от несчастных случаев за счёт создания резервных копий состояний мозга, которые можно будет загружать в новый, чистый мозг идентичного тела, если человек умрёт. Как только такая технология будет доступна, люди будут считать, что не создавать резервные копии себя часто — гораздо глупее, чем сейчас не создавать резервные копии компьютерных дисков. Эволюции уже будет достаточно, чтобы гарантировать это, потому что те, кто не делает резервных копий себя, постепенно вымрут. Поэтому может быть только один исход: фактическое бессмертие всей популяции человека, причём теперешнее поколение — одно из последних, у которого будут короткие жизни. В таком случае если у нашего вида тем не менее будет конечная продолжительность жизни, то знание, сколько всего будет жить людей, никак не ограничит эту продолжительность сверху, потому что оно не может сказать нам, как долго потенциально бессмертные люди будущего успеют прожить до наступления предсказанной катастрофы.
В 1993 году математик Вернор Виндж написал важное эссе под названием «Технологическая сингулярность» (The Coming Technological Singularity), в котором он оценил, что где-то в течение тридцати лет предсказать будущее технологий станет невозможно — это событие теперь называют просто сингулярностью. Виндж связывал приближающуюся сингулярность с реализацией искусственного интеллекта, и последующее обсуждение строилось на этом. Безусловно, я надеюсь, что к тому времени искусственный интеллект будет реализован, но пока ничто не указывает на теоретический прогресс, который, как я считаю, должен появиться прежде. С другой стороны, я не вижу причины выделять искусственный интеллект как ломающую стереотипы технологию: у нас уже есть миллиарды людей.
Большинство защитников сингулярности считают, что вскоре после прорыва искусственного интеллекта будет построен сверхчеловеческий мозг и что тогда, как говорит Виндж, «эре человека придёт конец». Но мои доводы, касающиеся универсальности человеческого мышления, исключают такую возможность. Поскольку люди уже обладают способностью объяснить и сконструировать всё что угодно, они уже могут перешагнуть через своё парохиальное происхождение, поэтому такого понятия, как сверхчеловеческое мышление, быть не может. Может только быть дальнейшая автоматизация, которая позволит быстрее осуществлять существующий тип человеческого мышления, с большим объёмом оперативной памяти, с передачей фаз «работы в поте лица» автоматам (не искусственному интеллекту). Многое