Рассуждение о Симуляции это логическая теорема, которую разработал Ник [Bostrom 2003] (мы уже упоминали её в контексте рисков внезапного отключения «Матрицы» и принципиально новых открытий). Вот как рассуждает Бостром: Исходя из текущих тенденций в развитие микроэлектроники, кажется вполне вероятным, что рано или поздно люди создадут саморазвивающийся искусственный интеллект. Нанотехнологии обещают предельную плотность процессоров в триллион штук на грамм вещества (углерода) – с производительностью порядка 10 флопс. Так же нанотехнологии позволят превращать залежи каменного угля в огромный компьютер (поскольку основным строительным материалом для него, возможно, станет углерод). Это открывает перспективу превращения всей Земли в «компьютрониум» – одно огромное вычислительное устройство. Мощность такого устройства оценивается в 10 операций в секунду. (Что соответствует превращению миллиона кубических километров вещества в компьютрониум, который покроет всю Землю слоем в 2 метра.) Использование всего твёрдого вещества в Солнечной системе даст порядка 10 флопс. Очевидно, что такая вычислительная мощь могла бы создавать детальные симуляции своего человеческого прошлого. Поскольку предполагается, что для симуляция одного человека нужно не более чем 10 флопс (это число основано на количестве нейронов и синапсов в мозгу, и частоте их переключения), то это даст возможность симулировать одновременно 10 людей, или 10 цивилизаций, подобных нашей, с нашей же скоростью развития. Вряд ли компьютрониум направит все свои ресурсы на симулирование людей, но даже если он выделит на это одну миллионную усилий, это будет всё ещё порядка 10 человеческих цивилизаций. Итак, даже если только одна из миллиона реальных цивилизаций порождает компьютрониум, то этот компьютрониум порождает порядка 10 цивилизаций, то есть на каждую реальную цивилизацию приходится 10 виртуальных. Здесь важны не конкретные цифры, а то, что при вполне реалистичных предположениях множество симулированных цивилизаций на много-много порядков больше множества реальных. Отсюда Бостром делает вывод, что верно по крайней мере одно утверждение из трёх: 1) Ни одна цивилизация не способна достичь технологического уровня, необходимого для создания всемирного компьютрониума. 2) Или КАЖДЫЙ возможный компьютрониум во вселенной будет абсолютно не заинтересован в моделировании своего прошлого. 3) Или мы уже находимся внутри имитации в компьютрониуме. При этом пункт 2 можно исключить из рассмотрения, потому что есть причины, по которым хотя бы некоторые компьютрониумам будет интересно, каковы именно были обстоятельства их возникновения, но нет такой универсальной причины, которая могла бы действовать на все возможные компьютрониумы, не позволяя им моделировать своё прошлое. Причина интереса к своему прошлому может быть много – например, это может быть вычисление вероятности своего возникновения, чтобы оценить плотность других сверхцивилизаций во вселенной или симуляция какой бы то ни было реальности исключительно ради развлечения. П.1 означает, что или компьютрониум и симуляции в нём технически невозможны, или что все цивилизации гибнут раньше, чем обретают возможность его создать, что, однако, не означает с необходимостью вымирания носителей этой цивилизации, то есть в нашем случае людей, а только крах технического прогресса и откат назад. Однако пока не видно объективных причин, делающих компьютрониум невозможным. (Например, утверждения о том, что симуляция сознания невозможна, поскольку сознание является квантовым эффектом, не работает, так как возможны квантовые компьютеры.) При этом нельзя сказать, что компьютрониум невозможен в принципе, так как люди свойственно видеть сны, не отличимые изнутри от реальности (то есть являющиеся качественной симуляцией), а значит, с помощью генетических манипуляций можно вырастить супермозг, который видит сны непрерывно. Таким образом, рассуждение о симуляции сводится к острой альтернативе: «Или мы живём в мире, который обречён погибнуть, или мы живём в компьютерной симуляции». Итак, гибель мира в этом рассуждении не означает вымирания всех людей, а только гарантирует прекращение научно-технологического прогресса до того, как компьютрониум будет создан. Гарантированность означает, что это произойдёт не только на Земле, но и на всех остальных возможных планетах. Это означает, что имеется некий очень универсальный закон, который препятствует подавляющему (на много-много порядков) большинству цивилизаций создать компьютрониум. Возможно, это происходит просто потому, что компьютрониум невозможен, или потому что моделирование человеческого сознания на нём невозможно. Но может быть, что это происходит потому, что ни одна цивилизация не может достичь уровня компьютрониума, так как сталкивается с некими неразрешимыми противоречиями и или погибает, или откатывается назад. Эти противоречия должны носить универсальный характер, а не быть связаны только, скажем, с атомным оружием, потому что тогда цивилизации на тех планетах, в коре которых нет урана, смогут устойчиво развиваться. Примером такого универсального противоречия может быть теория хаоса, которая делает системы выше определённого уровня сложности принципиально нестабильными. Другой пример универсального закона, ограничивающего существование систем – это старение. Оно работает так, что ни один человек не может прожить больше 120 лет, хотя для каждого находятся свои конкретные причины смерти. Можно сказать, что ускорение прогресса – это старение наоборот. Отметим, что наличие универсального процесса уничтожения, дающего верхний предел существованию всех цивилизаций, существование которого подчёркивает Универсальный DA Виленкина и Олума, означает гораздо более мощное давление на среднестатистические цивилизации. Например, наличие верхнего предела продолжительности жизни человека в 120 лет означает среднюю продолжительность жизни около 70 лет. Универсальный процесс уничтожения должен подавлять даже самые живучие цивилизации, а мы, скорее всего, являемся среднестатистической цивилизацией. Следовательно, на нас этот процесс должен начать действовать раньше и с избыточной силой. Известное возражение на эти рассуждения опирается на то, что симуляция реальности вовсе не обязательно является копией того, что было в прошлом. (См. обзор возражений рассуждению о симуляции в статье Данилы Медведева «Живём ли мы в спекуляции Ника Бострома?» ) И если мы находимся в сконструированном мире, то это не позволяет нам делать выводы о том, каков реальный мир. Как, например, не может персонаж из компьютерной игры догадаться о реальном устройстве мира людей. Однако то, что мы не знаем, каков мир за пределами симуляции, не мешает нам знать, что мы всё же находимся в симуляции. Здесь важно различать два смысла слова «симуляция» – как компьютерной модели, и как того факта, что эта модель напоминает некое историческое событие из прошлого. При этом можно предположить, что большинство симуляций не являются точными копиями прошлого, и значительная доля симуляций вообще не имеет отношения к прошлому той цивилизации, которая их затем создала. Также как в литературе большинство романов не является историческими романами, и даже исторические романы не точно совпадают с прошлым. Если мы находимся внутри симуляции, нам угрожают все те же риски гибели, которые могут случиться и в реальности, плюс вмешательство со стороны авторов симуляции, которые нам могут подкинуть некие «трудные задачки» или исследовать на нас некие экстремальные режимы, или просто поразвлечься за наш счёт, как мы развлекаемся, смотря фильмы про падение астероидов. Наконец, симуляция может быть просто внезапно выключена. (У симуляции может быть предел ресурсоёмкости, поэтому авторы симуляции могут просто не позволить нам создавать настолько сложные компьютеры, чтобы мы могли запускать свои симуляции.) Итак, если мы находимся в симуляции, это только увеличивает нависшие над нами риски и создаёт принципиально новые – хотя появляется шанс внезапного спасения со стороны авторов симуляции. Если же мы не находимся в симуляции, то велик шанс, что любые цивилизации по причине катастроф не достигают уровня создания компьютрониума, который мы могли бы достичь к концу XXI века. А это означает, велика вероятность неких глобальных катастроф, которые не позволят нам достичь этого уровня. Если мы придерживаемся Байесовой логики, нам следовало бы приписывать равные вероятности независимым гипотезам. И тогда мы должны были бы приписать гипотезе о том, что наша цивилизация не достигнет уровня компьютрониума 50 % вероятности (что означает либо невозможность достижения его, либо неизбежность краха цивилизации). Эта оценка совпадает по порядку величины с оценками, которые мы получили другими способами. Получается, что рассуждение о симуляции действует таким образом, что обе его альтернативы ухудшают наши шансы выживания в XXI веке, то есть его нетто вклад отрицательный, независимо от того, как мы оцениваем шансы одной из двух альтернатив. (Моё мнение состоит в том, что вероятность того, что мы находимся в симуляции, – выше на много порядков, чем вероятность того, что мы реальная цивилизация, которой суждено погибнуть.) Интересно отметить повторяющийся паттерн: альтернатива с SETI также имеет отрицательный нетто-эффект – если они рядом, то мы в опасности, если их нет, то мы тоже в опасности, поскольку это значит, что некоторые факторы мешают им развиваться.
Ви переглядаєте статтю (реферат): «Рассуждение о Симуляции» з дисципліни «Структура глобальної катастрофи»
