Следующим сценарным фактором является уязвимость сверхсложных систем к бесконечно малым воздействиям – что можно использовать для организации диверсий. (За счёт нелинейного сложения несколько очень слабых событий могут иметь значительно больший эффект, чем каждое из них в отдельности, что уменьшает требования к точности выбора и реализации каждого отдельного события.) Конечно, чтобы правильно рассчитать такое воздействие, нужен сверхинтеллект, способный смоделировать сверхсложную систему. А значит, этот интеллект должен быть сложнее этой системы, и эта система не должна содержать других таких интеллектов. Такая ситуация может возникнуть на первых фазах развития искусственного интеллекта. Удар с помощью малых событий будет высшим проявлением криптовойны. Пример: аварии с отключением электричества в США и РФ при относительно небольших замыканиях. Такие точки уязвимости можно вычислить заранее. Более сложную уязвимость я не могу предложить, ибо не обладаю сверхинтеллектом. Однако ещё одним фактором может быть воздействие на родственников и друзей лиц, принимающих ключевые решения. Так нельзя уничтожить мир, но спровоцировать гигантский беспорядок можно – то есть перевести систему на более низкий уровень организации. В состоянии хаоса вероятность непреднамеренного применения оружия массового поражения увеличивается, а способность к разработке принципиально новых технологий уменьшается. Соответственно, если средства всемирного уничтожения уже созданы, это повышает шанс глобальной катастрофы, а если ещё нет – то, возможно, снижает. (Но это не так, если уцелели другие технологически полноценные страны, – для них такое событие станет спусковым крючком опасной гонки вооружений.) Примеры гипотетической точки в системе, бесконечно малое воздействие на которую приводит к бесконечно большим последствиям. Чаще всего речь идёт о принятии решения человеком, а точнее, о неком факторе, который перевешивает критический порог принятия решения. Скорее всего, речь может идти о: • решении о начале войны (выстрел в Сараево), • начале техногенной аварии (Чернобыль), • биржевой панике или другом опасном слухе, • отклонении астероида, • убийстве правителя. Как вариант, возможно малое воздействие на несколько удалённых точек, дающее синергетический эффект. Среди особо опасных террористических сценариев таких воздействий, доступных уже сейчас: • Влияние на родственников лиц, принимающих решения. Использование авиамоделей как своего рода телеуправляемых ракет, которые могут принести маленькую бомбу куда угодно. • Убийство правителей и других выдающихся людей. По мере развития технологий всё легче будет убить не только очень много людей, но и любого заранее избранного человека. Например, с помощью небольших высокоточных изделий (типа роботов-«шмелей») или вирусов, нацеленных на генетическую систему конкретного человека. • Сложные атаки с использованием Интернета и компьютеров. Например, создание закладки в компьютере, которая выдаёт неправильные данные только одному брокеру, заставляя его принимать неправильные решения. • Информационная атака (дезинформация): например, пустить слух (качественно сфабрикованный), что президент враждебной страны сошёл с ума и готовит превентивный удар по «нам» – это вызывает у «нас» желание ударить первыми. Что, очевидно, запускает «параноидальную» положительную обратную связь.
Ви переглядаєте статтю (реферат): «Уязвимость к сверхмалым воздействиям» з дисципліни «Структура глобальної катастрофи»
