Сыграло роль не просто самомнение, но представление о системе как о простом линейном единстве, как о том, в чем не может быть ничего особенного и нового. Система ответила на это совершенно непредсказуемым образом. Можно сказать, как «монстр». Справиться с ним уже операторы не смогли. В эти грозные минуты борьбы сверхсложная система ведет себя как живое существо. Как субъект, проявляющий свободную волю.
«Атомный монстр» разрушил самого себя и все вокруг…
26 апреля 1986 года в Чернобыле на переживших шок от страха операторов взглянуло другое лицо, о котором сразу же попытались забыть. И не только религиозные мистики углядели во всем происходящем длань дьявола. Но ошибались все. Антропоморфные качества сверхсложные системы проявляют и проявляли всегда. Нужно лишь внимательно к ним приглядеться. Раньше, например, древние греки, называли эти явления «богами». Боги сражались друг с другом, не обращая внимания на испуганных людей, с ужасом и почтением взирающим на эти ужасные битвы…
Общаться со сверхсложной системой как с простой бывает, подчас, весьма опасно. Она может неожиданно проявить РАЗУМ (если эта система – продукт техники, то это и будет «искусственный разум»), и он, будучи неожиданным, может победить своего Творца, не готового к такому соревнованию. Еще создатель кибернетики Норберт Винер посвятил этому книгу «Творец и робот».
Человеческий ум привык к обращению с простыми системами. Он не приспособлен к общению со сверхсложными системами. Обычные решения, которые кажутся человеку наиболее очевидными в тех или иных ситуациях, как правило, приводят к обратным результатам. Вот что об этом писал Дж. Форестер еще в 1969г.
«Большинство наших интуитивных решений выработалось на законах цепей отрицательной обратной связи первого порядка… Например, если мы греем руки над огнем…, цель процесса состоит в получении тепла без ожога рук. Существенной переменной такого процесса является расстояние от огня… Температура является функцией расстояния от огня… Связь между причиной и следствием прямая и ясная.
Но в сверхсложных системах причина и следствие зачастую не связаны так тесно ни в пространстве, ни во времени. Структура сверхсложной системы не является простой цепью обратной связи… Это система более высокого порядка, включающая многие состояния (уровни) … Наряду с цепями положительной обратной связи, описывающими поиск цели, она содержит цепи положительной обратной связи, описывающие процессы роста.
…Опираясь на опыт, полученный на примерах простых систем, мы стараемся следовать своей интуиции при принятии решений и в случае сверхсложной системы. Это приводит нас к ошибкам…» (Дж. Форрестер, Динамика развития города, с. 21)
Это свойство сверхсложных систем Форрестер