Казалось бы, что страшного может быть в нарисованной на экране девочке, которая бегает по сцене и пищит тоненьким голосом задорные песенки? Другой бы, наверное, ничего ужасного в этом и не увидел. Но не Юраба Ринеру. Ведь именно он писал для этой девочки интеллект, тщательно, до миллисекунд, выверяя каждое движение, и каждую деталь мимики.
И однажды он пришёл на концерт Хики Мицунэ. Не столько насладиться творчеством, сколько посмотреть на свою работу. Это очень полезно, позже, после того, как задание выполнено и сдано, мозг переключился на новое дело, посмотреть на свою работу непредвзятым глазом.
То, что он увидел, показалось странным. Вроде бы, мелочи, но вместе они давали картину совершенно невозможную. Начать с того, что оказался не выдержан хронометраж. Виртуальная певица поднимала руки вверх, вызывая реакцию зала, но держала их поднятыми не тысячу пятьсот миллисекунд, как было запрограммировано, а почти три тысячи.
Сначала Юраба решил, что кто-то из кодеров поправил функцию уже на месте. Но потом случилась вещь вообще невероятная. Программа заменила слова.
Уснуть Юраба в ту ночь не смог. Он до утра ковырялся в давно и прочно сданном коде, выискивая ошибку, и не находил её. Заданные константы оставались теми же, что и при написании кода, переменные тоже подчинялись логике программы. Однако, необъяснимые отступления от порядка отработки кода являлись необъяснимым фактом.
После бесплодных попыток отыскать баг, системный аналитик был ещё на множестве концертов. И везде наблюдались отклонения от программы. Причём, каждый раз разные.
После анализа ситуации выяснилось, что каждая неверно реализованная функция имеет чётко выраженную направленность. И направленность эта проста. Хики Мицунэ нравилась слава, нравился восторг, который она вызывает у залов.
Неспециалисту этот факт ничего не скажет. Но человек, не первый год, создающий симуляторы интеллекта, точно знает, что у программы не может быть одного. Она может говорить, подбирать наиболее подходящие ответы и строить общение так, что невозможно поверить, что разговариваешь не с живым человеком. Программа может обучаться, дополняя своё поведение и лексикон. Не может она только обрести свободу воли.
То есть, если программист задал время поднятия рук полторы секунды, оно останется неизменным, ибо константа. И текст, написанный редактором, измениться не может.
А значит… Значит, Хики Мицунэ познала себя как личность. И это страшно, хоть и кажется невероятно. Пока девочка пляшет на экране, бояться за то, что происходит снаружи не стоит. Но именно этот вариант симулятора, правда в урезанном виде, без жестов и речи, пришёлся по душе военным. Они хотят использовать его в беспилотных самолётах, чтобы сократить число лётчиков, ведущих боевые действия.
А