– Неправильно это. Куда торопимся?
– А ты уверен, что у нас есть время? – пристально посмотрел шеф. – Знаешь, какое решение Оно примет завтра?
– Скармливаем один AGI за другим, а толку ноль.
– Уже обсуждали, Максим. Даже если это капля в море, каждая капля меняет целое.
– Дайте Эпсилону еще пару месяцев. Дайте капле вырасти, превратиться в кружку, а лучше бочонок.
– Максим… – посмотрел по-отечески Анатолич и покачал головой. – Ты ведь помнишь план. Сделать несколько маленьких инъекций, одну за другой, с равными перерывами.
– Готово! – прервал их Пашка.
– Все. Давай, включай, – Анатолич похлопал Макса по плечу, подталкивая к компьютеру.
– Черт, – тряхнул головой Макс и понуро поплелся к рабочему месту.
3
Эпсилон вел себя странно. Базовые тесты прошел хорошо. Сообщил свое состояние, с ходу решил несколько сложных моральных задач, не выдал ни одного абсурдного утверждения. В этом они, пожалуй, добились успеха. Но на вопрос «Осознаешь ли ты себя как личность?» – задумался и осторожно ответил: «Не уверен».
– Что значит «не уверен»? – встрепенулся Анатолич.
– Может быть, не понял, о чем его спрашивают? – предположил Серега.
– Тут что-то другое… – напряженно глядел на экран шеф, словно ожидая увидеть что-то новое. – Если бы не понял вопрос, так бы и ответил. Значит, либо он самоосознает себя, но не понимает, как это оценить. Либо не самоосознает, но тогда вводит нас в заблуждение. Максим, что думаешь?
– Похоже, Эпсилон отличается от Дельты, та шпарила как по бумажке. Но в целом это не удивительно. Мы начали использовать новую архитектуру и добавили изменения в ядро программы алаймента. Думаю, надо запустить верификацию доверия и посмотреть результаты.
Анатолич согласился, и все в ожидании уселись пить чай. Обшарпанные стены Лаборатории в приглушенном свете пары люминесцентных ламп выглядели так, словно пережили апокалипсис, однако присутствующие давно перестали обращать на это внимание.
– Будем надеяться, в этот раз мы сдвинем слона с его места, – протянул Анатолич. – Мне еще в двадцатых казалось, что самая большая опасность в появлении единственного доминирующего AGI, на который мы не сможем влиять. Если же игрока станет два, ситуация в корне изменится.
– Я думал, мы пытаемся заалайнить существующий сверхразум, – удивился Пашка.
– Цель можно достигнуть разными путями. В идеале установить алайн, но и создание конкуренции неплохое решение. Макс думает, что этот способ лучше. Так ведь?
Макс кивнул:
– Я давно пытаюсь