– Это просто машина, – фыркнул Роберт. – Известно, что на все эти замысловатые тесты полностью полагаться не следует. Между симуляцией самосознания и его реальным наличием существует тонкая, но четкая грань. Наличие имени не превращает ИИ в личность.
Мозг Джейсона работал в ускоренном режиме, пытаясь переварить услышанное. Значит, вот эти колонны и есть тот самый Альфред, с которым он говорил не так давно. Во время их встречи ИИ демонстрировал такой уровень самосознания, что даже страшно. Но, может, Роберт прав и это просто машина?
Ладно, сейчас не до этого. Надо бы еще узнать побольше.
– Если он такой самосознающий, что мешает ему попытаться захватить мир или что-то в этом роде? – шутливо спросил Джейсон.
– Это в кино, – засмеялся Роберт. – Предположим, мы создали идеальный ИИ, но его могуществу есть множество препятствий. Даже к внутренней сети у Альфреда весьма ограниченный доступ, не говоря уж о сетях общего пользования. А связь с индивидуальными виар-шлемами осуществляется через серьезно закодированный двусторонний канал. Да и в случае доступа к общей сети – почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. – Роберт задумчиво смотрел на черные обелиски. – Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… – он несколько растерянно замолчал.
– Не думаю, что Джейсону интересны твои философические бредни, – заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.
– Почему же? Очень интересно, – ответил Джейсон, и Роберт посмотрел на него с признательностью. – А что Альфред может делать с игроками в игре? Залезть в мою память, например?
Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.
Что здесь происходит?
– Совершенно невозможно при теперешнем аппаратном обеспечении, – заговорила наконец Клэр. – Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.
Роберт внимательно посмотрел на Джейсона.
– А почему вы спросили именно про доступ к памяти?
– Ну-у… Так, в голову пришло, – старательно-небрежно ответил тот. – Шлемы обеспечивают доступ к частям мозга, отвечающим за сенсорную информацию. Почему тогда не к памяти, например?
– Интересно, конечно, – хмыкнул Роберт. – Только вряд ли нам дали бы разрешение на подобные разработки. Это все-таки опасно, – он улыбнулся в ответ на нервную гримасу Клэр.
– Вы упомянули инструкции второго уровня, – Джейсон обратился к Клэр, – то есть должны быть инструкции первого уровня?
– Да. Инструкция первого уровня – удерживать игроков в игре.
Джейсон