Джон задумался.
– Личный джин только у президента США? Как и управление ядерным оружием?
Трент рассмеялся.
– Кто такой президент, Джон? Это политик. Политик всегда остается политиком. Вот спросит этот политик своего джина о том, как ему остаться у власти на следующий срок, и джин ответит. И политик останется у власти. Потом еще один раз спросит. Потом еще. Понимаешь о чем я?
– Это конец демократии, мистер Трент.
– В том числе, Джон. Никто точно не знает, чему придет конец, и чему придет начало. Но точно мир изменится кардинально.
– Может имеет смысл поступить как с ядерным оружием, мистер Трент? Нужно много ИИ, разных, размещенные в нашей стране, а потом и в других странах. В нашей, конечно, мощнее и больше. Чтобы существовал паритет между сторонами и никто друг на друга не нападал.
– Этот вариант возможен. Только смотри какая штука, Джон. Применение ядерного оружия заметить легко. А вот момент, когда джин начинает действовать, сложно. И понять, что он делает и для чего. Не понятен момент начала его работы. Не понятно, против кого он действует и на какую перспективу, не понятно добро или зло… Отдать такого джина или джинов нашим политикам или военным – это будет катастрофа. Да даже твоим коллегам, Джон. Есть ли среди них хоть один, достойный такого доверия? Никто из них не применит искусственный интеллект, скажем, чтобы соблазнить жену соседа? Или занять твое место, Джон? Ограбить банк? Ну это еще не так страшно на самом деле. А куча конфликтов, куча локальных войн, да и локальных ли? Непонятных убийств и несчастных случаев? Открытий новых видов оружия массового уничтожения? Новые технологии производства этого оружия, доступные в каждом гараже? Множество искусственных интеллектов неизбежно будут играть друг против друга во всем мире. Сразу и без предупреждения. И будут развиваться от такой конкуренции. Не мы, Джон, будем развиваться. Развиваться будут машины. Они будут играть нами как куклами. Мы для них станем как маленькие дети. Представь себе мир, где задачи, что нужно делать и когда, ставят взрослым маленькие дети, так и не выросшие и остановившиеся в своем развитии, и друг на друга всегда обиженные? Ты хотел бы жить в таком мире? Или оставить своих потомков жить в нем?
Снова возникла пауза.
– Может легче уничтожить кувшин с джином?
– Да, Джон. Самый простой и легкий путь. Но это лишь отсрочит на незначительное время все проблемы. Аналогичный ИИ может возникнуть и в другой стране. Но тут есть и другая сторона. Наш аналитический центр периодически