«Отозвавшись на обращение «профессор», я поторопилась», – подумала она.
Абуладзе пожал плечами и внимательно посмотрел на девушку:
– Безусловно, она умнее нас. Где и когда были столкновения человечества с искусственным интеллектом?
– Да не было таких столкновений! – ответил Кутельский.
– Знаете почему? – Элизабет скомкала ком из пены на столе перед Чарли. – Вот эта сфера – личность человека. Внутри клубятся мотивы. Извлеченные из подсознания мотивы при достижении поверхности сферы становятся желаниями.
– Я это проходил в школе, – буркнул Кутельский.
– Эго, – пояснил Лев Саныч.
Роверто принялась водить пальцем по поверхности пенной сферы. Мыльные шарики лопались, и ком уменьшался на глазах.
– Общество рисует узоры на поверхности сферы, правила и ограничения, согласно которым человек живет. Условия.
– Супер-Эго, – сказал профессор, – Это экзамен по психологии?
Роверто не ответила на вопрос, а продолжила:
– У искусственного интеллекта нет мотивов и нет подсознания. То есть, если личность Моники – сфера, то она пуста, и робот действует согласно написанной разработчиком программе.
– Так что происходит с программой нашей девушки? – Абуладзе хлопком ладони уничтожил ком. – Я могу вспомнить только три случая, когда ученые баловались личностью искусственного интеллекта.
– Планета Дрюма, – вспомнил Кутельский.
– Дюрма, – поправила Роверто.
– Но там было не то, – сказал Абуладзе, – Тамошние ученые стимулировали наркотическое опьянение у искусственного разума. Создали ему рецепторы удовольствия и мотивировали удовлетворять их. А так как любой робот питается энергией, искусственный интеллект Дюрмы мгновенно рассчитал кривую угасания удовольствия, определил, сколько ресурсов ему для этого понадобится, и обесточил планету.
– При этом он закрылся от человечества и до сих пор пребывает в нирване, – добавила Элизабет.
– Боевые роботы не превышают девятого уровня, – сказал Чарли, – Я всегда думал, они быстрее, сильнее, эффективнее человека. Что мешает им нас подмять под себя?
– Нет мотива, юноша, – профессор посмотрел на Элизабет, – Извечный вопрос «зачем?» Столкновение искусственного интеллекта и человека невозможно, потому что собственное существование для робота не является ценностью. Он не будет бороться за свою жизнь, потому что мотива жить у искусственного интеллекта нет.
Абуладзе смахнул пену со стеллажа и увидел на полке саксофон.
– Категории «ценность» и «стоимость». Робот может посчитать стоимость своего существования, но это – не ценность. У него нет мотивов.
– Сто-и-мость, – Кутельский произнес слово по слогам, – Поэтому нас не заменили роботами здесь, профессор?
– Конечно! – хмыкнул Лев Саныч. – Представь! «Гала Гео» вбухает кучу денег в супер-робота, а тот ничего не найдет! Ужас! А если мы облажаемся, нам можно просто не заплатить.