Небольшой опыт нашей цивилизации (всего каких-нибудь 7 тысяч лет) свидетельствует о том, что, несмотря на тяжелейшие катаклизмы и бедствия, революционные потрясения и войны, homo sapiens в биологическом развитии не претерпел каких-либо изменений и, несмотря на многочисленные социальные язвы (непрекращающуюся агрессивность, преступность, коррупцию, наркоманию, алкоголизм и проч.) некоторая (едва заметная) ментальная эволюция человечества все же происходит. Все меньше остается государств и структур, в которых грубо попираются права человека, все больше народов строят свои отношения на основе равенства и партнерства. Похоже, что такова тенденция общечеловеческого развития. И никакой искусственный интеллект и формируемый им Homo Deus (Человек-Бог) не смогут эту тенденцию пресечь.
Поэтому вряд ли в будущем миллиарды представителей «низших каст» будут безропотно мириться с потерей своей индивидуальности. И в вероятностном компьютерном раю «высшим кастам» волей-неволей придется делиться социальными благами, в том числе властью, с «низшими». Но дело не только в этом.
Возможности чисто машинных систем, в том числе роботов с искусственным интеллектом, при всех успехах компьютерных технологий в выполнении операций, поддающихся алгоритмизации, пока несопоставимы с аналитическими и творческими потенциями человеческого мозга. Мозг человека незаменим. Более того, его возможности бесконечно велики, настолько, что изучить их полностью, как считают многие ученые, вероятно, не удастся никогда.
Сегодня все чаще ставится вопрос: сможет ли человек в будущем создать существо (гомункулуса, киборга, Голема или что-то подобное), которое намного будет превышать его собственные интеллектуальные способности? Если исходить из того, что человек на протяжении тысячелетий своего существования постоянно пытался преобразовать окружающий мир и создавал всевозможные механизмы, которые намного увеличивали его физические силы (от примитивных палок-копалок до современных