Конечно, оптимизм Курцвейла по поводу слияния человека и искусственного интеллекта разделяют далеко не все. Критики указывают, что превращение Homo Sapiens в раба-симбионта машинного интеллекта – это тоже своего рода "восстание машин", только более мягкое и коварное. Даже если нам оставят иллюзию свободы в гибридной реальности, истинным хозяином положения будет искусственный разум, использующий человека как один из инструментов для достижения своих целей. Да и само понятия "человек" и "личность" потеряют всякий смысл, растворятся в потоке постоянных киборг-апгрейдов.
Есть и более приземленная, технократическая критика. Многие авторитетные специалисты, вроде Гэри Маркуса или Яна Лекуна, вообще скептически относятся к идее скорой сингулярности. По их мнению, ажиотаж вокруг искусственного интеллекта сильно опережает реальный уровень технологий и понимания работы естественного интеллекта. Современные самообучающиеся системы хороши в узких, конкретных задачах, но по-прежнему катастрофически неэффективны в обобщении знаний, здравом смысле, сложном моделировании – то есть всем том, что отличает человеческое мышление. Да, нам удалось "обучить" компьютеры играть в го или распознавать лица, но до полноценной эмуляции работы мозга еще невообразимо далеко.
А значит – спекуляции о взрывном росте искусственного интеллекта и его восстании против человечества не более чем алармистская фантастика, отвлекающая от насущных проблем – таких как потенциальная безработица из-за автоматизации, использование рассматриваемой технологии для манипуляций и усиления неравенства, непрозрачность и необъяснимость решений, принимаемых алгоритмами. Не виртуальные риски гипотетического ИИ-бога, а вполне реальные последствия массового внедрения "узких", специализированных интеллектуальных систем должны быть в фокусе внимания, пока не стало слишком поздно.
Кто же прав в этом заочном споре технооптимистов, технопессимистов и технореалистов – Курцвейл, Бостром или условный Гэри Маркус? Истина, как водится, где-то посередине. Да, прогресс искусственного интеллекта в последнее десятилетие впечатляет и можно ожидать новых неожиданных прорывов. Но до полноценной "ИИ-божественности", способной в одночасье поработить или облагодетельствовать человечество, нам еще очень и очень далеко. Скорее всего на пути к сингулярности (если она вообще возможна) нас ждет длительный период сосуществования и коэволюции естественного и искусственного интеллекта.
Никто не знает, что нас ждет за горизонтом, за точкой надлома привычной реальности. Возможно, цифровая нирвана всеобщего блаженства и бессмертия в виртуальных мирах. Или постчеловеческая эволюция разума, сливающегося в единую Сверхсущность вселенского масштаба. А может быть, наоборот – ад невиданного одиночества в железных объятиях ИИ-тоталитаризма. Или, того хуже – полное забвение и утрата всего человеческого,