Именно из-за этой своей фундаментальной, поистине вселенской значимости идея сингулярности вызывает столь острые дискуссии и противоречивые чувства. Для одних она символизирует высшую надежду человечества – на преодоление своих биологических и когнитивных ограничений, на обретение бессмертия и всемогущества через слияние с технологиями. Для других – величайшую угрозу самому нашему существованию и идентичности перед лицом "восстания машин", потери контроля над слишком умными и своевольными творениями рук человеческих. Между этими крайностями – целый спектр более умеренных и рациональных позиций, признающих одновременно и грандиозность перспектив, и серьезность рисков ИИ-сингулярности.
Давайте попробуем разобраться в этих сценариях будущего более детально и беспристрастно, отделив реальность от вымысла, разумные опасения от паранойи, обоснованные надежды от утопий. И начать стоит с главного вопроса – а возможна ли сингулярность в принципе? Есть ли веские основания полагать, что экспоненциальный прогресс искусственного интеллекта действительно приведет к появлению сверхчеловеческого разума, качественному скачку в истории нашей цивилизации?
Аргументы "за" основываются на нескольких достаточно очевидных предпосылках:
Мозг человека – это, в сущности, биологическая вычислительная машина, работа которой подчиняется законам физики, химии и теории информации. Как таковой, он может быть воспроизведен (эмулирован) на небиологическом, кремниевом субстрате при условии достаточно точного моделирования нейронной архитектуры и алгоритмов обработки сигналов. Проще говоря, нет никаких фундаментальных (только инженерные) препятствия для создания полноценного искусственного интеллекта, не уступающего человеку по общему интеллекту.
Уже сейчас специализированный искусственный интеллект, обученный на огромных массивах данных, способен превосходить средние (а иногда и выдающиеся) человеческие способности в целом ряде узких когнитивных доменов – от игры в шахматы и го до распознавания лиц и медицинской диагностики. С учетом продолжающегося экспоненциального роста вычислительных мощностей и объемов данных, есть все основания полагать, что этот разрыв будет нарастать, охватывая все новые сферы интеллектуальной деятельности. Создание генерального ИИ, интегрирующего множество "узких" интеллектов – лишь вопрос времени.
В отличие от биологического мозга, "железный" интеллект может быть