Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе. Эми Уэбб

type="note">[25]. Во время этой прогулки родилось то, что мы сегодня называем булевой алгеброй: способ упрощения логических выражений (например, «и», «или», «не») через использование символов и чисел. Скажем, вычисление выражения «истина и истина» должно давать результат «истина», что физически могло бы соответствовать положению переключателей или крышек луз на компьютере. Булю потребовалось два десятилетия на формализацию своих идей. И еще только через сто лет кому-то пришло в голову, что булева логика в сочетании с теорией вероятностей могла бы превратить компьютеры из средства автоматизации элементарных математических операций в более сложные мыслящие машины. Технологии, позволяющей построить такую машину, еще не было – отсутствовали необходимые процессы, материалы и источники энергии, – и проверить теорию на практике было невозможно.

      Переход от теоретического представления о мыслящей машине к компьютерам, начавшим имитировать мышление человека, произошел одномоментно, с публикацией двух основополагающих статей: «Символический анализ релейных и переключательных схем» Клода Шеннона и «О вычислимых числах и их применении к проблеме разрешения» (Entscheidungsproblem) Алана Тьюринга. Изучая электротехнику в Массачусетском технологическом институте, Шеннон в качестве предмета по выбору взял философию, что выглядело необычно. Основным научным трудом, на который опиралась его диссертация, был трактат Джорджа Буля «Исследование законов мышления». Научный руководитель Шеннона, Вэнивар Буш, подал ему идею реализовать булеву логику в виде физических схем. Буш построил усовершенствованную версию «аналитической машины» Лавлейс и Бэббиджа – она называлась «дифференциальный анализатор», – но сконструирована она была в некоторой степени бессистемно. В то время не существовало теории, которая диктовала бы методику проектирования электрических схем. Открытие Шеннона заключалось в том, что он осуществил схемную реализацию булевой логики и объяснил, каким образом с ее помощью получить рабочую схему, способную складывать нули и единицы.

      В то же время, когда Шеннон работал над переносом булевой логики на физические схемы, Тьюринг экспериментировал с «универсальным переводчиком» Лейбница, способным представлять все физическое и научное знание. Английский ученый ставил перед собой задачу доказать так называемую Entscheidungsproblem, или «проблему[26] разрешения». Упрощая, можно сформулировать ее так: не существует алгоритма, при помощи которого возможно доказать истинность или ложность произвольного математического утверждения. Ответ оказался отрицательным. Тьюринг сумел продемонстрировать, что такого алгоритма действительно не существует, но побочным результатом его работы явилась математическая модель универсальной вычислительной машины[27].

      И это изменило все. Тьюринг понял, что программа и данные могут храниться внутри компьютера – для 1930-х годов это было радикальной идеей. До того все сходились на мысли, что машина, программа и данные