Если мы не примем меры, я боюсь, что экспоненциальный неконтролируемый рост интеллекта в областях ИИ, роботостроения, биоинженерии и генетики приведет к систематическому пренебрежению главными принципами человеческого существования, ведь у техники нет этики – а общество без этики обречено.
Эта дихотомия проявляется всюду: все, что может быть оцифровано, виртуализировано, роботизировано, – будет, но есть такие вещи, которые нельзя автоматизировать – потому что они делают нас людьми.
Эта книга рассказывает о том, куда нас могут привести экспоненциальные технологии в ближайшие десять лет, что окажется на кону, и объясняет, что мы можем сделать сегодня, чтобы предотвратить негативные последствия. Независимо от личных философских или религиозных взглядов, все, пожалуй, согласятся, что технологии уже настолько заполнили нашу жизнь, что любой дальнейший экспоненциальный прогресс должен стать основанием для нового вида дискуссии, чтобы определить, куда и зачем он нас ведет. И вот сейчас, когда технологии в буквальном смысле готовы ворваться в наши тела, нам пора посовещаться – и этот разговор обещает быть самым главным из тех, что еще предстоят человечеству.
Глава 2. Технологии против нас
Давайте остановимся на секунду и поговорим о человечности.
Когнитивные возможности человека во многом зависят от нашего генетического кода и от активности нейронов в нашем мозге.
Если усовершенствовать эти структуры и наладить более крепкие межнейронные связи, вскоре мы сможем отметить более высокую производительность и другие отклонения от нормы в лучшую сторону. Это позволило бы увеличить средний показатель IQ (от 70 до 130) до 100023.
Сложно себе представить, какие возможности откроет подобный уровень интеллекта, но они точно превзойдут все наши ожидания. Путем редактирования ДНК у эмбрионов когнитивная инженерия сможет сформировать индивидуумов, чьи возможности будут выше, чем у всех вместе взятых гениев за всю историю человечества. Этот процесс, скорее всего, начнется уже к 2050 году. Обновить операционную систему машины – это одно дело, но перепрограммировать разумное существо, обладающее памятью и свободной волей, – что это будет значить? Конечно, это вопрос имеет смысл задавать, только если данные свойства все еще будут что-то значить в 2050-м.
Давайте для начала попробуем определить, что это значит – быть человеком. Бесчисленное количество философов билось над этой проблемой, но именно сейчас этот вопрос важен как никогда: новые технологии уже скоро сделают возможным усовершенствование, изменение, перепрограммирование