Все мы знаем, что такое хайп – экстравагантные и необоснованные заявления, обычно используемые в коммерческих целях. Я до сих пор помню, как сильно был разочарован лазерным пистолетом, который попросил себе в подарок на Рождество 1957 года. Оказалось, это просто фонарик с разноцветными лампочками. С другой стороны, этот случай многому меня научил относительно хайпа в рекламе и заставил думать критически, делая выбор. Однако то надувательство выглядит совершенно невинным по сравнению с сегодняшним, окружающим искусственный интеллект (ИИ) и робототехнику. Насчет способностей роботов всегда делались ложные заявления и допускались преувеличения. Еще в 1927 мировая пресса муссировала новость о создании американской компанией Westinghouse робота, который уже через 10 лет заменит домашнюю прислугу и возьмет на себя все хозяйственные обязанности. То был первый случай хайпа в отношении роботов, но отнюдь не последний.
Роботы тесно связаны с нашей врожденной склонностью проецировать человеческие или животные качества на неодушевленные предметы. Такой антропоморфизм (или зооморфизм) давно эксплуатируется маркетологами и дизайнерами. Особенно это заметно в дизайне машин, которые могут быть какими угодно: от агрессивно «скалящихся» до очаровательных семейных. Поглядите вокруг и посчитайте, сколько «лиц» вам попалось. Вы можете не осознавать, что проецируете животные характеристики на предметы, но это влияет на то, как вы воспринимаете их, как с ними взаимодействуете и какие товары покупаете.
С роботами антропоморфическая связь особенно сильна. Они обладают способностью двигаться как животные, хоть и более скованно. Ученые утверждают, что роботы образовали новую перцептивную категорию, нечто среднее между одушевленными и неодушевленными предметами. Но в действительности это обман. Большое количество роботов-гуманоидов на наших рынках специально разработаны так, чтобы напоминать симпатичных мультяшных персонажей, забавно наклонять голову или делать другие милые жесты. Часто их демонстрируют на коммерческих ярмарках, конференциях, фестивалях, даже по телевизору, и при этом они находятся под контролем невидимых операторов. Роботы могут произносить реплики, запрограммированные заранее. А бывает, что оператор отвечает сам, просто искаженным голосом. Что тут плохого? Это просто забавно, не так ли? Но опасность лежит в формировании мифологии, которая значительно переоценивает способности машин. Благодаря ей мы допускаем возможность возникновения новой категории существ. А огромные преувеличения относительно ИИ усиливают эти раздутые ожидания от роботов. Иначе зачем вообще их создавать?
С момента своего зарождения в 1950-х ИИ претендовал на то, что будет создана компьютерная программа, думающая, как человек. Но интеллектуальная «инфляция» привела к тому, что уже к 1980-м просто «думать» стало недостаточно. Теперь компьютер должен представлять собой сверхинтеллект. Пусть он будет умнее, чем мы, и возьмет на себя контроль: ради нашего блага, как Бог, или чтобы убить нас, как Терминатор. Я не знаю, может ли такое произойти, да и никто в мире не знает. Но научные данные заставляют меня усомниться в подобной возможности. Даже невероятная программа Deep-Mind, AlphaGo, победившая лучшего в мире игрока в Го, ограничена только самой игрой. Она не может делать ничего другого и не понимает, что это игра, и она участвует в ней. Ей все равно, победит она или проиграет. Это такой же шаг к сверхинтеллекту, как подъем по лестнице – движение в сторону Луны.
Хайп, мифология и разные глупые рассуждения в XX веке не представляли проблемы. Но теперь все изменилось. Теперь хайп, переоценка способностей ИИ и роботов могут увести нас на опасную территорию и оказать негативное влияние на человеческое общество. Тут можно привести несколько очевидных примеров, в частности использование компьютерных программ для принятия решений, воздействующих на человеческие жизни: кому выдавать или не выдавать ипотеку, паспорт, заем, брать на работу и даже выпускать под залог при аресте. Быстрое развитие и широкое распространение этих «алгоритмов решения» – страшная ошибка. В стремлении быстрее развернуть, программы не тестировали правильно, и оказалось, что они склонны к расовой, этнической и гендерной дискриминации. Несправедливость со стороны алгоритмов – одно из последствий неправильного понимания человеком ограничений, связанных с технологиями.
Еще один, более тревожный пример, это использование тех же алгоритмов в вооруженных силах. Там разрабатывают роботизированное оружие: боевые самолеты, танки, суда и подводные лодки. Несмотря на неспособность ИИ понимать законы войны и подчиняться им, такое роботизированное оружие отправляют в свободное плавание, позволяя самому искать цели и расстреливать их без надзора человека. Разве не безумие? И основано оно на хайпе.
Тем не менее роботы и искусственный интеллект могут принести человечеству немалую пользу с учетом того, что мы вступаем в новую эру климатических изменений и глобальных пандемий. Эта книга является вкладом в наше понимание способностей и ограничений робототехники. Если вы предпочитаете фантастические истории про роботов, она вам не подойдет.