Возьмем для примера решение китайской Коммунистической партии ввести систему социального кредита, которая собирает информацию о частных лицах, компаниях, государственных организациях, следя за их надежностью и за тем, соблюдают ли они установленные правила. В 2009 году эта система была впервые введена на местном уровне, теперь действует уже по всей стране – и заносит в черные списки людей и организации, которые высказывают или публикуют в соцсетях что-либо, идущее вразрез с линией партии. Это решение, повлиявшее на жизнь 1,4 миллиарда человек, приняли несколько партийных лидеров вместе с главами китайских IT-гигантов, таких как Ali Baba или Baidu. Мнения тех, чью свободу слова и собраний, возможность получить образование, работу в госструктуре, путешествовать, даже получать жилье и госуслуги теперь ограничивает эта система, разумеется, никто не спрашивал.
И такое происходит не только в авторитарных государствах. В 2018 году основатель и директор Facebook[2] Марк Цукерберг объявил: алгоритмы работы его соцсети будут модифицированы так, чтобы облегчить пользователям «значимое социальное взаимодействие». На практике это означало, что платформа приоритизирует в новостной ленте посты от других пользователей, в первую очередь от родных и друзей, и пессимизирует выдачу постов от новостных агентств и известных брендов. Цель этих изменений состояла в том, чтобы увеличить вовлеченность пользователей, ведь люди с бо́льшим интересом читают и чаще «лайкают» посты своих знакомых. Основным последствием стало то, что пользователи начали больше времени проводить в Facebook с последующим обвальным распространением фейковых новостей и ростом политической поляризации: необъективные и попросту лживые посты теперь стремительно распространялись от одного пользователя к другому. Эта перемена повлияла не только на почти 2,5 миллиарда пользователей платформы – политические последствия этого сказались еще на миллиардах людей, не присутствующих в Facebook. А кто принял решение? Сам Цукерберг, главный исполнительный директор компании Шерил Сэндберг и еще несколько лиц из топ-менеджмента. Никто не посоветовался ни с пользователями платформы, ни с гражданами пострадавших от этого стран.
Что стояло за решениями китайской Коммунистической партии и Facebook? Ни в том, ни в другом случае они не были продиктованы принципами науки и техники. Не были они и очевидными следующими шагами на каком-то логически неизбежном пути прогресса.