Искусственный интеллект. Большие данные. Преступность. Владимир Овчинский

о повышенном риске, связанном с автономными боевыми дронами – с одной стороны, и их превосходстве над робототехническими системами, где важнейшие решения удаленно принимает человек, является своего рода моделью принятия решения в более широкой области. Вне зависимости от моральных оценок, в разделенном и враждебном мире не будут работать какие-либо технологические запреты и ограничения на применение технологий, в том числе, связанные с ИИ. В условиях отсутствия доверия и цивилизационного раскола мира, пришедшего на смену двуполярному миру, каждая страна, чей научно-технологический потенциал позволяет воплотить в реальность эффективную, пусть и самую рискованную, технологию, обязательно сделает это по той причине, что в противном случае может оказаться беззащитной перед конкурентами.

      Аппаратные части роботов уже производятся в 47 странах мира. Софт для роботов пишется во всех уголках планеты, а не менее половины софта выложено в депозитариях, как открытый программный код. Единственным исключением являются законченные решения в области ИИ. Несмотря на то, что программы и компоненты ИИ широко представлены в открытых депозитариях, самые продвинутые решения в этой сфере относят к числу наиболее охраняемых ноу-хау. В настоящее время они являются монополией пяти стран мира, в основном США и Великобритании, и до некоторой степени Япония, Израиля и Китая. Ни она другая страна мира сегодня не способна изготовить по-настоящему продвинутые системы ИИ.

      Необходимо различать два типа угроз. Что касается создания оснащенных элементарным ИИ дронов, вооруженных минибомбами, отравляющими веществами и т. п.,то это уже реальность и контролировать данный процесс практически невозможно. Наиболее рациональной стратегией является заблаговременное производство систем оперативного обнаружения и уничтожения подобных дронов и других типов относительно элементарных боевых роботов, которые либо уже имеются, либо в ближайшие годы окажутся в распоряжении террористических сетей и злонамеренных государств.

      Идея использовать робота как орудие убийства[20] – тривиальная. Первым человеком, погибшим от робота, стал американский рабочий С. Форд в 1970-е гг. Он работал на автоматизированном предприятии, выполнявшем покрасочные работы для автомобильной индустрии. В результате нарушения программы, отвечающей за координацию автоматических манипуляторов одного из роботов, последний вместо дверцы схватил за шею рабочего и удушил его. В 2016 г. произошло первое целенаправленное убийство с использованием робота. В палате интенсивной терапии госпиталя ордена иезуитов в Сан-Мигеле больной умер от подачи в капельницу смертоносного состава вместо предписанного лекарства. Полицейские не смогли бы обнаружить данное преступление, если бы не случайность. Программист, которого банда подрядила, чтобы взломать программу, управляющую автоматической раздачей лекарств, поделился информацией в одном из закрытых чатов. В