– Ну, Колин, это просто. Дело не только, и не столько в том, кому быть Хозяином металла. Ведь они не могут не понимать, что по ночам, когда они бессильны, и практически находятся в состоянии анабиоза, мы отделяем их от руды. И убиваем! Ведь переплавка – это как раз и есть убийство! А они способны передавать такую информацию своим потомкам – через встроенную, так сказать, инстинктивную, память! И кое-кто из наших (Не будем называть кто, хотя это как раз – доктор Бенджамин!) именно поэтому категорически против их внедрения в производство! Никто, по его словам, не может гарантировать, что этот, хоть и примитивный, искусственный разум, не захочет перестать быть рабом! И жертвой!
А «внедрить» в программу тот её блок, где навсегда, и жёстко, закреплялось бы запрещение на причинение вреда человеку, нам никак не удаётся!
Это – как палка о двух концах: сделаешь процессор посложней – так мошки не могут его правильно воспроизвести при размножении. И программы поведения и – главное! – добычи, сбиваются. А сделаешь попроще – и полностью утрачивается контроль над поведением нанорудокопов!
– То есть, получается, вы сейчас пытаетесь повторить и вбить им в процессор Первый Закон робототехники, изобретённый ещё Айзеком Азимовым?
– Молодец. Я рад. Что ты его прочёл. Полезная книга?
– Да! И интересная!
– Вот-вот, и я о том же… – Артур МакГи помрачнел, глядя теперь не в дальний конец коридора, а себе под ноги, – Читать книги, даже с экрана планшета или айфона, сейчас никто не хочет. Кроме детей учёных – которых их родители тоже хотят сделать учёными. Передать, так сказать, «дар», и хорошо оплачиваемую работу – по наследству… Но мы отвлеклись от темы.
Ты прав: нам нужно попытаться внедрить в «сознание» наших мошек инстинкт «непричинения» вреда – именно человеку. А это – трудно. Сложно. Хотя бы потому, что объём дополнительной информации, который мы можем затолкать на кристаллы памяти микропроцессора, сравнительно невелик, а понятие «человек» – весьма расплывчато! И точного определения, кто – может считаться человеком, а кто – нет – не существует.
– Как это? – Колин действительно был удивлён. Ведь это так просто! Он, и па, и ма, и остальные люди – люди! А собаки – они собаки! Так же, как и воробьи – воробьи!..
– Вот скажи, например: безногого и безрукого человека можно считать человеком? Ведь он не может двигаться! И конечностей у него нет! А человекообразного робота, абсолютно похожего внешне на нас – ну, ты видел таких роботов в музее истории! – но управляемого программой – можно? А бездомного, который ни дня не работал, а живёт, как пиявка, присосавшись к телу Государства, на пособия? А сумасшедшего? А маньяка-убийцу?
О, Колин, я бы мог привести ещё массу примеров людей – «нелюдей», утративших и человеческий облик, и человеческую душу…
Но как нам все эти тонкости и сложности – впихнуть на считанные ангстрёмы флэш-памяти? К тому же ещё неизбежно изменяемой при «размножении»?!
Вот поэтому в том числе и дядя Эрик – тоже против