Сайт журнала «Популярная механика» http://www.popmech.ru не так давно «порадовал» нас статьей про кодекс чести для боевых роботов. К кодексам чести всех веков и народов я испытываю некоторое подозрение, поскольку они сочинялись чаще всего скорее для манипуляций. Кого кем? Ну разумеется, люди хитрые стремились манипулировать людьми честными. Или простоватыми. А теперь люди хитрые стремятся манипулировать с помощью еще одного средства – угрозы, которую могут создавать роботы.

Люди принимали много всяких правил о ведении войны. Это было удобно – для их противников. Ведение войны по правилам делает сторону, эти правила соблюдающую, предсказуемой и, следовательно, более уязвимой.

Война есть дело бесчеловечное, когда одна сторона удовлетворяет свою жадность за счет уничтожения другой, и предлагать правила по более гуманному умерщвлению – это занятие, достойное секты самоубийц, но не нормальных людей. Враг должен быть уничтожен. Кто с мечом к нам придет, от меча и погибнет – эта библейская истина, актуальная сегодня так же, как и 2 000 лет назад.

Доклад о кодексе чести боевых роботов выпущен исследовательским центром американских ВМС. В нем проблема поведения роботов решается путем составлении особых «воинских кодексов» для роботов, выполнение которых «намертво» будет вшито в их железные мозги.

К слову, уже к 2010 г. треть всей дальней авиации США будет состоять из беспилотных устройств, а к 2015 г. автоматической будет треть всей наземной бронетехники.

«Стремление разработчиков как можно скорее выйти на рынок с реальными предложениями, - говорится в докладе, - отбрасывая необходимую проработку этических моментов использования боевых автономных систем, дает мало надежды на то, что первые поколения таких систем и роботов не совершат ошибок, которые могут стоить многих людских жизней».

Другими словами, жажда наживы заставляет лишившихся предохранительного клапана в виде морали разработчиков насыщать мир машинами для убийства, поведение которых не до конца предсказуемо, контроль под вопросом, надежность – непонятна. Неужели такой конец – это действительно то, что мы заслуживаем?

Бубенцов В.Ю.