Свяжитесь с нами
 

Будущее, прогнозы Четырнадцать правил для настоящих роботов

28 ноября 2008 | Автор: wolf_old | Просмотров: 5061
Роботы - аналог домашних животных или конкуренция человеку? Что надо сделать, чтобы они плавно вошли в человеческий быт? Предлагается несколько правил, с учетом которых должно происходить встраивание роботов в человеческое общество.

Правило первое: не доверять роботам задач, которые связаны со значительным риском для людей. Действия роботов должны быть предсказуемыми, а возможность катастроф сведена к минимуму.

Правило второе: необходимо повышать «самостоятельность» роботов, то есть расширять спектр дел, которые они должны выполнять.

Правило третье: ни при каких условиях не доверять роботам оружие, или по крайней мере не предоставлять им управление вооружением.

Правило четвертое: Законы поведения роботов должны основываться на строгой научной базе. (Законы робототехники Азимова основаны лишь на его интуиции фантаста, не имеющего опыта в роботостроении, а значит, его законы лишены научной базы. Более того, сам автор в своих произведениях описывает ситуации, когда сформулированные им правила перестают работать в нужном направлении).

Правило пятое: программирование роботов с учетом ряда условий и принципов, не противоречащих друг другу. (Например, следуя принципу максимально полезных действий, робот должен выбирать из целого ряда возможных поступков лишь те, которые принесут пользу как можно большему количеству людей. С другой стороны, следуя этому принципу, робот может принести в жертву жизнь одного человека, чтобы спасти жизнь пятерых. Такие противоречия должны быть исключены).

Правило шестое: постоянное обучение роботов. Это позволит «умным» машинам гибко изменять свое поведение с течением времени, анализировать собственные действия, выбирая из них правильные и ошибочные.

Правило седьмое: наделение роботов основным набором эмоций. Подобная «функциональность» крайне необходима для интеграции роботов в человеческое общество – машины должны с легкостью распознавать эмоции человека, на основании чего выбирать собственную стратегию поведения.

Правило восьмое: робот не должен претендовать на ресурсы, необходимые для выживания людей. В мире осталось мало чистой воды, не хватает продовольствия, не в последнюю очередь потому, что для получения топлива для своих железных коней-автомобилей, бездарно тратящих земные ресурсы, используется драгоценное зерно и другие съедобные продукты, которых катастрофически не хватает в других регионах планеты. Если роботы включатся в конкуренцию за воду, пищу, воздух и кров, то человечеству это обойдется дороже, чем просто отказ от роботов вообще.

Правило девятое: роботы не должны участвовать в воспитании человеческих детенышей.

Правило десятое: роботы не должны влиять на религиозную сферу человечества – в конце концов, это всего лишь железные кастрюли с микросхемами!

Правило одиннадцатое: не надо воспринимать роботов иначе, чем просто роботов!

Правило двенадцатое: не должно быть робота, замыкающего на себя все информационные потоки мира.

Правило тринадцатое: Если таковой робот есть, то должен быть дублирующий его робот, независимый от первого.

Правило четырнадцатое: Если есть роботы из п.13 и 14, то должен быть хотя бы один человек с молотком, способный их выключить!

Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь.
Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.
  1. Южная Корея разрабатывает сборник законов для роботов
    Правительство Южной Кореи в 2007 году приступило к разработке закона, который будет нормировать взаимоотношения между людьми и роботами. Такое заявление прозвучало от представителей Министерства Торговли, Промышленности и Энергетики.
    Планируется разработать «Устав этических норм для роботов» (Robot Ethics Charter) для разработчиков и пользователей. Положения этого документа будут использоваться при разработке программного обеспечения роботов.

  1. По поводу вашей статьи "Четырнадцать правил для настоящих роботов"
    ИМХО ее можно рассматривать в лучшем случае как юмор, потому что:

    Краткие комментарии к правилам:
    Правило первое. В том то и дело, что роботы более предсказуемы чем люди (для их поведения можно математическую модель построить), поэтому они и более надежны, а значит и риска от их действий меньше чем от действий человека. А по поводу свет выключат или хакеры залезут, дак такого в местах «со значительным риском для людей» быть не должно, а если происходит то не роботы, а люди в этом и виноваты.
    Правило второе. «Самостоятельность» это скорее адаптируемость, автономность – независимость от окружающей среды (например: независимость от источника питания => собственный ядерный реактор smile ) и способность принимать решения без участия человека (вот это самостоятельность). А то что вы описали это скорее «многофункциональность». И пожалуй слово «должны» следует заменить на «могут».
    Правило третье. А зачем им оружие? Они нас голыми манипуляторами разделают при желании recourse . Да и любой предмет при можно использовать как оружие – человеческое тело вообще очень уязвимо. Но я так понимаю вы все-таки имели в виду не оружие, а ОРУЖИЕ вроде баллистических ракет с ядерным зарядом – ну уж за это не стоит беспокоится, человеки настолько эгоистичны и параноидальны что ро-ботов туда в обозримом будущем не пустят (искусственный интеллект – это можно, а роботов – ни-ни sad ). Другое дело что замена экипажа боевых машин роботами это экономия человеческих ресурсов (жизней), а как сделать чтобы роботы воевали против того против кого надо – это задача военных про-граммистов fellow .


    Правило четвертое. А вы однако считаете себя умнее Азимова? Расслабьтесь мне тоже его законы кажутся по меньшей мере наивными (впрочем ваши ненамного лучше, но лучше lol ). Тут я пожалуй даже соглашусь «строгая научная база» и логика (чтобы при необходимости мог доходчиво объяснить причины своего поступка человеку).


    Правило пятое. Бедные, бедные программисты, надеюсь что их на роботов никто заменять не будет тут как рас «значительный риск», что роботы будут писать слишком гуманистичные программы smile .

  1. Юмор, конечно, но сколько вещей в нашем мире, начинающихся с юмора или фантастики для детей, теперь реально и зримо отравляет нашу жизнь? Во всякой шутке есть доля шутки, а все остальное, увы, серьезно...


Добавление комментария

Имя:*
E-Mail:*
Введите два слова, показанных на изображении: *