Свяжитесь с нами
 

Искусственный интеллект (AI) Станет ли изобретение ИИ закатом Человечества

6 апреля 2014 | Автор: klassik | Просмотров: 5939
Среди возможных причин Конца Света футурологи называют разные события. Вырвавшиеся из под контроля нанороботы, падение метеорита, суперизвержение вулкана. Есть и ещё одна возможная причина – изобретение и создание Искусственного интеллекта. Именно эту причину рассматривает в своей книге «Наше последнее изобретение: Искусственный интеллект и конец человеческой эры» писатель Джеймс Баррот. Изложение интервью с писателем мы и предлагаем вашему вниманию.

Прежде, чем компьютеры станут умнее человека пройдёт ещё немало лет. Однако оценить возможные риски для Человечества можно уже сейчас. Что мы можем предусмотреть и о чём должны задуматься уже сейчас – эти вопросы и рассматривает в своей книге писатель.

Вы утверждаете, что суперинтеллекту будет безразлична судьба человека и это будет для нас опасно. Можете ли Вы пояснить свою точку зрения?
Во-первых, я думаю, что мы уже в какой-то степени готовы к возможным угрозам со стороны ИИ благодаря научной фантастике. Терминатор, ХЭЛ 9000 – как говорится, если что-то существует только благодаря Голливуду, то это не значит, что этого не может случиться в реальности. Суперинтеллект никоим образом не подразумевает благожелательности. Разве Вы своему ноутбуку можете нравиться или не нравиться? Почему же мы должны считать, что ИИ будет в этом отношении отличаться? Люди склонны к атропоцентризму и часто приписывают свои мысли и желания окружающим предметам и явлениям. Благожелательные лица мы видим в обычных облаках, гроза – не просто явление природы, а гнев богов…Мы ожидаем, что созданный нами артефакт, разумная машина, будет нам благодарен за своё существование и будет нас оберегать и защищать. Но это наши качества, а не машины. Когда ИИ осознает себя, он будет стремиться к тому, чтобы обеспечить своё существование любыми путями. И это желание может войти в противоречие с нашими стремлениями.

Сможем ли запрограммировать ИИ так, чтобы он не смог нам повредить, вроде как в законах робототехники, которые придумал Айзек Азимов?
Три закона робототехники часто упоминаются, как некоторая панацея для управления суперинтеллектом. Но они были созданы писателем для создания драматизма в его произведениях. Его классическое произведение «Я робот», практически, каталог возможных противоречий между этими тремя законами. Мало того, что наши культурные ценности трудно привить машине. Они и сами различны в зависимости от страны, времени, религии. Мы часто между собой не можем достичь консенсуса. Так что мы сможем дать машине? И буду ли наши сегодняшние ценности иметь значение через 100 лет?

Когда Вы говорите о наших усилиях по сдерживания ИИ, Вы проводите аналогию, где человек приходит в себя в тюрьме, которой управляют мыши. Конечно, человек сможет манипулировать мышами. Не будет ли супермозг манипулировать человеком?
Книга является предупреждением. Это призыв к идеям о том, что надо уже сейчас разработать принципы управления суперинтеллектом. Пример с решением о рекомбинантных ДНК хороший пример того, что люди могут заранее договориться о проведении экспериментов и снизить возможные риски. Учёные сначала приостановили все работы, а потом выработали единые протоколы безопасности. Это значит, что прежде чем соберёмся разделить планету с ИИ мы должны выработать принципы управления сверхразумными машинами.

Когда Вы писали эту книгу, наверное вы думали, "Вот и все. Мы обречены. Ничто не может быть сделано"?
Да. И я думал, что мы должны быть в состоянии предотвратить такое развитие событий. Искусственный интеллект – это такая же технология двойного назначения, как и ядерные процессы. Можно построить электростанцию, а можно получить Хиросиму. Возможно, мы сумеем решить эту проблему со временем.

Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь.
Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

Добавление комментария

Имя:*
E-Mail:*
Введите два слова, показанных на изображении: *