Сторонники идеи искусственного интеллекта пытаются сделать программу «больше чем просто программой». Часть из них надеется, что обладать сознанием станет система, у которой есть информационная модель самой себя. Но одного этого явно недостаточно — например, компьютер с веб-камерой, направленной на зеркало, уже имеет информационную модель самого себя, но ему от этого ни жарко, ни холодно.

Другие, следуя за Норбертом Винером, создателем кибернетики, считают, что интеллектом может обладать программа, способная к самообучению и самопрограммированию. Для этого ей пришлось бы долго развиваться, живя в реальном мире и познавая его. Ведь даже человек, выросший, подобно Маугли, среди животных (известно немало таких случаев), не становится человеком разумным.
К тому же такой программе нужны будут эмоции, чтобы понимать людей и смысл их действий, осознавать, что такое хорошо и что такое плохо, стремиться к успеху и избегать неудач. Одним словом, такой самообучающейся машине необходимо было бы стать человеком, чтобы научиться мыслить и общаться в человеческом мире.

Но и эта фантастическая концепция упирается все в тот же тупик — самообучение, то есть способность сознательно изменять привычные способы поведения и мышления, возможно только благодаря этой самой сознательности, таинственной способности к осмыслению и пониманию.
Здесь есть еще одна загвоздка. Пытаясь сделать искусственную модель разума, мы не всегда знаем, как работает обычный мозг. «Занимаясь искусственным интеллектом, мы не просто пытаемся подражать человеку. Заодно, и это иногда самое важное, мы начинаем понимать, что же делает человек в конкретной ситуации, как он приходит к своему решению и в чем именно это решение состоит.