Продолжение

V глава

МНЕ ПРИХОДИЛОСЬ уже говорить о том, что осуждение, которому в прошлые века подвергалось колдовство, теперь в умах мно­гих людей переносится на современную ки­бернетику. Я вряд ли ошибусь, сказав, что еще лет двести назад ученый, пытавшийся создать машины, способные обучаться играм или размножаться, был бы облачен в «санбенито» - балахон для жертв инквизиции - и предан огню, ибо «пролития крови быть не должно». Избежать костра ему удалось бы разве лишь в том случае, если бы кто-нибудь из его высоких покровителей поверил, будто он владеет магическим искусством превра­щать простые металлы в золото, как некогда император Рудольф поверил пражскому рав­вину Лёви, что своими заклинаниями он спо­собен вдохнуть жизнь в глиняного человека - Голема.
Но даже если бы в наше время явился изобретатель, который сумел бы доказать какой-либо компании по производству вычис­лительных машин, что его магия может ей пригодиться, он мог бы, ничем не рискуя, заниматься своей черной магией до второго пришествия.
· Что же такое колдовство и почему оно осуждается как грех?
· Почему глупый маска­рад «черной мессы» вызывал такой гнев?
Ритуал «черной мессы» легче понять, если мы станем на точку зрения ортодоксального верующего. Для остальных это бессмыслен­ная или даже непристойная церемония. Однако те, кто принимает в ней участие, гораздо ближе к ортодоксальной вере, чем большинство из нас думает. Главный элемент «черной мессы» не противоречит обычной христиан­ской догме, по которой священник творит чудо, превращая дух в плоть и кровь Христа.
Верующий христианин и колдун сходятся на том, что, как только чудо превращения свершилось, божественная стихия способна творить новые чудеса. Они согласны, кроме того, и в том, что чудо перевоплощения мо­жет совершить только священнослужитель определенного сана. И, наконец, они согласны в том, что такой пастырь никогда не утрачи­вает свою чудотворную силу; если же он чудодействует, будучи отрешенным от сана, то ему грозит вечное проклятие.
Исходя из этих предпосылок, можно счи­тать совершенно естественным и такой слу­чай, когда некоему человеку - по натуре злому, но хитроумному - придет мысль по­лучить власть над магическим духом и упот­ребить его силы ради собственной выгоды. Именно в этом, а не в кощунственных оргиях и заключается главный грех «черной мессы».
Ведь магия духа по природе своей добра. Стремление направить ее к целям, противо­положным вящей славе божьей - смертный грех. Таким и был тот грех, который библей­ская легенда приписывает Симону-волхву, пы­тавшемуся купить у апостола Павла чудотвор­ные силы христианства.
Я хорошо представ­ляю себе замешательство и огорчение бедняги, когда он узнал, что эти чудотворные силы не продаются и что апостол Павел отказался от сделки, по мнению Симона, честной, приемлемой и совершенно естест­венной.
Такое поведение апостола Павла поймет всякий, кому случалось отказываться от про­дажи своего изобретения, несмотря на весьма выгодные условия, предложенные ему каким-либо капитаном современной индустрии.
Христианство, что бы там ни говорили, всегда считало грехом симонию, то есть куп­лю и продажу церковных должностей и чудо­творных сил, которые им приписывались. Данте считал этот грех одним из тягчайших; бесстыдно погрязших в нем современников он низверг на самое дно своего «Ада». Од­нако грех этот, бывший главным искушением в чрезвычайно суеверную эпоху Данте, без­условно, отмирает в современном, более рационалистическом и рациональном мире. Он отмирает! Он отмирает... Отмирает... ли?..
Пусть силы машинного века на самом деле нельзя считать сверхъестественными, но все же они не укладываются в представления простого смертного о естественном порядке вещей. И хотя мы больше не считаем своим долгом приводить эти колоссальные силы в движение ради вящей славы божьей, тем не менее, нам представляется неприемлемым пускать их в ход ради суетных или корыстных целей.
Грехопадение нашего времени в том, что магические силы современной автомати­зации служат для получения еще больших прибылей или используются в целях развязывания ядерной войны с ее апокалиптическими ужасами.
Если этому пороку следует дать имя, мы вправе назвать его симонией или колдовством.
Ибо независимо от того, верят или не верят люди в бога, не все им дозволено. В отличие от покойного Адольфа Гитлера мы не достигли еще в своем надменном мораль­ном безразличии того кульминационного пункта, который ставит нас по ту сторону добра и зла. И до тех пор, пока мы хотя бы в малейшей степени сохраним то нрав­ственное чутье, которое позволяет различать добро и зло, применение великих сил нашего века в низменных целях будет в морально-этическом плане совершенно равнозначно колдовству и симонии.
Коль скоро существует возможность создания автоматов в металле или только в чертежах и расчетах, изучение их производст­ва и теории является естественной фазой человеческой любознательности. Мощь чело­веческого разума сводится на нет, если сам человек ставит какие-то жесткие границы своей пытливости. И все же существуют аспекты автоматизации, которые выходят за рамки узаконенной любознательности и ста­новятся греховными по своей сути. Это можно пояснить на примере технического руководителя особого типа, которого я на­звал бы машинопоклонников.
Мне очень хорошо известны машинопоклонники нашего мира с их лозунгами сво­бодного предпринимательства и экономики, основанной на стремлении к наживе. Я думаю, что машинопоклонники могут существовать и существуют и в коммунистическом мире.
Власть и жажда власти - это, к несчастью, реальные силы, которые выступают в разно­образных облачениях. Среди фанатичных жрецов силы встречается немало таких, кото­рые нетерпимо относятся к ограниченным возможностям человечества, и в особенности к ограничениям, связанным с ненадежностью и непредсказуемостью человеческого пове­дения. Эти обычно скрываемые склонности руководителя можно выявить по облику под­чиненных, которых он себе выбирает. Они смиренны, незаметны и готовы выполнить лю­бое его распоряжение; именно поэтому они в общем-то оказываются беспомощными, когда неожиданно перестают быть только механическими исполнителями его воли. Спо­собные проявить огромное усердие и в то же время почти лишенные собственной инициа­тивы, они подобны евнухам в гареме идей, с которыми обвенчан их султан.
Помимо того что машинопоклонник пре­клоняется перед машиной за то, что она свободна от человеческих ограничений в от­ношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном слу­чае, но который тем не менее должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение. Побуждения такого рода проявляются в попытках переложить ответственность за подобные ре­шения на что и на кого угодно: на случай, на начальство, на его политику, которую-де не положено обсуждать, или на механическое устройство, которое якобы невозможно пол­ностью постичь, но которое обладает бес­спорной объективностью.
Вероятно, мотивы такого же рода движут потерпевшими кораблекрушение, когда они тянут жребий, чтобы определить, кто должен быть съеден первым. Подобными аргументами искусно оперировала защита Эйхмана. Из таких же мотивов исходят и те, кто раздает одним солдатам, исполняющим приговор о расстре­ле, боевые патроны, а другим - холостые, тем чтобы каждый солдат так никогда и не узнал, участвовал ли он в убийстве. Несом­ненно, что подобными же уловками будет пытаться успокаивать свою совесть то высоко­поставленное должностное лицо, которое осмелится нажать кнопку первой (и послед­ней) атомной войны.
Это старый колдовской трюк, чреватый, правда, трагическими послед­ствиями: после удачного исхода рискован­ного предприятия приносится в жертву пер­вое встречное живое существо. Как только такой господин начинает сознавать, что не­которые человеческие функции его рабов могут быть переданы машинам, он приходит в восторг. Наконец-то он нашел нового под­чиненного - энергичного, услужливого, на­дежного, никогда не возражающего, дейст­вующего быстро и без малейших размышлений!
Подчиненный такого типа выведен Чапеком в его пьесе «R. U. R.». Так же как и раб из «Лампы Аладдина», он ничего не требует. Он не просит каждую неделю выходного дня и не нуждается в телевизоре для своего жи­лища. Он даже не нуждается в жилище. Но стоит только потереть Лампу, как он появ­ляется из ниоткуда. И если ради ваших целей вы решитесь пуститься в плавание против ветра общепринятой морали, ваш раб никог­да не осудит вас, даже не бросит на вас вопрошающего взгляда. Теперь вы свободны плыть, куда вас влечет судьба!
Такая психология свойственна колдуну в полном смысле этого слова. Колдунов такого рода предостерегают не только церковные доктрины, но и органически присущий чело­вечеству здравый смысл, выраженный в леген­дах, мифах и творениях здравомыслящих пи­сателей. Все они сходятся на том, что кол­довство не только грех, ведущий в ад, оно таит в себе опасность для самой жизни на Земле. Это обоюдоострый меч, который рано или поздно пронзит вас.
Здесь уместно вспомнить историю о рыба­ке и Джинне из «Тысячи и одной ночи». Рыбак, забросив сеть вблизи берегов Па­лестины, выловил закупоренный глиняный кувшин с печатью царя Соломона. Он взла­мывает печать, и из кувшина вырывается столб дыма, принимающий форму гигантско­го Джинна. Джинн говорит рыбаку, что некогда он, Джинн, был одним из мятежников, которого великий царь Соломон замкнул в кувшин. Вначале Джинн намеревался вознаградить своего освободителя властью и богатством. Но проходили века, и тогда он решил умерт­вить первого же смертного, которого он встретит, и прежде всего своего освободи­теля.
На свое счастье, рыбак оказался находчи­вым малым, искусно владевшим оружием лести. Играя на тщеславии Джинна, он убеж­дает его показать, как такое огромное Суще­ство может втиснуться в столь маленький сосуд. Джинн, доказывая это, снова влезает в кувшин. Рыбак тут же запечатывает его, бро­сает злосчастный кувшин в море и поздрав­ляет себя со спасением. С тех пор он живет, не зная горя.
В других легендах герой, сталкиваясь с магией уже не столь случайно, либо ока­зывается на грани катастрофы, либо терпит полный крах. В стихотворении Гете «Ученик чародея» изображен юный слуга, который чистит одежду своего хозяина - волшебника, подметает пол и носит воду. Однажды, по­лучив приказ наполнить бочку водой, слуга остался один. Подверженный той лени, что является истинной матерью изобретений (от такой же лени другой мальчишка, работавший у машины Ньюкомена, прицепил как-то ве­ревку от крана, впускающего пар, к балан­сиру, создав тем самым первый автоматиче­ский клапан), гетевский ученик чародея, запомнил отрывки подслушанных им зак­линании хозяина, произнес их и заставил метлу качать воду в бочку. Эту часть задачи метла исполняет быстро и энергично. Когда же вода начала переливаться через край бочки, мальчик вдруг обнаружил, что он забыл заклинания, которыми чародей оста­навливал метлу. Мальчик захлебывается и почти тонет в воде, но тут чародей, к счастью, возвращается, произносит несколько власт­ных слов, усмиряющих бунт вещей, а затем задает своему ученику изрядную взбучку. Даже в этом случае катастрофу удается отвратить лишь с помощью deus ех mashina.
Джэкобс, английский писатель начала XX ве­ка, довел этот принцип до своего логического конца в повести «Обезьянья лапа», которая представляет собой один из классических образцов «литературы ужасов». В повести описывается английская рабочая семья, собравшаяся к обеду на кухне. Сын вскоре уходит на фабрику, а старики роди­тели слушают рассказы своего гостя, старше­го сержанта, возвратившегося из Индии. Гость рассказывает об индийской магии и показывает талисман - высушенную обезь­янью лапу. По его словам, индийский святой наделил этот, талисман магическим свойством исполнять по три желания любого из трех своих последовательных владельцев. Гость говорит, что это подходящий случай испы­тать судьбу. Он не знает первых двух жела­ний предыдущего владельца талисмана, но ему известно, что последним желанием его предшественника была смерть. Сам он был вторым владельцем, но то, что он испытал, слишком страшно пересказывать. Гость уже намерен бросить волшебную лапу в камин, но хозяин выхватывает ее и, невзирая на пре­достережения, просит у нее двести фунтов стерлингов.
Через некоторое время раздается стук в дверь. Входит очень важный господин, слу­жащий той фирмы, в которой работает сын хозяина. Со всей мягкостью, на которую он способен, господин сообщает, что в резуль­тате несчастного случая на фабрике сын хо­зяина погиб. Не считая себя ни в коей мере ответственной за случившееся, фирма выра­жает семье погибшего свое соболезнование и просит принять пособие в размере двухсот фунтов стерлингов. Обезумевшие от горя родители умоля­ют - и это их второе желание, - чтобы талис­ман вернул им сына... Внезапно все погру­жается в зловещую ночную тьму, поднимается буря. Снова стук в дверь. Родители каким-то образом узнают, что это их сын, но, увы, он бесплотен, как призрак. История кончается тем, что родители выражают свое третье и последнее желание: они просят, чтобы при­зрак сына удалился.
Лейтмотив всех этих историй - опасность, связанная с природой магического.
По-видимому, корни этой опасности кроются в том, что магическое исполнение заданного осу­ществляется в высшей степени буквально и что если магия вообще способна даровать что-либо, - то она дарует именно то, что вы попросили, а не то что вы подразумевали, но не сумели точно сформулировать.
Если вы просите двести фунтов стерлингов и не ого­вариваете при этом, что не желаете их полу­чить ценою жизни вашего сына, вы получите свои двести фунтов независимо от того, оста­нется ли ваш сын в живых или умрет!
Не исключено, что магия автоматизации и, в частности, логические свойства самообучающихся автоматов будут проявляться столь же буквально.
· Когда вы ведете игру, соблюдая все прави­ла, и настраиваете машину так, чтобы она играла на выигрыш, вы получите его - если получите что-либо вообще, - но при этом машина не обратит ни малейшего внимания на любые соображения, за исключением тех, которые, согласно установленным правилам, приводят ее к выигрышу.
· Если вы ведете военную игру с некоторой условной интер­претацией победы, то победа будет достиг­нута любой ценой, даже ценой уничтожения вашей собственной стороны, если только со­хранение ее жизнеспособности не будет со­вершенно четко запрограммировано в числе условий победы.
Это нечто большее, чем невинный пара­докс. Мне определенно нечем опровергнуть предположение о том, что США и Россия вынашивают идеи использования машин, и в частности обучающихся машин, для того чтобы определить момент нажатия кнопки атомной войны - этого современного ultima ratio.
Испокон веков армии вели войны, которые всегда отставали от технических возможно­стей своего времени. Говорят, что в каждой войне хорошие генералы воюют так, как вое­вали в последней войне, а плохие генералы - как в предпоследней. Действительно, методы ведения боевых действий в «военной игре» никогда не поспевают за изменениями реаль­ной обстановки. Это было верно всегда, хотя в периоды, изобиловавшие войнами, порой находилось достаточно воинов, считавших, что война, в которой они участвовали, протекала в сравнительно медленно изменявшихся усло­виях. Именно эти испытанные воины и явля­ются военными экспертами в истинном смысле слова.
В настоящее же время экспертов ведения атомной войны не существует. Это зна­чит, что нет таких людей, которые обладали бы каким-либо опытом в военном конфликте, где обе стороны располагают атомным ору­жием и применяют его. Разрушение городов в атомной войне, деморализация людей, го­лод, болезни и косвенные губительные пос­ледствия войны (которые могут вызвать значительно большее число жертв, чем взрывы и прямое выпадение радиоактивных осадков) - все это известно лишь предполо­жительно.
Вероятно, поэтому и рядятся в патриоти­ческие одежды те, кто преуменьшает потери человечества и преувеличивает вероятность выживания народов в условиях мировой катастрофы нового типа. Но если атомная война приводит к полному самоуничтожению, а обычные военные действия теряют всякий смысл, то, очевидно, содержание сухопутных войск и военно-морского флота окажется в значительной мере бесцельным, а бедные, преданные службе генералы и адмиралы останутся без работы. Фирмы по производ­ству ракет не будут больше иметь того иде­ального рынка сбыта, где все изделия пред­назначаются для однократного использова­ния и поэтому не вступают в конкуренцию с продукцией, которую еще предстоит изгото­вить. Духовенство будет лишено возможности проявить свою восторженность и экзальтацию, всегда сопутствующие крестовым походам. Говоря короче, если начнется «военная игра» с подобной программой, то найдется много лиц, которые, упуская из поля зрения воз­можные последствия, потребуют свои двести фунтов стерлингов, забыв упомянуть, что сын должен остаться в живых.
Поскольку наше действительное желание всегда может быть выражено неточно, послед­ствия этого могут стать чрезвычайно серьез­ными тогда, когда процесс исполнения наших желаний осуществляется не прямым путем, а степень их реализации не ясна до самого конца.
Обычно мы осуществляем наши жела­ния, если вообще мы способны в самом деле осуществить их, с помощью процесса обрат­ной связи, которая позволяет сравнивать степень достижения промежуточных целей с нашим восприятием. При таком процессе обратная связь проходит через нас и мы мо­жем - пока еще не слишком поздно - повернуть назад. Если же механизм обратной связи встроен в машину, действие которой не может быть проконтролировано до тех пор, пока не достигнута конечная цель, вероятность катастрофы чрезвычайно возра­стает. Мне, например, было бы в высшей степени неприятно участвовать в первом испытании автомобиля, управляемого при помощи фотоэлектрических устройств обрат­ной связи, если бы в нем не было рукоятки, которая позволяет взять управление на себя в тот момент, когда замечаешь, что автомо­биль несется на дерево.
Люди с психологией машинопоклонников часто питают иллюзию, будто в высокоавтоматизированном мире потребуется меньше изобретательности, чем в наше время; они надеются, что мир автоматов возьмет на себя наиболее трудную часть нашей умственной деятельности - как тот греческий философ, который в качестве римского раба был при­нужден думать за своего господина.
Это яв­ное заблуждение. Целенаправленный механизм вовсе не обязательно будет искать путей достижения наших целей, если только мы не рассчитаем его специально для решения этой задачи. Причем в ходе проектирования такого меха­низма мы должны предвидеть все ступени процесса, для управления которым он соз­дается, а не применять приближенные методы прогнозирования, эффективные лишь до определенного пункта, дальше которого ра­счеты ведутся при возникновении новых затруднений.
Расплата за ошибки в прогно­зировании и в наше время достаточно велика, но она еще больше возрастет, когда автома­тизация достигнет полного размаха.
В наше время стала очень модной идея предотвращения некоторых опасностей и в особенности угроз, связанных с атомной вой­ной, при помощи автоматических устройств типа «fail-safe».
Идея эта основана на пред­положении, что действие устройства, вышед­шего из заданного режима работы, можно обезвредить. Например, если обнаружено, что режим насоса ведет к аварии, то, пожалуй, гораздо лучше, чтобы она произошла от откачки воды, нежели от взрыва при избыточ­ном давлении. Если мы имеем дело с хорошо понятой опасностью, техника автоматической защиты типа «fail-safe» правомерна и полезна. Однако она немногого стоит перед лицом еще не понятой опасности.
Например, когда отдаленная, но неизбежная опасность угрожает человечеству уничтожением, то лишь тщательное изучение общественных явлений позволит своевременно выявить эту роковую угрозу.
Однако потенциальные угрозы такого рода лишены опознавательных ярлыков. По­этому, хотя методы «fail-safe», предназначае­мые для блокировки опасных режимов рабо­ты автоматизированных систем, и могут стать необходимыми для предотвращения мировой катастрофы, их ни в коем случае нельзя счи­тать достаточными.
Поскольку техника все в большей мере приобретает способность осуществлять чело­веческие намерения, их математическая фор­мулировка должна стать все более и более обычным делом.
В прошлом неполная и ошибочная оценка человеческих намерений была относительно безвредной только потому, что ей сопутство­вали технические ограничения, затруднявшие точную количественную оценку этих намерений. Это только один из многих примеров того, как бессилие человека ограждало нас до сих пор от разрушительного натиска чело­веческого безрассудства.
Иными словами, хотя человечество в прошлом и сталкивалось со многими опасно­стями, с ними было значительно легче справ­ляться благодаря тому, что во многих случаях угроза проявлялась односторонне.
· В век, ког­да голод становится большой угрозой, можно искать спасения в увеличении производства пищи, и оказывается, что угроза уже не столь велика.
· При высокой смертности (в особенности детской) и при очень слабом развитии медицины жизнь каждого человека была большой ценностью, и поэтому людям спра­ведливо предписывалось плодиться и размно­жаться. Угроза голода оказывала на нас дав­ление, подобное давлению силы тяжести, к которой всегда приспособлены наши мышцы, кости и сухожилия.
Перемены в напряженности современной жизни, вызванные появлением новых устрем­лений и исчезновением старых, можно срав­нить с новыми проблемами космических полетов. Состояние невесомости в космиче­ском корабле освобождает нас от постоянной, направленной в одну сторону силы тяжести, к которой мы привыкли в нашей повседнев­ной жизни. Путешественнику в космическом корабле нужны рукоятки, чтобы держаться; нужны тубы, чтобы выжимать из них пищу и питье; нужны различные приборы, чтобы определять свое положение, и, хотя все эти приспособления помогают тому, чтобы физио­логическое состояние путешественника не слишком, нарушалось все же он не может чувствовать себя так удобно, как ему хоте­лось бы. Сила земного притяжения столь же дружественна нам, сколь и враждебна.
· Точно так же, когда люди не страдают от голода, серьезными проблемами могут стать пере­производство продуктов питания, бесцель­ность существования и расточительство.
· Раз­витие медицины - один из факторов, спо­собствующих перенаселению, этой весьма серьезной угрозе, перед лицом которой стоит сейчас человечество. К старым принципам житейской мудрости, таким, например, как «копейка рубль бережет», - принципам, так долго служившим людям в прошлом, больше нельзя относиться как к бесспорным.
Как-то я присутствовал на обеде в кругу врачей. Непринужденно беседуя между собой и не боясь высказывать вещи необычные, они стали обсуждать возможности решительного наступления на болезнь, называемую дегене­рацией человеческого организма, или по­просту старостью.
Они не рассматривали этот вопрос вне конкретных возможностей и средств, необходимых для такого наступле­ния, но основное внимание спорящих сосре­доточилось на его конечных результатах.
Со­беседники стремились заглянуть вперед, в тот, быть может, не такой уже далекий зав­трашний день, когда момент неизбежной смерти можно будет отдалять, вероятно, в необозримое будущее, а сама смерть станет столь же случайной, как это бывает у гигант­ских секвой и, кажется, у некоторых рыб.
Я не утверждаю, что они были правы в своих предположениях (и я совершенно уве­рен, что они и не претендовали на что-либо большее, чем предположения), но имена уче­ных, поддерживающих эту гипотезу, были настолько авторитетны - среди них был даже нобелевский лауреат, - что я не мог себе позволить отнестись к их высказываниям пренебрежительно.
И хотя гипотеза будущего сверх долголетия человека на первый взгляд могла показаться чрезвычайно утешительной, ее осуществление было бы страшным не­счастьем, и прежде всего для врачей. Ибо сразу становится ясным одно - человечество не смогло бы долго вынести бесконечного продления всех жизней, которые рождаются на Земле.
И дело не только в том, что часть населе­ния, не способная поддерживать собственное существование, намного превзойдет числом ту часть населения, от которой ее существо­вание зависит; беда и в том, что, пребывая в вечном неоплатном долгу перед пришель­цами из прошлого, мы окажемся совершенно неподготовленными к решению тех проблем, которые поставит перед нами будущее.
Ситуация, при которой жизнь всех граж­дан может продолжаться сколь угодно долго, немыслима. Если же, однако, возможность бесконечного продления жизни осуществится, то решение положить предел чьей-либо жиз­ни или хотя бы отказаться от продления ее станет делом врачебной морали.
Но как же тогда быть с престижем врачей, в которых мы привыкли видеть священнослу­жителей, борющихся со смертью, беззавет­ных слуг милосердия?
Я допускаю, что даже в наше время встречаются случаи, когда врачи считают своим долгом не принимать меры для прод­ления жизни бесполезной, невыносимо мучи­тельной. Не лучше ли отказаться от перевязывания пуповины новорожденному уроду и облегчить смерть старику, страдающему от не оперируемого рака и гибнущему от гипостатической пневмонии, этого «друга стари­ков», вместо того чтобы ценой нечеловече­ских страданий еще немного продлить его жизнь. Чаще всего такие вещи делаются без шума и с должным соблюдением приличий, и только когда какой-нибудь невоздержанный на язык дурак выбалтывает врачебную тайну, она становится достоянием газет и судов, поднимающих шум о «насильственном умерщ­влении».
· Но что будет, если подобные решения станут не редким и непредвидимым исклю­чением, а должны будут приниматься почти в каждом случае, связанном со смертельным исходом?
· Что будет, если каждый больной начнет относиться к врачу не только как к спасителю, но и как к своему возможному палачу?
· Сможет ли врач нести бремя дове­ренных ему сил добра и зла?
· Сможет ли человечество само выносить этот новый по­рядок вещей?
Относительно легко отстаивать добро и сокрушать зло, когда они четко отделены друг от друга разграничительными линиями и когда те, кто находится по ту сторону, - наши явные враги, а те, кто по эту сторону,- наши верные союзники. Но как быть, если в каждом случае мы должны спрашивать, где друг и где враг? Как же нам быть, если, по­мимо этого, мы еще передали решение важнейших вопросов в руки неумолимого чародея или, если угодно, неумолимой кибер­нетической машины, которой мы должны задавать вопросы правильно и, так сказать, наперед, еще не разобравшись полностью в существе того процесса, который вырабаты­вает ответы?
Можно ли в этих условиях до­верять обезьяньей лапе, у которой мы попро­сили двести фунтов стерлингов?
Нет, будущее оставляет мало надежд для тех, кто ожидает, что наши новые механиче­ские рабы создадут для нас мир, в котором мы будем освобождены от необходимости мыслить. Помочь они нам могут, но при условии, что наши честь и разум будут удов­летворять требованиям самой высокой мо­рали.
Мир будущего потребует еще более суро­вой борьбы против ограниченности нашего разума, он не позволит нам возлежать на ложе, ожидая появления наших роботов-ра­бов.

VI глава

ОДНА ИЗ ВЕЛИКИХ ПРОБЛЕМ, с которой мы неизбежно столкнемся в будущем, - это проблема взаимоотношения человека и машины, проблема правильного распределе­ния функций между ними. На первый взгляд может показаться, что машина обладает ря­дом очевидных преимуществ. В самом деле, она работает быстрее и с большим единооб­разием или по крайней мере может обладать этими свойствами, если ее правильно по­строить. Цифровая вычислительная машина за один день может выполнить такой объем работы, с которым целой команде вычислите­лей не справиться и за год, притом работа будет выполнена с наименьшим количеством ошибок.
Вместе с тем человек обладает несомнен­ными преимуществами. Не говоря уже о том, что любой разумный человек во взаимоотно­шениях с машиной считает первостепенными свои, человеческие цели, машина в сравне­нии с человеком далеко не так сложна, а сфера ее действий, взятых в их многообразии, гораздо меньшее Если объем нейрона серого вещества мозга мы примем равным ₁/₀₀₀ ₀₀₀ кубического миллиметра, а объем наимень­шего из современных транзисторов - поряд­ка одного кубического миллиметра, то такая оценка не будет слишком неблагоприятной с точки зрения преимуществ нейрона. Если белое вещество мозга считать эквивалентным схеме соединений вычислительной машины, а каждый нейрон рассматривать как функциональный аналог транзистора, то гипотетическая вычислительная машина, эквивалентная мозгу, разместилась бы в шаре около девяти метров диаметром.
В действительности было бы невозможно построить вычислительную машину с плотностью монтажа, в какой-то мере сходной с относительной плотностью мозгового вещества, а любая вычислительная машина, по своим возможностям сравнимая с мозгом, имела бы размеры довольно боль­шого административного здания, если не не­боскреба. Вряд ли можно считать, что мозг в сравнении с современными вычислительны­ми машинами не имеет определенных пре­имуществ, связанных с его огромным функ­циональных диапазоном, несоизмеримо боль­шим, чем можно было бы ожидать, учитывая его физические размеры.
Главное из этих преимуществ - по-види­мому, способность мозга оперировать с нечетко очерченными понятиями. В таких случаях вычислительные машины, по крайней мере в настоящее время, почти не способны к само программированию. Между тем наш мозг свободно воспринимает стихи, романы, картины, содержание которых любая вычис­лительная машина должна была бы отбросить, как нечто аморфное. Отдайте же человеку - человеческое, а вычислительной машине - машинное.
В этом и должна, по-видимому, заключаться разум­ная линия поведения при организации сов­местных действий людей и машину.
Линия эта в равной мере далека и от устремлений машинопоклонников, и от воззрений тех, кто во всяком использовании механических по­мощников в умственной деятельности усмат­ривает кощунство и принижение человека. В наше время мы остро нуждаемся в объек­тивном изучении систем, включающих и биологические, и механические элементы. К оценке возможностей этих систем нельзя подходить предвзято, то есть с позиций механистического или антимеханистического толка. Я думаю, что такие исследования уже начались и что они позволят лучше понять проблемы автоматизации.
Одна из областей, в которых мы можем использовать и используем такие смешанные системы, - это создание протезов, устройств, которые заменяют конечности или повреж­денные органы чувств. Деревянная нога - это просто механическая замена утраченной ноги из плоти и крови, а человек с деревянной ногой представляет собой систему, состоя­щую из механических и биологических эле­ментов.
Пожалуй, классическая деревяшка вместо ноги не столь интересна, поскольку она заме­няет утраченную конечность самым прими­тивным способом; ненамного больший инте­рес представляет и деревянный протез, имеющий форму ноги. Впрочем, немалая работа над созданием искусственных конечностей ведется в России, США и в других странах группой ученых, к которой принадлежу и я. Эта работа по своим принципам намного интересней, так как она действительно исполь­зует кибернетические идеи.
Представим себе, что человек лишился кисти руки. Он лишился некоторых мышц, которые позволяли ему в основном сжимать и разжимать пальцы, однако большая часть мышц, обычно двигающих рукой и пальцами, сохранилась в культе локтевой части руки. При соответствующем воздействии эти мышцы, хотя они и не могут привести в движение кисть или пальцы, которых нет, вызывают определенные электрические эффекты, на­зываемые потенциалами действия. Эти потенциалы могут восприниматься соответствующими электродами, а затем усиливаться и ком­бинироваться транзисторными схемами. Такие потенциалы можно использовать для управления движениями искусственной руки при помощи миниатюрных электромоторов, ко­торые питаются от батарей или аккумулято­ров, а сигналы управления получают от транзисторных усилителей. Источником управ­ляющих сигналов служит обычно центральная часть неповрежденной нервной сети, которая и должна быть использована в таких случаях.
Подобные искусственные руки уже были изготовлены в России, и они даже позволили некоторым инвалидам вернуться к продуктивному труду. Это стало возможно благодаря тому, что некоторые нервные сигналы, кото­рые вызывали эффективную мышечную реак­цию до ампутации, остаются эффективными и при управлении искусственной рукой при помощи миниатюрного электромотора. По­этому изучение возможностей использования таких искусственных рук стало гораздо более легким и естественным делом.
Однако искусственная рука в подобном виде не может осязать предметы, тогда как естественная рука служит в такой же мере органом осязания, как и движения. Но по­звольте, почему же искусственная рука не может осязать? Не представляет труда вмон­тировать датчик давления в пальцы искусст­венной руки так, чтобы электрические им­пульсы передавались от них в соответствую­щую цепь. Последняя в свою очередь заставляет работать устройство, воздействующее на живую ткань, например на кожу культи. Такими устройствами могут быть, на­пример, вибраторы. Этим методом мы можем вызвать искусственное осязательное ощуще­ние и научиться заменять им аналогичные естественные восприятия. Более того, в поврежденных мышцах имеются чувствитель­ные (сенсорные) кинестетические элементы, которые могут быть также использованы для подобных целей.
Таким образом, становится возможной новая техника протезирования, основанная на создании смешанных систем, состоящих из биологических и механических частей. Однако новую технику не следует ограничивать только задачами замены утраченных частей тела.
Существуют протезы и для таких органов, которых человек не имеет, и никогда не имел. Дельфин прокладывает себе путь в воде при помощи плавников и обходит препятствия, вслушиваясь в отраженные от них звуки, ко­торые он сам порождает. Что такое винт корабля, как не пара искусственных плавни­ков? А не является ли эхолот, измеряющий глубину моря под кораблем, заменителем биологических механизмов, излучающих и обнаруживающих звук, подобных тем, кото­рые есть у дельфина? Крылья и реактивные двигатели самолета заменяют крылья орла, а радиолокатор заменяет его глаза, в то время как «нервная система», которая объединяет и координирует эти органы, - это автопилот и другие навигационные устройства.
Следовательно, механобиологические си­стемы находят широкое применение, а в не­которых случаях просто незаменимы. Мы уже видели, что обучающиеся машины должны действовать в соответствии с некоторыми нормами «хорошего» поведения. Определение этих норм не вызывает затруднений в случае играющих автоматов, когда допустимые ходы произвольно устанавливаются заранее, а цель игры - выигрыш, достигаемый по правилам, которые определяются, исходя из строгих условий выигрыша или проигрыша. Однако существует много видов деятельности, кото­рые мы хотели бы усовершенствовать с по­мощью процесса обучения; их успешность может быть оценена на основе ряда критериев, включающих суждения человека. Пре­образование таких критериев в формальные правила - нелегкая задача.
Одна из сфер человеческой деятельности, которая остро нуждается в автоматизации и где ощущается потенциальная необходимость в самообучающихся автоматах, - это машин­ный перевод. В свете нынешнего метастабильного состояния международной обстановки США и Россия испытывают взаимную потреб­ность в информации о том, что говорит и думает другая сторона. Поскольку в обеих странах число высококвалифицированных переводчиков ограниченно, каждая страна исследует возможности машинного перевода. Такой перевод, выполняемый по определен­ному образцу, осуществим, но ни его лите­ратурные, ни смысловые достоинства не вы­звали большого энтузиазма в обеих странах.
Ни одна из систем машинного перевода не доказала, что она заслуживает доверия в тех случаях, когда от точности перевода зависит принятие важных решений.
Вероятно, наиболее обещающий путь автоматизации перевода состоит в примене­нии обучающихся машин. Для обеспечения успешной работы таких машин должен быть найден твердый критерий хорошего перевода.
Такой критерий можно получить двумя путя­ми: либо мы должны иметь полный набор объективно применяемых правил, позволяю­щих оценить качество перевода, либо мы должны располагать средством, которое само способно выработать и применить критерий хорошего перевода независимо от таких пра­вил.
Обычный критерий хорошего перевода - его понятность. Люди, читающие текст пере­вода, должны получить то же впечатление, что и люди, читающие этот текст на языке оригинала. Если использовать такой критерий затруднительно, то можно дать другой - необходимый, хотя и недостаточный. Пред­ставим себе, что у нас есть две независимые переводные машины: одна, например, пере­водит с английского языка на датский, дру­гая - с датского на английский. После того как первая машина переведет с английского на датский, пусть вторая машина выполнит обратный перевод с датского на английский. В этом случае окончательный перевод дол­жен быть эквивалентен (с допустимыми рас­хождениями) оригиналу, что устанавливается лицом, знающим английский язык.
Можно представить себе набор формаль­ных правил такого перевода, настолько четко определенных, что их можно доверить маши­не, и притом столь совершенных, что они позволят получить перевод, удовлетворяю­щий данному выше критерию. Я не думаю, однако, что наука о языке продвинулась на­столько, что она способна уже сегодня дать нам такой набор правил, или что вообще существуют какие-либо перспективы для та­кого прогресса в ближайшем будущем. Го­воря кратко, положение вещей таково, что в машинном переводе всегда есть вероятность ошибки. Если на основании данных машинного перевода принимается какое-либо ответственное решение, связанное с конкрет­ными действиями или политикой, то неболь­шая ошибка или даже малая ее вероятность могут привести к чрезвычайно серьезным по­следствиям.
На мой взгляд, наиболее обнадеживаю­щий путь осуществления машинного перевода состоит в замене чисто машинной системы - по крайней мере на начальных этапах - си­стемой механобиологической, включающей в качестве критика и эксперта человека - опыт­ного переводчика, который обучает машин­ную часть системы с помощью упражнений, подобно тому как школьный учитель обучает своих учеников. Вероятно, на более поздних этапах в памяти машины накопится достаточ­ное количество указаний, запрограммирован­ных человеком, что позволит впоследствии машине распрощаться с соучастием человека, за исключением, возможно, случаев, когда время от времени понадобится освежать курс. Таким образом машина сможет при­обрести лингвистический опыт.
Подобная схема перевода не исключает необходимости в опытном лингвисте, спо­собности и суждения которого пользуются полным доверием. При такой системе он обработал бы (или смог бы обработать в будущем) значительно больший объем пере­водного текста, нежели при отсутствии ма­шинного помощника. Большего, по-моему мы и не можем ждать от машинного перевода.
До этого момента мы говорили о том, что нам необходим критик, способный к оценкам чисто человеческого свойства, например в системе машинного перевода, где все эле­менты, кроме самого критика, машинные. Однако если человеческий элемент необхо­димо вводить в качестве критического начала, то вполне разумно вводить его также и на других этапах. При машинном переводе вовсе не обязательно, чтобы машинные элементы системы давали единственный и законченный вариант перевода. Напротив, машина может нам дать многовариантный перевод отдель­ных фраз, которые лежат в русле соответст­вующих грамматических и лексических норм, предоставляя нашему критику-эксперту весь­ма ответственную задачу оценки и выбора из этих машинных вариантов того, который наи­лучшим образом передает смысл. Нет, одна­ко, никакой необходимости предоставлять машине формирование полностью закончен­ных кусков переводного текста даже в том случае, если он будет в целом критически оцениваться и улучшаться человеком. Поправ­ки, вносимые человеком, могут быть введены и на гораздо более ранних стадиях пере­вода.
Все высказанное о машинах-переводчиках в равной или в еще большей мере относится к машинам, составляющим медицинские диаг­нозы. Такие машины стали очень модными во всех планах развития медицины на ближай­шее будущее. Эти машины могут помочь врачу установить данные, которые ему понадобятся для диагноза, но нет никакой необходимости в том, чтобы они устанавли­вали диагноз сами, без участия врача. Весьма вероятно, что такая тенденция применения медицинских машин может рано или поздно привести к ухудшению здоровья людей и да­же ко многим смертельным исходам.
Родственная проблема, требующая сов­местного рассмотрения возможностей маши­ны и человека, - это проблема эффективности использования изобретения. Этот во­прос обсуждал со мной д-р Гордон Рейзбек, сотрудник фирмы «А. Д. Литтл». В ходе обсуждения мы пришли к выводу, что всякое изобретение должно оцениваться не только с точки зрения принципиальных возможностей его осуществления, но также с точки зрения того, как это изобретение может и должно служить человеку. Вторая часть задачи часто куда сложнее, чем первая, и ее методология разработана в гораздо меньшей степени. Таким образом, мы сталкиваемся с пробле­мой усовершенствования, которая, по суще­ству, не что иное, как проблема обучения, - не для механической системы в чистом виде, но для механической системы, взаимодейст­вующей с обществом. Это именно тот случай, когда необходимо рассмотрение проблемы оптимального совместного использования че­ловека и машины в одной системе.
Подобную задачу весьма настоятельно вы­двигает необходимость применения и разра­ботки систем вооружения в соответствии с эволюцией тактики и стратегии. И здесь проблема эффективности использования военной техники не может быть отделена от проблем автоматизации.
С проблемой приспособления машины к реально существующим условиям путем пра­вильного использования интеллекта перевод­чика, врача или изобретателя мы сталкиваем­ся не только сегодня. Этой проблемой мы должны будем заниматься снова и снова. Развитие искусств и наук означает, что мы не можем признать за какой-либо отдельной эпохой права на обладание абсолютной муд­ростью. Это, вероятно, становится наиболее ясным при рассмотрении опыта социального регулирования и создания обучающихся сис­тем в области политики. В периоды относи­тельной стабильности - если не в сфере фи­лософских теорий, то, во всяком случае, в реальных условиях, созданных нами в окру­жающем мире, - мы можем уверенно ре­шать новые проблемы, возникшие перед ны­нешним поколением, как, например, пробле­мы, связанные с созданием атомной бомбы, бурным ростом населения, широким распро­странением медицины и т. д. Однако с тече­нием времени мы должны пересматривать свою прежнюю оптимизацию так, чтобы наша новая оптимизация учитывала все эти факторы.
Социальное регулирование, рассматривает мое применительно к отдельному индивиду или всему человеческому роду, есть некий процесс, самые основы которого долж­ны быть раньше или позже пересмотрены. Это значит, как я отмечал ранее в статье для московского журнала «Вопросы философии», что хотя наука и вносит свой важный вклад в процесс социального регулирования, однако основные принципы этого научного вклада должны оцениваться заново почти каждым новым поколением. Позвольте мне здесь за­метить, что общественный гомеостазис - как на Западе, так и на Востоке в настоящие время осуществляется, исходя из намерении жестко закрепить концепции давно минувшего периода. Маркс жил в эпоху первой про­мышленной революции, а мы теперь давно вступили в период второй промышленной революции. Эпохе Адама Смита соответствует еще более ранняя и устаревшая фаза первой промышленной революции.
Непрерывный общественный гомеостазис не может осуществляться, исходя из жестких предпосылок о совершенной неизменяемости марксизма, точно так же как он не может быть реализован, исходя из столь же жестких предпосылок, основанных на шаблонных идеях свободного предпринимательства и наживы как побудительных силах экономического раз­вития. Дело в конечном счете не в той или иной особой форме окостенелости, а в самой ее сути.
В статье, опубликованной в «Вопросах фи­лософии», мне представлялось необходимым подчеркнуть роль науки в общественном гомеостазисе и в то же время выступить про­тив догматического приложения выводов нау­ки к развитию общества, будь то в России или где-нибудь в другом месте.
Когда я послал эту статью в журнал «Вопросы философии», я предвидел, что моя по­зиция в отношении окостенелости и догма­тизма встретит острую реакцию; и в самом деле, моя статья была напечатана с послесло­вием гораздо большего объема - в нем были вскрыты уязвимые места моей позиции, со строго марксистской точки зрения. Я не сомневаюсь, что, если бы моя статья вначале была опубликована у нас на Западе, я под­вергся бы подобной или почти такой же стро­гой критике сточки зрения наших собствен­ных предрассудков, которые хотя, быть может, и выражаются не столь догматично и формально, но тем не менее столь же сильны.
Тезис, который я хотел бы здесь выдви­нуть, не является ни про-, ни антикоммунисти­ческим. Этот тезис сводится к антидогматиз­му. Поэтому я выражаю свои идеи здесь в форме, не слишком связанной с оценкой раз­личий в опасностях, которые несут аналогич­ные, но противоположные формы догматиз­ма. Вывод, который я хотел бы подчеркнуть здесь, состоит в том, что нельзя преодолеть трудности, связанные с установлением подлинного общественного регулирования, заменой одной жесткой схемы, которая не подвергается постоянной переоценке, другой жесткой схемой, аналогичной по форме и противоположной по содержанию.
Кроме машин-переводчиков и машин, играющих в шашки, существуют и другие обу­чающиеся машины. Некоторые из них могут быть запрограммированы так, что они приоб­ретают способность функционировать без че­ловека. Другие же, подобно машине-перевод­чику, нуждаются во вмешательстве человека-эксперта, привлекаемого в качестве арбитра. Мне кажется, что системы последнего типа должны применяться гораздо шире машин­ных систем первого типа. Более того, необхо­димо напомнить, что в такого рода «игре», как атомная война, экспертов вообще не существует.

VII глава

ИТАК, МЫ ВЫПОЛНИЛИ НАШУ ЗАДАЧУ, выявив ряд действительных аналогий между теологическими ситуациями и явления­ми, которые изучаются кибернетикой. В ходе этих уместных сопоставлений мы достаточно убедительно показали приложимость кибер­нетического подхода к моральным проблемам личности.
Остается кратко рассмотреть дру­гую область приложения кибернетических идей, а именно их приложения к проблемам этического характера. Это кибернетика общества и рода человеческого.
С самого начала своих исследований в об­ласти кибернетики я отчетливо понимал, что принципы управления и связи, применимые, как мне удалось установить, в технике и фи­зиологии, приложимы также к социологии и экономике.
Однако я умышленно воздержался от подчеркивания возможностей кибернетическо­го подхода к этим сферам науки, и вот по каким причинам. Кибернетика - ничто, если математика не служит ей опорой, если не in esse, то in роssе. И математическая социология, и математическая экономика, или эконометрика, страдают от неправильного понима­ния того, как следует применять математиче­ский аппарат в общественных науках и чего вообще можно ожидать от применения мате­матических методов. По этой причине я соз­нательно воздерживался от каких-либо рекомендаций в этой области, так как был убеж­ден, что за ними хлынул бы поток незрелых и превратно понимаемых работ.
Успехи математической физики стали од­ним из величайших триумфов нашего време­ни. Однако только в XX веке задачи физика-теоретика были наконец правильно поняты, в особенности в их взаимосвязи с задачами, которые решает физик-экспериментатор.
До кризиса физики 1900 - 1905 годов бы­ло общепризнанно, что основные понятия ма­тематической физики получили свое завер­шение в трудах Ньютона. Пространство и вре­мя, масса и количество движения, сила и энергия были понятиям, установленными, казалось бы, раз навсегда. Задача физики будущего сводилась лишь к построению мо­делей, которые объясняли бы все еще не изученные явления с помощью этих осново­полагающих категорий.
После открытий Планка и Эйнштейна ста­ло ясно, что задача физика не столь проста. Категории физики начала XVIII века нельзя было считать абсолютной истиной. Задача фи­зиков нашего времени в определенном смыс­ле противоположна той, которую ставила пе­ред нами ньютоновская наука: теперь мы должны привести количественные наблюдения окружающего нас мира в стройную систему, исходным пунктом которой служит экспери­мент, а конечным - предсказание новых явлений и их технического применения. На­блюдатель перестал быть невинным регистратором своих объективных наблюдений; оказалось, что, помимо своей воли, он активно влияет на результаты эксперимента.
Согласно теории относительности и квантовой теории, эффект присутствия наблюдателя при поста­новке эксперимента и его модификациях столь существен, что пренебречь им уже не­возможно. Это положение вещей, кстати, при­вело к зарождению современного неопозити­визма.
Успехи математической физики вызвали у социологов чувство ревности к силе ее мето­дов - чувство, которое едва ли сопровожда­лось отчетливым пониманием интеллектуаль­ных истоков этой силы.
Развитию естествен­ных наук сопутствовало широкое применение математического аппарата, ставшее модным и в общественных науках. Подобно тому как некоторые отсталые народы заимствовали у Запада его обезличенные, лишенные национальных примет одежды и парламентские формы, смутно веря, будто эти магические облачения и обряды смогут их сразу приблизить к современной культуре и технике, так экономисты принялись облачать свои весьма неточные идеи в строгие формулы интегрального и дифференциального исчислений. Поступая таким образом, они явно обнаруживают свою недальновидность.
Математика, которой пользуются социоло­ги, и математическая физика, которую они берут за образец, - это математика и мате­матическая физика середины прошлого века. Специалист по эконометрике может тщательно разработать сложную теорию спроса и предложения, товарных запасов и безработи­цы и т. д. при относительном или полном без­различии к методам, с помощью которых эти чрезвычайно изменчивые величины на­блюдаются или измеряются.
К количествен­ным теориям подобного рода сейчас относят­ся почти с таким же безоговорочным дове­рием, с каким физики прошлого века отно­сились к положениям ньютоновской физики. Очень немногие экономисты отдают себе от­чет в том, что если они всерьез намерены заимствовать существо методов современной физики, а не только их внешние аксессуары, то математическая экономика должна начать с критического пересмотра своих количест­венных характеристик и методов их сбора и измерений.
Как ни труден отбор надежных данных в физике, гораздо сложнее собрать обширную информацию экономического или социологи­ческого характера, состоящую из многочис­ленных серий однородных данных. Например, данные о выплавке стали изменяют свою зна­чимость не только при каждом изобретении, которое меняет технику сталеварения, но и при каждом социальном или экономическом сдвиге.
Бездействующем на коммерческую сферу и промышленность в целом. В частно­сти, это относится к любому техническому новшеству, изменяющему спрос и предложе­ние или свойства конкурирующих материалов. Так, например, даже первый небоскреб, вы­строенный из алюминия вместо стали, может повлиять на весь будущий спрос строительной стали, подобно тому, как первое дизельное судно положило конец неоспоримому гос­подству парохода.
Таким образом, экономическая игра - это такая игра, правила которой должны периодически подвергаться существенному пересмотру, скажем каждые десять лет, при этом она еще имеет тревожное сходство с игрой в кро­кет Королевы из «Алисы в стране чудес», о которой я уже упоминал. В этих обстоятель­ствах безнадежно добиваться слишком точных определений величин, вступающих в игру.
Приписывать таким неопределенным по са­мой своей сути величинам какую-то особую точность бесполезно и нечестно, и, каков бы ни был предлог, применение точных формул к этим слишком вольно определяемым вели­чинам есть не что иное, как обман и пустая трата времени.
Здесь уместно напомнить недавние работы Мандельброта. Он, в частности, показал, что специфические формы случайных колебаний товарного рынка, выведенные из предполо­жения о присущей ему неравномерности конъюнктуры, как показывают теория и прак­тика, гораздо хаотичней и глубже, чем пред­полагалось, и что обычные приближения, используемые для оценки динамики сбыта, должны применяться с гораздо большей осто­рожностью или не применяться вовсе.
Общественные науки представляют собой испытательную среду, малопригодную для апробирования идей кибернетики, гораздо худшую, чем биологические науки, где данные могут быть получены при более одно­родных условиях и в присущем им масштабе времени. Это объясняется тем, что человек как физиологическая система в отличие от общества в целом очень мало изменился со времен каменного века. И жизнь индивида в течение многих лет протекает в физиоло­гических условиях, подвергающихся крайне медленным изменениям, которые к тому же можно предвидеть заранее. Это отнюдь не означает, что идеи кибернетики неприложимы к социологии и экономике. Это скорее озна­чает, что, прежде чем применять эти идеи в столь аморфной сфере, они должны быть испытаны в технике и биологии.
Принимая во внимание указанные оговор­ки, можно считать, что широко используемая аналогия между государственной системой и человеческим организмом оправданна и полезна. С этой точки зрения государственная система должна быть подвергнута всесторон­нему рассмотрению с позиций этики, с кото­рых надлежит анализировать и ту область ре­лигиозного мировоззрения, которая по суще­ству не что иное, как парафраз этических норм.

VIII глава

И ВОТ Я ПЕРЕЧИТАЛ эти очерки, объеди­ненные одной внутренней темой творче­ской активности - от Творца до машины, - написанные под одним углом зрения. Маши­на, как я уже сказал, - это современный двойник Голема, созданного некогда праж­ским раввином. Поскольку я настаивал на том, что вопросы творческой активности сле­дует рассматривать в их единстве, под общим названием, не разделяя их на отдельные части, относящиеся к Творцу, человеку и ма­шине, я не думаю, что я превысил пределы общепринятой авторской свободы, назвав эту книгу «God and Golem, Inc.»'