VI. Противоположные точки зрения по основному вопросу

Теперь мы можем считать, что основные понятия нами выяснены, и перейти к рассмотрению вопроса "могут ли машины мыслить?" и его варианта, изложенного в конце предыдущего раздела. Вместе с тем мы не можем отказаться от первоначальной формы вопроса, так как по поводу равноценности замены одной формы вопроса другой мнения могут расходиться и в любом случае необходимо выслушать то, что было бы сказано в этой связи.

Читателю будет легче разобраться в этой дискуссии, если я сначала разъясню свои собственные убеждения. Рассмотрим сперва более точную форму вопроса. Я уверен, что через пятьдесят лет станет возможным программировать работу машин с емкостью памяти около 10⁶ так, чтобы они могли играть в имитацию настолько успешно, что шансы среднего человека установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70%. Первоначальный вопрос "могут ли машины мыслить?" я считаю слишком неосмысленным, чтобы он заслуживал рассмотрения. Тем не менее я убежден, что к концу нашего века употребление слов и мнения, разделяемые большинством образованных людей, изменятся настолько, что можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно. Более того, я считаю вредным скрывать такие убеждения. Широко распространенное представление о том, что ученые с неуклонной последовательностью переходят от одного вполне установленного факта к другому, не менее хорошо установленному факту, не давая увлечь себя никакому непроверенному предположению, в корне ошибочно. Не будет никакого ущерба от того, что мы ясно осознаем, что является доказанным фактом, а что предположением. Догадки очень важны, ибо они подсказывают направления, полезные для исследований.

Теперь я перехожу к рассмотрению мнений, противоположных моему собственному.

Теологическое возражение

"Мышление есть свойство бессмертной души человека, Бог дал бессмертную душу каждому мужчине и каждой женщине, но не дал души никакому другому животному и машинам. Следовательно, ни животное, ни машина не могут мыслить"*.

Я не могу согласиться ни с чем из того, что было только что сказано, и попробую возразить, пользуясь теологическими же терминами. Я счел бы данное возражение более убедительным, если бы животные были отнесены в один класс с людьми, ибо, на мой взгляд, между типичным одушевленным и типичным неодушевленным предметами имеется большее различие, чем между человеком и другими животными. Произвольный характер этой ортодоксальной точки зрения станет еще яснее, если мы рассмотрим, в каком свете она может представиться человеку, исповедующему какую-нибудь другую религию. Как, например, христиане отнесутся к точке зрения мусульман, считающих, что у женщин нет души? Но оставим этот вопрос и обратимся к основному возражению. Мне кажется, что из приведенного выше аргумента со ссылкою на душу у человека следует серьезное ограничение всесильности Всемогущего. Пусть даже существуют определенные вещи, которые Бог не может выполнить, — например, сделать так, чтобы единица оказалась равной двум; но кто же из верующих не согласился бы с тем, что Он волен вселить душу в слона, если найдет, что слон этого заслуживает? Мы можем искать выход в предположении, что Он пользуется своей силой лишь в сочетании с мутациями, совершенствующими мозг настолько, что последний оказывается в состоянии удовлетворить требованиям души, которую Он желает вселить в слона. Но точно так же можно рассуждать и в случае машин. Это рассуждение может показаться отличным лишь. потому, что в случае машин его труднее "переварить". По сути дела это означает, что мы считаем весьма маловероятным, чтобы Бог счел обстоятельства подходящими для того, чтобы дать душу машине, т.е. речь идет в действительности о других аргументах, которые обсуждаются в остальной части статьи. Пытаясь построить мыслящие машины, мы поступаем по отношению к Богу более непочтительно, узурпируя Его способность создавать души, чем мы делаем это, производя потомство; в обоих случаях мы являемся лишь орудиями его воли и производим лишь убежища для душ, которые творит опять-таки Бог.

Все это, однако, пустые рассуждения. В пользу чего бы ни приводили такого рода теологические доводы, они не производят на меня особого впечатления. Однако в старину такие аргументы находили весьма убедительными. Во времена Галилея полагали, что такие церковные тексты, как "Стояло солнце среди неба и не спешило к западу почти целый день" (Иисус Навин, 10, 3) и "Ты поставил землю на твердых основах; не поколеблется она в веки и веки" (псалом 103, 5), в достаточной мере опровергали теорию Коперника. В наше время такого рода доказательство представляется беспочвенным. Но, когда современный уровень знаний еще не был достигнут, подобные доводы производили совсем другое впечатление.

2. Возражение со "страусиной" точки зрения [The "Heads in the Sand" Objection]

"Последствия машинного мышления были бы слишком ужасны. Будем надеяться и верить, что машины не могут мыслить".

Это возражение редко выражают в столь открытой форме. Но оно звучит убедительно для большинства из тех, кому оно вообще приходит в голову. Мы склонны верить, что человек в интеллектуальном отношении стоит выше всей остальной природы. Лучше всего, если бы удалось доказать, что человек необходимо является самым совершенным существом, ибо в таком случае он может бояться потерять свое доминирующее положение. Ясно, что популярность теологического возражения связана именно с этим чувством. Это чувство, вероятно, особенно сильно у людей интеллигентных, так как они ценят силу мышления выше, чем остальные люди, и более склонны основывать свою веру в превосходство человека на этой способности.

Я не считаю, что это возражение является достаточно существенным для того, чтобы требовалось какое-либо опровержение. Утешение здесь было бы более подходящим; не предложить ли искать его в учении о переселении душ?

Математическое возражение

Имеется ряд результатов математической логики, которые можно использовать для того, чтобы показать наличие определенных ограничений возможностей машин с дискретными состояниями. Наиболее известный из этих результатов — теорема Гёделя* — показывает, что в любой достаточно мощной логической системе можно сформулировать такие утверждения, которые внутри этой системы нельзя ни доказать, ни опровергнуть, если только сама система непротиворечива. Имеются и другие, в некотором отношении аналогичные, результаты, принадлежащие Черчу, Клини, Россеру и Тьюрингу*. Результат последнего особенно удобен для нас, так как относится непосредственно к машинам, в то время как другие результаты можно использовать лишь как сравнительно косвенный аргумент (например, если бы мы стали опираться на теорему Гёделя, нам понадобились бы еще и некоторые средства описания логических систем в терминах машин и машин в терминах логических систем). Результат Тьюринга относится к такой машине, которая, в сущности, является цифровой вычислительной машиной с неограничейной емкостью памяти, и устанавливает, что существуют определенные вещи, которые эта машина не может выполнить. Если она устроена так, чтобы давать ответы на вопросы, как в "игре в имитацию", то будут вопросы, на которые она или даст неверный ответ, или не сможет дать ответа вообще, сколько бы ни было ей предоставлено для этого времени. Таких вопросов, конечно, может быть много, и на вопросы, на которые нельзя получить ответ от одной машины, можно получить удовлетворительный ответ от другой. Мы здесь, разумеется, предполагаем, что вопросы принадлежат скорее к таким, которые допускают ответ "да" или "нет", чем к таким, как: "Что вы думаете о Пикассо?". Следующего типа вопросы относятся к числу таких, на которые, как нам известно, машина не может дать ответ: "Рассмотрим машину, характеризующуюся следующим:...Будет ли эта машина всегда отвечать "да" на любой вопрос?" Если на место точек поставить описание (в какой-либо стандартной форме, например, подобной той, которая была использована нами в разделе V) такой машины, которая находится в некотором сравнительно простом отношении к машине, к которой мы обращаемся с нашим вопросом, то можно показать, что ответ на этот вопрос окажется либо неверным, либо его вовсе не будет. В этом и состоит математический результат*; утверждают, будто он доказывает ограниченность возможностей машин, которая не присуща разуму человека.

А для тех любознательных компьютерщиков, которые, возможно, не поверили на слово, что такую программу U нельзя написать, поясню, опуская детали (к которым можно придраться, но они все же несущественны), в чем тут дело. Если бы такая программа U была написана, то ее можно было бы легко переделать так, чтобы вместо команды вывода изображения девушки на экран она бы зацикливалась (вставить для этого, скажем, "вечный цикл" for(„);). Пусть эта переделанная программа называется U2. Что будет делать программа U2, если ей на вход подать текст программы U2 (текст себя самой)? Если она зацикливается, то она должна показать фотографию юноши и остановиться, т.е. не зациклиться. Но если она не зацикливается, это значит, что она должна зациклиться (поскольку вывод девушки в программе U был заменен на "вечный цикл"). Тем самым программа U2 оказывается в безвыходном положении, несовместимом с допущением возможности ее существования. — Прим. И.Д.

Ответ на это возражение вкратце состоит в следующем. Установлено, что возможности любой конкретной машины ограничены, однако в разбираемом возражении содержится голословное, без какого бы то ни было доказательства, утверждение, что подобные ограничения не применимы к разуму человека. Я не думаю, чтобы можно было так легко игнорировать эту сторону дела. Когда какой-либо из такого рода машин задают соответствующий критический вопрос и она дает определенный ответ, мы заранее знаем, что ответ будет неверным, и это дает нам чувство известного превосходства., Не является ли это чувство иллюзорным? Несомненно, оно бывает довольно искренним, но я не думаю, чтобы ему следовало придавать слишком большое значение. Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешимости машин, имело оправдание. Кроме того, чувство превосходства может относиться лишь к машине, над которой мы одержали свою — в сущности весьма скромную — победу. Не может быть и речи об одновременном торжестве над всеми машинами. Значит, короче говоря, для любой отдельной машины могут найтись люди, которые умнее ее, однако в этом случае снова могут найтись другие, еще более умные машины, и т.д.

Я думаю, что те, кто разделяет точку зрения, выраженную в математическом возражении, как правило, охотно примут "игру в имитацию" в качестве основы дальнейшего рассмотрения. Те же, кто убежден в справедливости двух предыдущих возражений, будут, вероятно, вообще не заинтересованы ни в каком критерии.

4. Возражение с точки зрения сознания [The Argument from Consciousness]

Это возражение особенно ярко выражено в выступлении профессора Джефферсона* на Листеровских чтениях за 1949 год*, откуда я и привожу цитату. "До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство)радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого".

Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской*. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что "А мыслит, а В нет", в то время как В убежден в том, что "В мыслит, а А нет". Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.

В русском издании статьи "Может ли машина мыслить?" к этому примечанию добавлено еще одно предложение: "Солипсизм есть крайняя форма философии субъективного идеализма". Школьная форма солипсического credo, высказываемая иногда наиболее продвинутыми учащимися на уроках обществоведения, звучит примерно так: "Вы все существуете лишь в моем воображении, реален лишь я вместе с моими чувствами и ощущениями". Между тем великий философ Людвиг Витгенштейн (1889—1951), чьи лекции по философии математики в Кембридже посещал Тьюринг, заметил как-то: "Здесь мы можем видеть, что солипсизм совпадает с чистым реализмом, если он строго продуман". Эти слова Витгенштейна были выбраны в качестве эпиграфа к рассказу известного современного писателя Виктора Пелевина "Девятый сон Веры Павловны" и определили его содержание; см. напр.: Викшор Пелевин. Синий фонарь. М.: "Текст", 1991. — Прим. И.Д.

Я уверен, что профессор Джефферсон отнюдь не желает стоять на этой крайней солипсистской точке зрения. Вероятно, он весьма охотно принял бы в качестве критерия "игру в имитацию". Эта, игра (если игрок В не участвует) нередко применяется на практике под названием viva voce (устно) для того, чтобы установить, понял ли действительно данный человек некоторую вещь, или он заучил нечто, как попугай. Вот отрывок из такой игры.

Задающий вопросы: Не находите ли Вы, что в первой строке Вашего сонета: "Сравню ль тебя я с летним днем" выражение "с весенним днем" звучало бы лучше?

Отвечающий: Оно нарушало бы размер стиха.

Задающий вопросы: А если сказать "с зимним днем"? С размером здесь все обстоит благополучно.

Отвечающий: Это так, но никто не захочет, чтобы его сравнивали с зимним днем.

Задающий вопросы: А разве мистер Пиквик не напоминает Вам Рождество?

Отвечающий: Некоторым образом да.

Задающий вопросы: Но Рождество — зимний день, и я не думаю, чтобы мистер Пиквик имел что-нибудь против этого сравнения.

Отвечающий: Я не думаю, что вы говорите все это всерьез. Когда говорят о зимнем дне, имеют в виду обычно зимний день, а не какой-то особенный, вроде Рождества.

И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла отвечать примерно так, как это было в приведенном выше отрывке из viva voce. He знаю, стал ли бы он рассматривать ответы машины лишь как "просто искусственную сигнализацию". Если бы ее ответы были столь же связными и удовлетворительными по содержанию, как в приведенном выше отрывке, я не думаю, чтобы профессор Джефферсон охарактеризовал это как дело, выполнить которое может "достаточно несложное устройство". Эту фразу из его выступления следует, по-видимому, относить к таким случаям, когда в машине имеется, скажем, граммофонная пластинка с записью сонета в чьем-либо исполнении, а также механизм, с помощью которого эту запись можно время от времени включать.

Короче говоря, я считаю, что большинство из тех, кто поддерживает возражение с точки зрения сознания [consciousness], скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения. В таком случае они, по-видимому, охотно примут наш критерий.

Мне не хотелось бы создавать впечатление, будто я считаю, что в сознании нет ничего загадочного. Например, неудача наших попыток локализовать сознание похожа на парадокс. Но я вовсе не думаю, что загадки, связанные с сознанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос, рассматриваемый в настоящей статье.

5. Возражения, исходящие из того, что машина не все может выполнить [Arguments from Various Disabilities]

Обычно эти возражения выражают в такой форме: "Я согласен с тем, что вы можете заставить машины делать все, о чем вы упоминали, но вам никогда не удастся заставить их делать X". При этом перечисляют довольно длинный список значений этого X. Я предлагаю читателю выбирать: "Быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек, создавать нечто подлинно новое".

Обычно в подтверждение подобных высказываний не приводят никаких доводов. Я убежден, что эти высказывания основываются главным образом на принципе неполной индукции*. Человек в течение своей жизни видел тысячи машин. Из того, что он видел, он делает ряд общих заключений. Машины безобразны, каждая из них создана для того, чтобы выполнять весьма ограниченные задачи, если необходимо сделать нечто иное, они бесполезны, вариации их поведения крайне незначительны и т.д. и т.п. Естественно, человек делает вывод, что все это является необходимыми особенностями всех машин в целом. Многие из этих ограничений связаны с очень маленькой емкостью памяти большинства машин. (При этом я предполагаю, что понятие емкости памяти машины несколько обобщено таким образом, что охватывает и машины, отличные от машин с дискретными состояниями. Точное определение не играет здесь никакой роли, так как в настоящем рассмотрении мы не претендуем на математическую строгость.) Несколько лет назад, когда очень немногие знали о цифровых вычислительных машинах, часто приходилось встречаться с недоверчивым отношением к тому, что о них рассказывали, если об их замечательных свойствах говорили, не объясняя, как такие машины устроены. Это, вероятно, происходило из-за того, что слушавшие шаблонно применяли принцип неполной индукции. Разумеется, применение этого принципа происходило в основном бессознательно. Если ребенок, обжегшись один раз, боится огня и выражает страх перед огнем тем, что избегает его, то я бы сказал, что он применяет неполную индукцию (само собой разумеется, поведение ребенка можно описать и по-другому), Я не думаю, чтобы трудовая деятельность и обычаи человечества были особенно удачным материалом для применения неполной индукции. Большую часть пространственно-временного континуума [space-time} необходимо пытливо исследовать, если мы хотим получить надежные результаты. В противном случае мы можем прийти, скажем, к выводу (к которому приходит большинство английских детей), что все говорят по-английски и что глупо изучать французский язык.

Выражение "неполная индукция" русского перевода соответствует выражению "scientific induction" (буквально: "научная индукция") английского оригинала. Такой перевод выбран потому, что выражение "научная индукция" употребляется у нас обычно не в том смысле, который имеет в статье Тьюринга выражение "scientific induction" (под "научной индукцией" в нашей литературе обычно понимают сложное рассуждение, основанное на совместном применении неполной индукции и дедукции, которое при определенных условиях — последние, впрочем, не уточняются — может давать достоверное заключение),

Короче говоря, здесь имеется в виду то, что при индуктивном умозаключении от частного к общему мы можем получить весьма сомнительный, если вообще не абсолютно ложный вывод — как в тьюринговском примере с английскими детьми (хотя в современном мире более яркий пример явили бы собою американские дети, равно как и многие американские взрослые).

Вот еще один пример умозаключения по (неполной) индукции. "Неужели наша школа "учимся говорить публично" нужна только двадцати человекам,...Нет, я знаю, уверен, что умение говорить нужно каждому из нас....Да, курс "учимся говорить публично" [...] способен помочь каждому человеку значительно улучшить свою устную речь". —Прим. И. Д.

Однако относительно многого из того, что было названо в числе вещей, недоступных машине, следует сделать особые оговорки. Неспособность машины получать удовольствие от клубники со сливками может показаться читателю пустяком. Весьма возможно даже, что мы могли бы сделать так, чтобы машина получала удовольствие от этого изысканного блюда, но любая попытка в этом направлении была бы идиотизмом. Эта неспособность машины приобретает значение лишь в сочетании с другими труднодоступными для нее вещами, например, в сочетании с трудностью установления между нею и человеком такого же отношения дружелюбия, какое бывает между двумя людьми.

Фраза в английском оригинале звучит так: "As between white man and white man, or between black man and black man" ("между белым мужчиной и белым мужчиной, или между черным мужчиной и черным мужчиной"; "man" может переводиться и как "человек", и как "мужчина"). Иными словами, переводчик здесь изрядно "закрасил" непристойную в советские времена шутку (ясно, какого рода отношения между мужчинами мог иметь в виду здесь Тьюринг, хоть он и вставил "для отвода глаз" "проблемную расовую тему". Эту неточность перевода я обнаружил совершенно случайно, и из-за нее, по всей видимости, позже придется пересмотреть весь публикуемый русский перевод, поскольку я думаю, что это далеко не единичный случай "сглаживания" игривого тона автора. — Прим. И..Д.

Утверждение "машины не могут совершать ошибок" кажется мне курьезным. Его пытаются парировать: "А разве они от этого хуже?" Отнесемся к этому утверждению не столь враждебно и попытаемся понять, что имеют в виду в действительности. Я думаю, что возражение, содержащееся в утверждении "машины не могут совершать ошибок", можно пояснить с помощью "игры в имитацию". Требуется, чтобы задающий вопросы отличил машину от человека, просто задавая им ряд арифметических задач; машина должна разоблачить себя вследствие своей высокой точности. Ответ на эту аргументацию очень прост. Можно сделать так, чтббы машина (запрограммированная для участия в игре) не стремилась давать правильные ответы на арифметические задачи. Она может в известной мере специально вводить ошибки в вычисления, для того чтобы сбить с толку задающего вопросы. Что касается ошибок, связанных с механическими неисправностями, то такие ошибки обнаружат себя, по-видимому, тем, что ошибочный результат в этом случае окажется трудно подвести под некоторый общий род типичных арифметических ошибок. Однако даже такая интерпретация данного возражения не является приемлемой. Размеры настоящей статьи не позволяют нам остановиться на этом более подробно. Мне кажется, что это возражение возникает потому, что смешивают ошибки двух родов. Их можно называть "ошибками функционирования" и "ошибками вывода". Ошибки функционирования происходят вследствие некоторых механических или электрических неисправностей, в результате которых машина ведет себя не так, как это было намечено. В философских дискуссиях обычно отвлекаются от возможности ошибок такого рода; поэтому подвергают рассмотрению "абстрактные машины". Эти абстрактные машины — математические фикции, а не реально существующие объекты. По определению, они не могут иметь ошибок функционирования. В этом смысле мы действительно можем сказать, что "машины никогда не могут ошибаться". Ошибки вывода могут возникать лишь тогда, когда сигналу на выходе машины придан определенный смысл. Например, машина может выдавать в печатном виде математические уравнения или какие-нибудь высказывания на русском (английском) языке. Если при этом печатается ложное предложение, мы говорим, что машина совершила ошибку вывода. У нас, очевидно, вовсе нет оснований для утверждения, что машина не может совершать ошибок этого рода. Например, она может только и делать, что печатать "0=1". В качестве более естественного примера рассмотрим машину, располагающую каким-то методом для того, чтобы делать заключения на основе неполной индукции. Мы должны ожидать, что такой метод в отдельных случаях будет давать ошибочные результаты.

На утверждение о том, что машина не может иметь предметом, своей мысли самое себя, можно, конечно, дать ответ лишь в том случае, если бы было возможно показать, что машина вообще имеет какие-либо мысли, выражающие какое-либо предметное содержание. Все же выражение "предметное содержание машинных операций" имеет некоторый смысл, по крайней мере для тех, кто имеет дело с машинными вычислениями. Если, например, машина решает уравнение х² — 40х — 11 == О, то уравнение можно считать частью предметного содержания операций машины в данный момент. В этом смысле содержанием операций машины, безусловно, может быть она сама. Ее можно использовать при составлении своей собственной программы или для предсказания последствий, вызываемых изменениями в ее устройстве. Наблюдая результаты своего поведения, машина сможет изменять свои собственные программы с тем, чтобы быть более эффективной в достижений некоторой цели. Все это станет возможно в ближайшем будущем; это не утопические мечты.

К сожалению, публикуя статью Тьюринга на страницах газеты, нет возможности даже в краткой степени пояснить, насколько верно здесь Тьюринг смотрел в будущее. — Прим. И.Д.

Возражение, состоящее в том, что машина не отличается разнообразием поведения, является всего лишь способом выражения того обстоятельства, что она не обладает большой емкостью памяти. До самого последнего времени емкость памяти даже в тысячу цифр была очень редкой.

Все возражения, которые мы сейчас разбираем, часто являются просто замаскированной формой возражения с точки зрения сознания. Обычно, если утверждают, что машина может выполнить что-нибудь из того, что было перечислено в начале раздела 5, и при этом описывают сущность метода, которым пользуется машина, это не производит большого впечатления. Считают, что, в чем бы ни состоял этот метод, он должен быть весьма элементарным, так как носит механический характер. Сравните сказанное с тем, что говорит Джефферсон (см. эту ссылку).

Возражение леди Лавлейс

Наиболее подробные сведения, которыми мы располагаем об Аналитической машине Бэббиджа, берутся из воспоминаний леди Лавлейс*. В них она высказывает такую мысль: "Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать" (курсив леди Лавлейс). Это высказывание цитируется Хартри*, который добавляет: "Отсюда не следует, что невозможно сконструировать электронное устройство, которое "мыслит", или в котором, пользуясь биологическими терминами, можно вырабатывать условные рефлексы, на основе которых становится возможным "обучение". Увлекательный и будирующий вопрос, подсказанный некоторыми из последних достижений, состоит в том, осуществимо это принципиально или нет. Однако не видно, чтобы машины, построенные или запроектированные до настоящего времени, обладали этим свойством".

Я полностью согласен с Хартри по этому вопросу. Следует отметить, что он вовсе не утверждает в категорической форме, что машины, о которых идет речь, не обладают этим свойством. Он лишь замечает, что данные, которыми располагала госпожа Лавлейс, не позволяли ей допустить этого. Весьма возможно, что машины, о которых шла речь, в некотором смысле обладали этим свойством. Действительно, пусть некоторая машина с дискретными состояниями обладает рассматриваемым свойством. Аналитическая машина Бэббиджа была универсальной цифровой вычислительной машиной; это значит, что если бы она обладала нужной емкостью памяти и необходимой скоростью работы, то, будь в нее введена соответствующая программа, она могла бы подражать этой машине. По-видимому, этот довод не приходил в голову ни Бэббиджу, ни графине Аавлейс. Во всяком случае, от них нельзя требовать, чтобы они исчерпали все, что можно сказать по этому вопросу.

Весь этот вопрос будет рассмотрен еще раз в разделе, посвященном обучающимся машинам.

Один из вариантов аргумента госпожи Лавлейс — это утверждение, гласящее, что машина "никогда не может создать ничего подлинно нового". На секунду возразим поговоркой, что вообще "ничто не ново под Луной", Кто может быть уверенным в том, что выполненная им "оригинальная работа" не была ростком из зерна, посеянного образованием, или просто результатом применения хорошо известных общих принципов. Более удачный вариант этого возражения состоит в утверждении, что "машина никогда не может ничем поразить человека". Это утверждение представляет собой прямой вызов, который, однако, мы можем принять, не уклоняясь. Лично меня машины удивляют очень часто. В основном это происходит потому, что я не могу точно рассчитать, чего можно, а чего нельзя ожидать от них, или (это бывает чаще) потому, что, хотя я и провожу необходимые расчеты, однако делаю это в спешке, неряшливо, рискуя ошибиться. Вот я говорю себе: "По-видимому, электрическое напряжение здесь должно быть таким же, как там: во всяком случае, будем исходить из этого предположения". Само собой разумеется, что в таких случаях я часто ошибаюсь, и получающийся результат оказывается для меня неожиданностью, так как к тому времени, когда эксперимент заканчивается, сделанное допущение уже забыто мною. Эти предположения и натяжки я оставляю открытыми до лекции на тему о моих порочных методах работы. Однако я нисколько не сомневаюсь в том, что действительно испытываю удивление перед машинами.

Я не жду, что этот ответ заставит замолчать моего противника. Вероятно, он скажет, что это удивление происходит вследствие некоторого творческого умственного акта с моей стороны и отражает мое недоверие к машине. Но такая аргументация уводит от вопроса о том, может ли машина чем-либо удивить человека, и возвращает снова к возражению с точки зрения сознания. Этот способ аргументации должен, таким образом, считаться исчерпанным, хотя, быть может, стоит все же отметить то обстоятельство, что если нечто поражает нас своей неожиданностью, то удивление, которое мы испытываем, независимо от того, что является его источником: человек, книга, машина или еще что-нибудь, — требует "творческого умственного акта".

Мнение о том, что машины не могут чем-либо удивить человека, основывается, как я полагаю, на одном заблуждении, которому в особенности подвержены математики и философы. Я имею в виду предположение о том, что коль скоро какой-то факт стал достоянием разума, тотчас же достоянием разума становятся все следствия из этого факта. Во многих случаях это предположение может быть весьма полезно, но слишком часто забывают, что оно ложно. Естественным следствием из него является взгляд, что якобы нет ничего особенного в умении выводить следствия из имеющихся данных, руководствуясь общими принципами.

⇐ Предыдущая12345Следующая ⇒

Поделиться:

Воспользуйтесь поиском по сайту: