Кажущуюся каплю «разума» кое-где можно обнаружить лишь благодаря тому, что специалисты просто научились создавать — насколько это вообще оказалось возможно — «заменители» разума, хотя бы частичные, используя найденные (пусть не полные и не совсем точные) соответствия между синтаксисом (формальным) и семантическим универсумом, то есть пространством смыслов. Таким образом, возникает то, что является центром споров об Artificial Intelligence , что создает два противоположных лагеря: тех, кто признает возможность синтеза «машинного» (необязательно только электронного) разума, и тех, кто эту задачу считает во веки (веков?) неосуществимой.
К этому и сводится (хотя этим не ограничивается) спор, ведущийся вокруг «китайской комнаты» и ее «обитателя», который, совершенно не зная китайского языка, «вместе с комнатой и дополнительной информацией» ведет себя (на выходе) так, словно он понимал то, что получал (по-китайски) на входе. Об этом я уже писал [В эссе «Тайна китайской комнаты» (апрель 1995 г.) из одноименного сборника (1996 г.), продолжением которого является «Мегабитовая бомба». В этом эссе Станислав Лем подробно анализирует мысленный эксперимент, предлагаемый специалистами по AI для подтверждения того, что возможна имитация понимания текста, которого, на самом деле, человек, его составляющий, совершенно не понимает. По мнению Лема (и он в этом не одинок), которое он подробно обосновывает на различных наглядных примерах, предлагаемый эксперимент вводит нас в заблуждение: «понимание» в нем не участвует вообще и даже нет речи о присутствии «сознания», а возможен ли искусственный интеллект — покажет будущее, но этот эксперимент с этим будущим ничего общего не имеет] и не намерен снова вдаваться здесь в суть этого спора. Одних аргументы обеих сторон убеждают, других — нет, и уже отсюда видно, до какой степени ответ на вопрос об искусственном понимании является также ВОПРОСОМ ВЕРЫ (в то, что дело обстоит именно так, а не иначе).
3
Подмена понимания используется, в частности, лексикографической схоластикой, что упрощенно можно было бы показать на примере дилетанта, прислушивающегося к диалогу двух физиков (о квантах, а не о ресторанах), или человека, открывающего энциклопедию на своем родном языке на статье «Оператор Гамильтона», — и хотя сначала ему покажется, что, прочитав статью, он что-нибудь узнает о гамильтониане или даже поймет, что такое этот оператор, но если он не в ладах с математикой, он просто соскользнет к обычному синтаксису и ни до чего не сможет «додуматься». Я настойчиво пишу об этом, потому что хочу показать довольно простую вещь, о которой, однако, или говорят немного, или вообще ничего не говорят: «понимание», которое без (хотя бы капли) «интеллекта» невозможно, кажется нам (особенно в повседневных ситуациях) элементарным, но, по существу, это сложное и по-прежнему загадочное явление. Здесь следует сначала отметить, что «понимание» подлежит как внутри-, так и межвидовой градации (ступенчатости). Моя собака понимает, когда ее ждет прогулка, а когда вкусный кусок: понимает без языка, бихевиористически. Если бы — вздохнет специалист по AI — машина хотя бы без языка могла так себя вести… То, что могут такие «машины» (например, робот Винограда [Winograd ]), происходит на уровне еще не совсем хорошо ползающего ребенка. Так могут понимать звери, а что касается людей, они тоже могут демонстрировать «понимание на соответствующем уровне» и даже (это удается студентам на экзаменах) могут создавать поведенчески-языковую видимость, что понимают заданные им вопросы, раз дают ответ, удовлетворяющий экзаменатора, но более тщательное изучение (что называется, «прижать виновного к стенке») покажет, что это была только видимость (например, заучивание фраз на память, а не «на ум», и т.п.). Помимо этого или параллельно этому случаются ситуации, в которых можно заметить, что в течение достаточно длительного промежутка времени происходит приближение к пониманию: что есть «так-то и так». Как известно, теорию относительности Эйнштейна («?ber die Elektrodynamik bewegter K?rper» [«Об электродинамике движущихся тел» (нем.)] ), первая редакция которой насчитывала едва пару страниц, его современники-ученые в одном смысле «понимали», а в другом «вообще не понимали», и, наверное, только Эддингтон (Eddington ) заметил, что ее «понимало» тогда всего несколько физиков в мире. Шварцшильд (Schwarzshild ), немецкий астроном, создавший математическую модель черной дыры, сам не верил в эту дыру как в реальный объект, и прошло немало времени, прежде чем астрофизики и космологи стали, вначале нерешительно, выдвигая гипотезы, а потом со все большей уверенностью признавать black hole одним из конструктивных элементов строения галактик. Дело не в том, что сначала люди «не хотят» или «не могут» поверить, а потом «изменяют вероисповедание» только потому, что растет число наблюдений, подтверждающих, что звезды с массой, впятеро превышающей массу нашего Солнца, после исчерпания всей имеющейся в их недрах атомной энергии сжимаются в точку, что это и есть коллапс… впрочем, речь не о черных дырах, а о мыслительном процессе, ведущем к утверждению, что они есть и должны быть. В 30-е годы доктор Людвик Флек (Ludwick Fleck ) описал процессы, приводящие в конце концов к возникновению научного факта. Он считал, что в коллективе специалистов, вместе размышляющих над определенной, сначала даже туманной, не точно сформулированной темой (например, что представляет собой какая-либо болезнь или аллергия и т. п.), мысли, передаваемые от одного к другому, как бы непроизвольно «крепнут», «оформляются», и в результате коллективным убеждением выкристаллизовывается новый «научный факт». Хотя каждый, кто читал «Структуру научных революций» Куна (Kuhn ) с ее парадигмами, сразу увидит: если Кун преподнес преобразование «парадигм» как проект возникновения познавательных инноваций, то д-р Флек выразил этот процесс моделью «совместного вращения новых мыслей» в коллективе знатоков. То есть вывод таков: приходить к «пониманию» можно так или иначе, и одно толкование может стоить другого. Впрочем, не исключено, что представить «понимание» некоего конкретизируемого предмета лучше всего можно там, где этого предмета никто раньше не видел, никто его не понимал.
4
Может ли такое быть? Еще как. Возьмем, например, теории антропогенеза: до сих пор считалось, что возникновение человека было процессом линейным, несколько одноколейным, а сейчас новейшие палеонтологические данные достаточно четко указывают на то, что около четверти миллиона лет тому назад homo erectus и homo sapiens были двумя сосуществующими видами. Но здесь идет «борьба фактов»: есть различные интерпретации костных останков плюс измерение возраста, определяемое по новейшим методикам (например, по времени распада определенных изотопов).
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64
К этому и сводится (хотя этим не ограничивается) спор, ведущийся вокруг «китайской комнаты» и ее «обитателя», который, совершенно не зная китайского языка, «вместе с комнатой и дополнительной информацией» ведет себя (на выходе) так, словно он понимал то, что получал (по-китайски) на входе. Об этом я уже писал [В эссе «Тайна китайской комнаты» (апрель 1995 г.) из одноименного сборника (1996 г.), продолжением которого является «Мегабитовая бомба». В этом эссе Станислав Лем подробно анализирует мысленный эксперимент, предлагаемый специалистами по AI для подтверждения того, что возможна имитация понимания текста, которого, на самом деле, человек, его составляющий, совершенно не понимает. По мнению Лема (и он в этом не одинок), которое он подробно обосновывает на различных наглядных примерах, предлагаемый эксперимент вводит нас в заблуждение: «понимание» в нем не участвует вообще и даже нет речи о присутствии «сознания», а возможен ли искусственный интеллект — покажет будущее, но этот эксперимент с этим будущим ничего общего не имеет] и не намерен снова вдаваться здесь в суть этого спора. Одних аргументы обеих сторон убеждают, других — нет, и уже отсюда видно, до какой степени ответ на вопрос об искусственном понимании является также ВОПРОСОМ ВЕРЫ (в то, что дело обстоит именно так, а не иначе).
3
Подмена понимания используется, в частности, лексикографической схоластикой, что упрощенно можно было бы показать на примере дилетанта, прислушивающегося к диалогу двух физиков (о квантах, а не о ресторанах), или человека, открывающего энциклопедию на своем родном языке на статье «Оператор Гамильтона», — и хотя сначала ему покажется, что, прочитав статью, он что-нибудь узнает о гамильтониане или даже поймет, что такое этот оператор, но если он не в ладах с математикой, он просто соскользнет к обычному синтаксису и ни до чего не сможет «додуматься». Я настойчиво пишу об этом, потому что хочу показать довольно простую вещь, о которой, однако, или говорят немного, или вообще ничего не говорят: «понимание», которое без (хотя бы капли) «интеллекта» невозможно, кажется нам (особенно в повседневных ситуациях) элементарным, но, по существу, это сложное и по-прежнему загадочное явление. Здесь следует сначала отметить, что «понимание» подлежит как внутри-, так и межвидовой градации (ступенчатости). Моя собака понимает, когда ее ждет прогулка, а когда вкусный кусок: понимает без языка, бихевиористически. Если бы — вздохнет специалист по AI — машина хотя бы без языка могла так себя вести… То, что могут такие «машины» (например, робот Винограда [Winograd ]), происходит на уровне еще не совсем хорошо ползающего ребенка. Так могут понимать звери, а что касается людей, они тоже могут демонстрировать «понимание на соответствующем уровне» и даже (это удается студентам на экзаменах) могут создавать поведенчески-языковую видимость, что понимают заданные им вопросы, раз дают ответ, удовлетворяющий экзаменатора, но более тщательное изучение (что называется, «прижать виновного к стенке») покажет, что это была только видимость (например, заучивание фраз на память, а не «на ум», и т.п.). Помимо этого или параллельно этому случаются ситуации, в которых можно заметить, что в течение достаточно длительного промежутка времени происходит приближение к пониманию: что есть «так-то и так». Как известно, теорию относительности Эйнштейна («?ber die Elektrodynamik bewegter K?rper» [«Об электродинамике движущихся тел» (нем.)] ), первая редакция которой насчитывала едва пару страниц, его современники-ученые в одном смысле «понимали», а в другом «вообще не понимали», и, наверное, только Эддингтон (Eddington ) заметил, что ее «понимало» тогда всего несколько физиков в мире. Шварцшильд (Schwarzshild ), немецкий астроном, создавший математическую модель черной дыры, сам не верил в эту дыру как в реальный объект, и прошло немало времени, прежде чем астрофизики и космологи стали, вначале нерешительно, выдвигая гипотезы, а потом со все большей уверенностью признавать black hole одним из конструктивных элементов строения галактик. Дело не в том, что сначала люди «не хотят» или «не могут» поверить, а потом «изменяют вероисповедание» только потому, что растет число наблюдений, подтверждающих, что звезды с массой, впятеро превышающей массу нашего Солнца, после исчерпания всей имеющейся в их недрах атомной энергии сжимаются в точку, что это и есть коллапс… впрочем, речь не о черных дырах, а о мыслительном процессе, ведущем к утверждению, что они есть и должны быть. В 30-е годы доктор Людвик Флек (Ludwick Fleck ) описал процессы, приводящие в конце концов к возникновению научного факта. Он считал, что в коллективе специалистов, вместе размышляющих над определенной, сначала даже туманной, не точно сформулированной темой (например, что представляет собой какая-либо болезнь или аллергия и т. п.), мысли, передаваемые от одного к другому, как бы непроизвольно «крепнут», «оформляются», и в результате коллективным убеждением выкристаллизовывается новый «научный факт». Хотя каждый, кто читал «Структуру научных революций» Куна (Kuhn ) с ее парадигмами, сразу увидит: если Кун преподнес преобразование «парадигм» как проект возникновения познавательных инноваций, то д-р Флек выразил этот процесс моделью «совместного вращения новых мыслей» в коллективе знатоков. То есть вывод таков: приходить к «пониманию» можно так или иначе, и одно толкование может стоить другого. Впрочем, не исключено, что представить «понимание» некоего конкретизируемого предмета лучше всего можно там, где этого предмета никто раньше не видел, никто его не понимал.
4
Может ли такое быть? Еще как. Возьмем, например, теории антропогенеза: до сих пор считалось, что возникновение человека было процессом линейным, несколько одноколейным, а сейчас новейшие палеонтологические данные достаточно четко указывают на то, что около четверти миллиона лет тому назад homo erectus и homo sapiens были двумя сосуществующими видами. Но здесь идет «борьба фактов»: есть различные интерпретации костных останков плюс измерение возраста, определяемое по новейшим методикам (например, по времени распада определенных изотопов).
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64