Китайская комната

Может ли компьютер обладать сознанием? Под сильным искусственным интеллектом понимают сконфигурированные должным образом компьютерные ИИ-системы, способные по-настоящему думать, обладать разумом и сознанием. В то же время системы со слабым искусственным интеллектом могут только действовать так, будто они разумны и мыслят как люди. Одним из первых с критикой идеи сильного ИИ в компьютерах выступил философ Джон Сёрл, который в 1980 г. описал мысленный эксперимент "китайская комната".

Представьте себе, что вы сидите в закрытой комнате. Вы получаете лист бумаги с китайскими иероглифами через щель в стене. Хотя вы не знаете китайского, вы можете обратиться к инструкциям, которые расскажут вам, как записать иероглифами нужные ответы. Опираясь на эти инструкции, вы рисуете иероглифы на листе бумаги и передаете ответ во внешний мир через щель. Человеку, находящемуся снаружи, может показаться, что вы прекрасно знаете китайский язык; однако вы всего лишь следуете правилам, а китайский текст на обоих листах выглядит для вас полной тарабарщиной.

Этот мысленный эксперимент показывает, что программа не может наделить компьютер разумом, сознанием или пониманием, даже если компьютер и программа кажутся нам вполне разумными.

Аргументация примерно такая:

• Аксиома 1. Компьютерная программа — манипулирование формальными (синтаксическими) объектами.
• Аксиома 2. Человеческий разум оперирует смысловым (семантическим) содержанием. → Компьютерная программа обладает синтаксисом (символами), но не обладает семантикой (смысловым содержанием).
• Аксиома 3. Синтаксис сам по себе не составляет семантику, и его недостаточно для существования семантики.
• Заключение 1. Программы не являются сущностью разума, и их наличия недостаточно для наличия разума. → Утверждение сильного ИИ ложно.
• Аксиома 4. Мозг порождает разум.
• Заключение 2. Любая другая система, способная порождать разум, должна обладать каузальными свойствами, эквивалентными свойствам мозга.
• Заключение 3. Любой артефакт, порождающий ментальные явления, любой искусственный мозг должен иметь способность воспроизводить специфические каузальные свойства мозга, и наличия этих свойств невозможно добиться только за счёт выполнения формальной программы.
• Заключение 4. Тот способ, посредством которого человеческий мозг порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы.

Впрочем, некоторые философы возражают: даже если вы не понимаете китайского, система, состоящая из вас, закрытой комнаты, инструкций и вашей способности следовать инструкциям, действительно понимает этот язык – и представляет собой некое внешнее по отношению к вам сознание, о котором вы не подозреваете.

Другие предлагают мысленный эксперимент, в котором клетки вашего мозга постепенно заменяются электронными аналогами с теми же функциями ввода и вывода. Конечно, после замены нескольких ваших клеток вы все еще остаетесь собой. Но вполне возможно, что через год будут заменены все ваши клетки, и при этом ни в какой конкретный момент вы не утратите внезапно свое сознание и самосознание. Вы по-прежнему останетесь собой?

Конечно, для выполнения большинства практических задач искусственному интеллекту достаточно действовать разумно. И все же споры о китайской комнате и выводах из этого мысленного эксперимента не прекращаются.