Конец света наступает не тогда, когда мир гибнет, а когда все происходящее вокруг нас теряет смысл.
Но «разум» состоит не только из способности отвечать на вопросы. Изъян теста Тьюринга заключается в том, что имитационная игра была задумана с единственной целью – обмануть. Если в этой игре мужчина может выдать себя за женщину, это не значит, что он понимает, как мыслит женщина. При желании мы могли бы научить компьютер искусно лгать. Но действительно ли мы хотим этого достичь?
машина не напишет сонет или не сочинит концерт под воздействием своих мыслей и испытанных чувств, а не благодаря случайному совпадению символов, только тогда мы согласимся с тем, что машина равна мозгу, – то есть она должна не только написать, но и знать, что именно она это написала. Ни один механизм не может чувствовать (а не просто подать сигнал, что достаточно легко) удовольствие от своих успехов, горевать, когда его электронные лампы плавятся, чувствовать тепло внутри от лести, тосковать из-за совершенных ошибок, поддаваться на сексуальные чары, злиться или печалиться