Вейценбаум привёл отрывок из диалога «Элизы» с молодой женщиной, одной из первых протестировавших программу (ответы машины указаны курсивом):
Все мужчины похожи друг на друга.
В каком смысле?
Они всегда раздражают нас то по одному, то по другому поводу.
А ты можешь привести конкретный пример?
Ну что ж, я пришла сюда из-за моего друга.
Ты пришла сюда из-за друга.
Он говорит, что я постоянно нахожусь в состоянии депрессии.
Мне очень печально слышать, что ты находишься в состоянии депрессии.
Да, это так. Я несчастлива.
А ты думаешь, что твой приход сюда поможет тебе не чувствовать себя несчастной?
Я могу со всей определённостью сказать, что мне нужна помощь.
Как по-твоему, что могло бы произойти, если бы ты получила помощь?
Возможно, я могла бы помириться со своей матерью.
Расскажи мне больше о своей семье.
Мама заботится обо мне.
А кто ещё в семье заботится о тебе?
Мой отец.
Твой отец.
Ты тоже чем-то напоминаешь мне моего отца.
Чем?
Ты не проявляешь агрессии, но мне кажется, что ты не хочешь, чтобы
я это замечала.
Что заставляет тебя думать, что я не проявляю агрессии?
Ты не споришь со мной.
Как ты думаешь, почему я не спорю с тобой?
Ты меня боишься.
Тебе приятно думать, что я тебя боюсь?
Мой отец боится всех и вся.
Говоря о своём детище, Вейценбаум (который признавал, что оно представляет собой непримечательный и даже немного глуповатый вклад в молодую область естественно-языковой обработки) заметил, насколько простым может оказаться для программистов создание машин, «ведущих себя необычным образом и способных зачастую поражать даже искушённых наблюдателей». Однако как только «внутренние механизмы работы программы объясняются простым и понятным языком, - продолжал он, - вся магия моментально исчезает. Перед нами предстаёт всего лишь набор процедур, зачастую достаточно изощрённых. Наблюдатель говорит себе: 'Такую программу мог бы написать и я сам". Программа переносится с полки, на которой написано "интеллект", на полку, зарезервированную для всяких забавных диковин».
Однако в случае Вейценбаума (как и в случае Генри Хиггинса) равновесие было достаточно скоро нарушено. «Элиза» быстро приобрела популярность среди студентов МТИ, превратившись в одну из самых любимых тем для обсуждения на лекциях и презентациях, посвящённых компьютерам и режимам разделения времени. Она оказалась одной из первых программ, способных продемонстрировать мощь и скорость компьютеров, причём образом, доступным любому непрофессионалу. Для того чтобы поболтать с «Элизой», не требовались специальные знания в области математики или вычислительной техники.
Копии программы пользовались большой популярностью и в других университетах. Затем на неё обратила внимание пресса, и вскоре «Элиза», по словам Вейценбаума, превратилась в «национальную игрушку». Он был удивлён интересом к своей программе. Но ещё сильнее его шокировало то, насколько быстро и глубоко люди, пользовавшиеся программой, «вовлекались в эмоциональную связь с компьютером» и разговаривали с ним как с живым собеседником. Они «могли, пообщавшись с компьютером в течение определённого времени, настаивать, несмотря на мои объяснения, что машина действительно их понимает». Искушению подверглась даже секретарь Вейценбаума, своими глазами видевшая, как он писал программный код для «Элизы», и «точно знавшая, что это - всего лишь компьютерная программа». После нескольких месяцев работы с программой на терминале в офисе Вейценбаума секретарь попросила профессора покинуть комнату, так как начала испытывать смущение от того, что общение с машиной приобрело слишком личный характер. «Я никак не мог понять, - говорил Вейценбаум, - каким образом достаточно короткое общение с простой компьютерной программой может вызвать столь сильные отклонения в мышлении у вполне нормальных людей».
Но тут начали происходить ещё более странные вещи. Признанные психиатры и учёные из других областей знаний начали наперебой говорить, с немалым энтузиазмом, что программа может играть важную роль в реальном лечении различных болезней и нарушений. В статье в журнале Journal of Nervous and Mental Disease три знаменитых психиатра-исследователя написали, что «Элиза», при незначительной настройке, могла бы использоваться в качестве «терапевтического инструмента, широко доступного в психиатрических больницах и специализированных центрах, испытывающих нехватку врачей».
Благодаря «способностям современных и будущих компьютеров к разделению времени, несколько сотен пациентов могли бы одновременно пользоваться компьютерной системой, специально созданной для этой цели». В своей статье в журнале Natural History известный астрофизик Карл Саган выражал своё ничуть не меньшее восхищение потенциалом «Элизы». Он предвидел развитие «сети терапевтических компьютерных терминалов, чем-то напоминающих огромные телефонные будки, в которых всего за несколько долларов любой человек мог бы поговорить с внимательным, опытным и не указывающим правильное направление психотерапевтом».
В своей работе «Вычислительные машины и разум» Алан Тьюринг задавался вопросом: «Могут ли машины думать?» Он предложил простой эксперимент, позволявший оценить, действительно ли у компьютера есть интеллект. Изначально эксперимент носил название «имитационная игра», но потом приобрёл другое, всем известное название - тест Тьюринга.
В процессе тестирования «следователь» сидит за компьютерным терминалом в пустой комнате и участвует в переписке с двумя другими собеседниками, один из которых является человеком, а другой компьютером, лишь притворяющимся человеком. Тьюринг полагал, что если «следователь» окажется не в состоянии отличить компьютер от реального человека, то можно будет говорить о наличии у компьютера интеллекта. Способность выдавать правдоподобную последовательность слов будет свидетельствовать о появлении по-настоящему думающей машины.
Разговор с «Элизой» представлял собой по сути 0дну из разновидностей теста Тьюринга. Однако, как с удивлением обнаружил Вейценбаум, люди, «беседовавшие» с программой, совершенно не были заинтересованы в том, чтобы выносить рациональные и объективные суждения в отношении личности «Элизы». Они хотели верить, что «Элиза» представляет собой действительно думающую машину. Они хотели наградить «Элизу» человеческими качествами, даже зная, что она - всего лишь компьютерная программа, следующая простым и достаточно очевидным инструкциям. Как оказалось, тест Тьюринга во многом тестировал то, каким образом компьютеры мыслят в восприятии людей.
В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».
Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который подспудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?»
В 1976 году, спустя десять лет после дебюта «Элизы», он дал ответ на этот вопрос в книге «Возможности вычислительных машин и человеческий разум». Вейценбаум полагал, что для понимания эффектов, связанных с компьютером, необходимо смотреть на машину в контексте интеллектуальных технологий прошлого, длинной последовательности таких инструментов, как карта и часы, трансформировавших природу и изменивших «восприятие человеком реальности». Подобные технологии стали частью «всего того, из чего человек строит свой мир». Приняв их на вооружение, мы уже не можем отказаться от них без того, чтобы не ввергнуть общество «в великие потрясения или даже в хаос».