Химическая передача нервных импульсов оказалась исключительно важной проблемой. Установлено, что некоторые психические заболевания связаны с нарушениями в медиаторах и синапсах. Дальнейшие исследования показали, что мозг использует для передачи сигналов еще более сложные вещества, и, в сущности, он напоминает гигантскую железу. Разгадка тайн биохимии мозга, несомненно, имеет особое значение для клинической медицины и экспериментальной физиологии. Д. Аксельрод, У. Эйлер и Б. Кац, внесшие большой вклад в исследование этих вопросов, были удостоены в 1970 г. Нобелевской премии по физиологии и медицине. Она была присуждена им за исследования медиаторов и их роли в передаче нервных импульсов.

В 30-е годы в исследовании высшей нервной деятельности наметилось новое направление, которое постепенно оформилось в самостоятельную науку. Речь идет об этологии, изучающей поведение животных в естественных условиях. По-гречески «этос» означает «поведение, характер, нрав». Отличительная черта этой науки — использование полевых методов. Как и естествоиспытатели прошлого, этологи проводят дни и недели на природе, внимательно наблюдая за животными в естественных условиях и получая этограммы, фиксирующие с помощью киносъемки различные моменты поведения животных. Особенно большие заслуги в этой области принадлежат трем ученым. Это Карл фон Фриш, Конрад Лоренц и Николас Тинберген.

Имя профессора Фриша навсегда останется связанным с пчелами. В течение многих лет он исследовал сложные взаимоотношения между многочисленными обитателями ульев, пытаясь проникнуть в тайные законы, управляющие этим обществом. Столь высокая организация невозможна без сложной системы коммуникации. Фриш поставил перед собой задачу расшифровать язык этих насекомых и добился своей цели.

Прежде всего он пометил пчел, чтобы можно было различать их. Повсюду вокруг улья исследователи расставляли мисочки с сахаром, о которых тотчас же становилось известно всему улью. Фриш заметил, что, обнаружив сахар, пчела быстро возвращается в улей и исполняет своеобразный танец, которым уведомляет остальных пчел о местонахождении лакомства. Этот танец рассказывает обо всем: расстоянии до объекта, направлении на него и о положении Солнца, которое служит ориентиром. Аналогичную информацию получают пилоты перед вылетом к определенной цели, так что принципы навигации одинаковы для всех. Следуя полученным указаниям, пчелы вылетают и быстро находят источник питания.

Эти проведенные на раннем этапе исследования показали, что в поведении животных весьма разнообразно проявляются примитивные рефлексы, которые были исследованы еще в XIX в. Впоследствии Лоренц и Тинберген рассматривали более сложную картину поведения многих видов птиц, млекопитающих, рыб и насекомых. Они установили, что во многих случаях поведение животных определяется врожденными инстинктами, причем под влиянием разных ключевых стимуляторов проявляются различные его элементы. Обычно определенная ситуация играет роль сигнала, который «отключает» механизм торможения в мозгу и приводит в действие сложный комплекс инстинктивных реакций. Сигналами могут служить звуки, запахи, а также морфологические признаки, связанные с формой и окраской животных.

Наряду с этим животные наделены своеобразным языком, с помощью которого они обмениваются информацией. Это дает им возможность обучаться в пределах их способностей, развивать новые формы поведения и более гибко реагировать на изменения в окружающей среде. Взаимосвязь между врожденным и приобретенным — проблема, которая издавна интересовала исследователей психической деятельности и которая в этологии решается сравнительно легко и однозначно. Просто-напросто животные, как и люди, имеют психику, хотя и более элементарную.

Имена Фриша, Лоренца и Тинбергена значились в списках кандидатов на Нобелевскую премию еще в 50-х годах. Однако эксперты Каролинского института, преимущественно медики, считали, что исследования указанных специалистов в области зоологии вряд ли можно «втиснуть» в рамки медицины и физиологии. Их мнение изменилось лишь после того, как стало понятно, что животные — удобная модель для исследования сложной психики человека. Совершенно очевидно, что этологи во многом способствуют развитию психологии вообще, помогая ей найти новый подход к проблемам. Поэтому в 1973 г. Каролинский институт наконец принял решение о присуждении К. Фришу, К. Лоренцу и Н. Тинбергену Нобелевской премии по физиологии и медицине за создание и развитие новой научной дисциплины — этологии.

Важным этапом в развитии нейрофизиологии стали исследования английского ученого Чарлза Скотта Шеррингтона в начале XX в. Соединив данные различных авторов со своими собственными экспериментальными результатами, он глубоко исследовал нейронный механизм рефлексов — самых элементарных актов поведения. Исследования анатомов позволили в общих чертах понять строение нервной системы. Вершиной достижений в этой области были работы Камилло Гольджи и Сантьяго Рамона-и-Кахаля, заложивших основы нейронной теории. Было установлено, что в спинном и головном мозге на различных уровнях имеются комплексы нейронов, соединенных между собой отростками. Это — серое и белое вещество (нервные клетки и связывающие их нервные волокна).

В 1893 г. Шеррингтон решил разобраться, как осуществляется простой рефлекс, возникающий при постукивании невролога по колену резиновым молоточком. Он выяснил, каким путем сигналы раздражения доходят от рецептора к нервному центру, откуда по двигательному нерву поступают команды к мышцам. После этого успеха Шеррингтон перешел к изучению более сложных рефлексов, реализующихся в более высокоорганизованных участках мозга. Он исследовал нервную регуляцию ходьбы, бега и других функций организма. Результаты своих исследований Шеррингтон обобщил в монографии, изданной в 1906 г. По мнению его коллег-современников, этот труд можно было сравнивать лишь с работами Павлова в данной области. Английский ученый исследовал особенности проведения возбуждения в рефлекторной дуге и выяснил, что она состоит из афферентных нейронов, воспринимающих раздражение, промежуточных нейронов, обрабатывающих информацию, и эфферентных нейронов, посылающих команды к рабочим органам. Он установил однонаправленность проведения возбуждения в синапсе и наличие синаптической задержки. Открыл явления взаимодействия рефлексов, их облегчения, конвергенции и т. д.

Еще в 1902 г. Шеррингтона выдвигали на Нобелевскую премию, однако он был удостоен этой награды лишь в 1932 г. в возрасте 75 лет. Он разделил Нобелевскую премию с Эдгаром Дугласом Эдрианом. Шеррингтон исследовал нейроны, а его более молодой коллега — распространение нервных импульсов. Оба ученых рассматривали проблему рефлексов, но с противоположных направлений.

Большой вклад в изучение рефлекторных механизмов поведения внесла школа советских физиологов. В 20-е годы И.П. Павлова повторно выдвигали на Нобелевскую премию, и, хотя он не получил ее, этот факт, безусловно, свидетельствует о высокой оценке его достижений. Большие заслуги в изучении координации рефлексов принадлежат советскому физиологу Алексею Алексеевичу Ухтомскому, который в 1931 г. получил премию имени В.И. Ленина за созданную им теорию доминанты. Эта теория описывает взаимодействие нервных центров, и особенно случаи, когда какой-либо из них, имеющий повышенную активность, доминирует над другими.

В первые десятилетия нашего века португальский нейрохирург Антонио Каэтану ди Абреу Фрейриди Эгаш Мониш приобрел известность благодаря созданному им методу радикального лечения ряда психических заболеваний. В своей клинике в Лиссабоне он детально разработал методику так называемой префронтальной лейкотомии (разрез белого вещества переднего мозга). Такое хирургическое вмешательство эффективно излечивало различные психические заболевания, связанные с депрессией, неврозами страха, навязчивыми идеями, манией преследования и многими случаями шизофрении. Радикальная операция (часто ее называют «лоботомией») позволяла восстановить до приемлемого уровня психику людей, находившихся в состоянии полной инвалидности. Когда было невозможно радикально излечить пациента, лоботомия по крайней мере помогала уменьшить его страдания.