Однако далеко не все вопросы теории атома удалось объяснить на основе модельных представлений теории Бора. Она не справлялась со многими задачами теории спектров, позволяла получать лишь правильные значения частот спектральных линий атома водорода и водородоподобных атомов, интенсивности же этих линий оставались необъяснёнными; Бору для объяснения интенсивностей пришлось применить принцип соответствия.

  При переходе к объяснению движений электронов в атомах, более сложных, чем атом водорода, модельная теория Бора оказалась в тупике. Уже атом гелия, в котором вокруг ядра движутся 2 электрона, не поддавался теоретической интерпретации на её основе. Трудности при этом не исчерпывались количественными расхождениями с опытом. Теория оказалась бессильной и в решении такой проблемы, как соединение атомов в молекулу. Почему 2 нейтральных атома водорода соединяются в молекулу водорода? Как вообще объяснить природу валентности? Что связывает атомы твёрдого тела? Эти вопросы оставались без ответа. В рамках боровской модели нельзя было найти подхода к их решению.

  Квантовомеханическая теория атома. Ограниченность боровской модели атома коренилась в ограниченности классических представлений о движении микрочастиц. Стало ясно, что для дальнейшего развития теории атома необходимо критически пересмотреть основные представления о движении и взаимодействии микрочастиц. Неудовлетворительность модели, основанной на классической механике с добавлением условий квантования, отчётливо понимал и сам Бор, взгляды которого оказали большое влияние на дальнейшее развитие А. ф. Началом нового этапа развития А. ф. послужила идея, высказанная французским физиком Л. де Бройлем (1924) о двойственной природе движения микрообъектов, в частности электрона (см. Волны де Бройля). Эта идея стала исходным пунктом квантовой механики, созданной в 1925—26 трудами В. Гейзенберга и М. Борна (Германия), Э. Шрёдингера (Австрия) и П. Дирака (Англия), и разработанной на её основе современной квантовомеханической теории атома.

  Представления квантовой механики о движении электрона (вообще микрочастицы) коренным образом отличаются от классических. Согласно квантовой механике, электрон не движется по траектории (орбите), подобно твёрдому шарику; движению электрона присущи также и некоторые особенности, характерные для распространения волн. С одной стороны, электрон всегда действует (например, при столкновениях) как единое целое, как частица, обладающая неделимым зарядом и массой; в то же время электроны с определённой энергией и импульсом распространяются подобно плоской волне, обладающей определённой частотой (и определённой длиной волны). Энергия электрона Е как частицы связана с частотой v электронной волны соотношением: E=hv, а его импульс р — с длиной волны l соотношением: р = h/l.

  Устойчивые движения электрона в атоме, как показал Шрёдингер (1926), в некотором отношении аналогичны стоячим волнам, амплитуды которых в разных точках различны. При этом в атоме, как в колебательной системе, возможны лишь некоторые «избранные» движения с определёнными значениями энергии, момента количества движения и проекции момента электрона в атоме. Каждое стационарное состояние атома описывается при помощи некоторой волновой функции, являющейся решением волнового уравнения особого типа — уравнения Шрёдингера; волновой функции соответствует «электронное облако», характеризующее (в среднем) распределение плотности электронного заряда в атоме (см. Атом, там же на рис. 3  показаны проекции «электронных облаков» атома водорода). В 20—30-х гг. были разработаны приближённые методы расчёта распределения плотности электронного заряда в сложных атомах, в частности метод Томаса — Ферми (1926, 1928). Эта величина и связанное с ней значение т. н. атомного фактораважны при исследовании электронных столкновений с атомами, а также рассеяния ими рентгеновских лучей.

  На основе квантовой механики удалось путём решения уравнения Шрёдингера правильно рассчитать энергии электронов в сложных атомах. Приближённые методы таких расчётов были разработаны в 1928 Д. Хартри (Англия) и в 1930 В. А. Фоком (СССР). Исследования атомных спектров полностью подтвердили квантовомеханическую теорию атома. При этом выяснилось, что состояние электрона в атоме существенно зависит от его спина — собственного механического момента количества движения. Было дано объяснение действия внешних электрических и магнитных полей на атом (см. Штарка явление, Зеемана явление). Важный общий принцип, связанный со спином электрона, был открыт швейцарским физиком В. Паули (1925) (см. Паули принцип), согласно этому принципу, в каждом электронном состоянии в атоме может находиться только один электрон; если данное состояние уже занято каким-либо электроном, то последующий электрон, входя в состав атома, вынужден занимать другое состояние. На основе принципа Паули были окончательно установлены числа заполнения электронных оболочек в сложных атомах, определяющие периодичность свойств элементов. Исходя из квантовой механики, немецкие физики В. Гейтлер и Ф. Лондон (1927) дали теорию т. н. гомеополярной химической связи двух одинаковых атомов (например, атомов водорода в молекуле H₂), не объяснимой в рамках боровской модели атома.

  Важными применениями квантовой механики в 30-х гг. ив дальнейшем были исследования связанных атомов, входящих в состав молекулы или кристалла. Состояния атома, являющегося частью молекулы, существенно отличаются от состояний свободного атома. Существенные изменения претерпевает атом также в кристалле под действием внутрикристаллического поля, теория которого была впервые разработана Х. Бете (1929). Исследуя эти изменения, можно установить характер взаимодействия атома с его окружением. Крупнейшим экспериментальным достижением в этой области А. ф. было открытие Е. К. Завойским в 1944 электронного парамагнитного резонанса, давшего возможность изучать различные связи атомов с окружающей средой.

  Современная атомная физика. Основными разделами современной А. ф. являются теория атома, атомная (оптическая) спектроскопия, рентгеновская спектроскопия, радиоспектроскопия (она исследует также и вращательные уровни молекул), физика атомных и ионных столкновений. Различные разделы спектроскопии охватывают разные диапазоны частот излучения и, соответственно, разные диапазоны энергий квантов. В то время как рентгеновская спектроскопия изучает излучения атомов с энергиями квантов до сотен тыс. эв, радиоспектроскопия имеет дело с очень малыми квантами — вплоть до квантов менее 10^-6эв.

  Важнейшая задача А. ф. — детальное определение всех характеристик состояний атома. Речь идёт об определении возможных значений энергии атома — его уровней энергии, значений моментов количества движения и других величин, характеризующих состояния атома. Исследуются тонкая и сверхтонкая структуры уровней энергии (см. Атомные спектры), изменения уровней энергии под действием электрических и магнитного полей — как внешних, макроскопических, так и внутренних, микроскопических. Большое значение имеет такая характеристика состояний атома, как время жизни электрона на уровне энергии. Наконец, большое внимание уделяется механизму возбуждения атомных спектров.

  Области явлений, исследуемых разными разделами А. ф., перекрываются. Рентгеновская спектроскопия измерением испускания и поглощения рентгеновских лучей позволяет определить главным образом энергии связи внутренних электронов с ядром атома (энергии ионизации), распределение электрического поля внутри атома. Оптическая спектроскопия изучает совокупности спектральных линий, испускаемых атомами, определяет характеристики уровней энергии атома, интенсивности спектральных линий и связанные с ними времена жизни атома в возбуждённых состояниях, тонкую структуру уровней энергии, их смещение и расщепление в электрическом и магнитном полях. Радиоспектроскопия детально исследует ширину и форму спектральных линий, их сверхтонкую структуру, сдвиг и расщепление в магнитном поле, вообще внутриатомные процессы, вызываемые очень слабыми взаимодействиями и влияниями среды.