В начале 1937 г. Ландау перебрался в Москву, где стал работать в Институте физических проблем у Петра Капицы. Благоразумие требовало от него большой осторожности, но не в духе Ландау было отсиживаться за чужой спиной.
Узнав о том, что в Харькове арестовано и расстреляно несколько его хороших друзей, он не захотел смолчать и весной 1938 г. написал вместе с двумя молодыми физиками антисталинскую листовку, которая начиналась словами: «Товарищи! Великое дело Октябрьской революции подло предано. Страна затоплена потоками крови и грязи. Миллионы невинных людей брошены в тюрьмы, и никто не знает, когда придет его очередь…» Как позже признался Ландау, листовка предназначалась для распространения 1 мая, но попалась на глаза московским чекистам за несколько недель до этого праздника. В апреле 1938 г. Ландау и его друзья были арестованы. Началось следствие по делу «О Московском комитете антифашистской партии», грозившее Ландау большой бедой. К счастью для него, «великая чистка» уже была на исходе, начался обратный процесс «разоблачения перегибов», осуждения «ежовщины» и частичной реабилитации. К тому же у Ландау были известные друзья, которые в это трудное время не побоялись поручиться за него. Петр Капица отправил письмо с просьбой освободить Ландау лично Сталину. Стараясь оправдать своего подопечного, он признавал его недостатки: «…Следует учесть характер Ландау, который, попросту говоря, скверный. Он задира и забияка, любит искать у других ошибки, и когда находит их, в особенности у важных старцев, то начинает непочтительно дразнить. Этим он нажил много врагов…» Но при всем этом, писал далее Капица, Ландау является одним из самых талантливых советских физиков, и потеря такого человека стала бы огромной утратой для отечественной науки. В ноябре Сталину написал письмо сам Нильс Бор. Неизвестно, чье ходатайство оказалось более весомым, но в апреле 1939 г. Ландау освободили под личное поручительство Капицы. Позже Ландау вспоминал, что во время своего заключения он размышлял над проблемами гидродинамики и разработал теорию ударных волн. Все сложнейшие вычисления он проделал в уме, без карандаша и бумаги. В конце 30-х гг. он также издал важную работу по теории промежуточного состояния сверхпроводников.
Вскоре после освобождения Ландау написал одно из лучших своих исследований, посвященное проблеме сверхтекучести жидкого гелия. Вопрос этот был очень сложным и интересным. Еще в первой четверти XX века физики обнаружили у жидкого гелия несколько парадоксальных свойств, которые прежде не наблюдались ни у какого другого вещества. Оказалось, что при температуре очень близкой к абсолютному нулю (2,19° по Кельвину или — 270,81° по Цельсию) с жидким гелием происходила поразительная перемена, так что гелий выше и ниже этой температуры вели себя как совершенно различные жидкости. Причем, если выше 2,19° К поведение гелия укладывалось в рамки известных законов классической физики, то ниже эти законы нарушались. Стало очевидным, что при сверхнизких температурах, близких к абсолютному нулю, гелий переходит в совершенно особенное, прежде никогда не наблюдавшееся состояние, которое стали называть «гелий II». Прежде всего гелий II имел феноменальную теплопроводность — в несколько сот раз превышавшую теплопроводность самых теплопроводных в мире веществ — меди и серебра. Другой особенностью гелия II была его поразительно маленькая вязкость. До этого самым невязким веществом из существующих в природе считался газообразный водород. Однако Капица, проводивший в 1937 г. опыты с гелием II, с удивлением обнаружил, что его вязкость по крайней мере в 10 000 раз меньше, чем у водорода. Это явление он назвал «сверхтекучестью». Показателен, например, такой опыт Капицы: он заставлял гелий II протекать через очень узкие щели. Щели эти были настолько тонкие, что даже такая с обычной точки зрения невязкая жидкость как вода, вытекала бы через них в течение многих и многих суток. Гелий II протекал через эту щель всего за несколько секунд — он оказался почти в миллиард раз менее вязкой жидкостью, чем вода! Скорость истекания гелия через микроскопический капилляр доходила до нескольких тысяч метров в секунду, то есть превышала скорость полета пули! Опыт с перетеканием гелия сопровождался еще одной странной аномалией: при измерении температуры оказалось, что гелий в том сосуде, куда он втекает, охлаждается, а в том сосуде, из которого он вытекает, нагревается. Все выглядело так, как будто, вытекая, гелий «прихватывал» с собой добавочный холод, который и отдавал своему новому «жилищу», а старому, наоборот, оставлял добавочное тепло. Физикам было совершенно непонятно такое странное обращение с теплом — как будто его можно отделить от вещества и пустить в самостоятельную жизнь. Но это было еще не все! Несколько опытов давали совершенно фантастические результаты. Капица устраивал, например, такую демонстрацию: в большой дьюар с гелием погружали маленькую колбочку, тоже наполненную гелием. В колбочку впаивали капилляр, другой конец которого был открыт. И вот, как только в колбочке включался нагреватель, из нее начинала бить струя гелия. Можно было ожидать, что коль скоро из колбочки истекает гелий, она должна опустеть. Однако ничего подобного не происходило! Колбочка оставалась наполненной гелием сколько бы долго не длился эксперимент.
Ландау освободился из тюрьмы как раз в разгар этих опытов и сейчас же с головой ушел в разрешение загадки гелия II. Ему потребовалось около года для того, чтобы объяснить все описанные эффекты. Теория его была дерзкой и столь же парадоксальной, как само явление В математической модели Ландау гелий II рассматривался как «смесь» двух жидкостей — одной сверхтекучей, не обладающей вязкостью, другой — нормальной, причем они двигались друг через друга без какого бы то ни было трения. Ландау показал, что при абсолютном нуле весь гелий представляет из себя сверхтекучую массу, а масса нормальной компоненты равна нулю. Затем, при повышении температуры, нормальная компонента стремительно возрастает, и в критической точке, при температуре 2,19° К, весь гелий становится нормальным. При этом с теплом, с температурой была связана только нормальная составляющая гелия. Движение же сверхтекучей компоненты вообще не сопровождалось каким-либо переносом теплоты. То есть в известном смысле можно было говорить о том, что в гелии II тепло отрывалось от общей массы жидкости и как бы приобретало способность перемещаться относительно некоторого «фона», находящегося при абсолютном нуле температуры. Именно этим объяснялся описанный выше эффект, когда гелий охлаждался в том сосуде, куда втекал, а нагревался в том, откуда вытекал. Ведь при сверхтекучем движении гелий вытекает без всякого тепла. Поэтому в том сосуде, куда он втекает, остается одно и то же количе-, ство тепла, а гелия становится больше. Следовательно, гелий в этом сосуда начинет охлаждаться. Наоборот, в том сосуде, откуда гелий вытекал, его становилось меньше, а тепла оставалось столько же. Естественно, он казался более нагретым. Опыт с колбочкой также объяснялся наличием двух составляющих. При нагревании гелия в колбе, из нее начинала бить струя нормалм ного гелия. Но через тот же капилляр, навстречу этой струе и как бы сквози нее в колбу втекал поток сверхтекучей компоненты. Обе эти компоненты были равны по массе, и в этом заключался секрет удивительного явления — струя бьет, а колбочка не пустеет. Этим же встречным движением двух компонент объяснялась фантастическая теплопроводность гелия II: в нем возникали два противоположно направленных встречных потока. От нагретого конца к холодному шел поток нормальной жидкости, переносящей тепло, а в обратном направлении — поток сверхтекучей жидкости. Оба потока по количеству переносимой ими массы в точности компенсировали друг друга. Модель Ландау многим казалась фантастичной, но вскоре она была подтверждена экспериментально. Это было одно из фундаментальных достижений теоретической) физики тех лет. 1 В 1940 г. Ландау женился на Коре Дробанцевой, с которой познакомился) еще в Харькове и которую страстно любил всю свою жизнь. Только после) этого он оказался окружен уютом и вниманием, которого не имел долгие годы) своей холостяцкой жизни. Вообще Ландау был удивительно равнодушен к) бытовым мелочам, прежде всего к одежде и еде. В Харькове он не обращал на свой костюм никакого внимания — мог явиться на свидание или в театр в мятых и грязных парусиновых брюках или прийти на какой-нибудь важный) прием в клетчатой рубашке и босоножках Только после свадьбы, когда жена стала заказывать ему костюмы у лучших портных, он привык к дорогим и элегантным вещам. Пишут, что увлеченный какой-нибудь проблемой, Ландау начисто забывал о сне и еде. Жене приходилось постоянно напоминать ему, что пора обедать.