Из всех проблем, способных с большей или меньшей вероятностью занять место Великой теоремы Ферма, наибольшие шансы имеет проблема плотнейшей упаковки шаров Кеплера. В 1609 году немецкий ученый Иоганн Кеплер доказал, что планеты движутся не по круговым, а по эллиптическим орбитам. Это открытие совершило переворот в астрономии и позднее помогло Исааку Ньютону найти закон всемирного тяготения. Математическое наследие Кеплера не столь грандиозно по своим масштабам, как наследие Ньютона, но не менее глубоко. Проблему плотнейшей упаковки шаров можно сформулировать как задачу о том, как наиболее экономно сложить из апельсинов пирамиду.

Проблема родилась в 1611 году, когда Кеплер написал небольшое сочинение «О шестиугольных снежинках», предназначенное в дар его покровителю Иоганну Вакгеру фон Вакенфельсу. В этом сочинении Кеплер успешно объяснил, почему снежинки всегда имеют шестиугольную форму, высказав предположение, что рост каждой снежинки начинается с обладающего гексагональной симметрией зародыша, который, падая в атмосфере, увеличивается в размерах. Непрерывно изменяющиеся ветер, температура и влажность позволяют каждой снежинке сохранять индивидуальность, а малые размеры зародыша приводят к тому, что условия, от которых зависит его рост, остаются одинаковыми со всех шести сторон, тем самым способствуя сохранению симметрии. В этом, на первый взгляд легкомысленном, сочинении проявился присущий Кеплеру замечательный талант извлекать глубокие и далеко идущие результаты из простейших наблюдений. Впоследствии Кеплер стал одним из основоположников кристаллографии.

Интерес Кеплера к расположению и самоорганизации частиц вещества привел его к обсуждению другого вопроса — о плотнейшей упаковке частиц, при которой они занимают наименьший объем. Если предположить, что частицы имеют форму шаров, то ясно, что как бы они ни располагались в пространстве, между ними неизбежно останутся зазоры, и вопрос состоит в том, чтобы объем зазоров свести к минимуму. Кеплер рассмотрел несколько различных вариантов расположения шаров и для каждого варианта вычислил коэффициент заполнения пространства.

Один из первых вариантов расположения шаров, рассмотренных Кеплером, сейчас принято называть гранецентрированной кубической решеткой. Ее можно построить, выложив сначала нижний слой шаров так, чтобы каждый шар был окружен шестью другими шарами. Второй слой образуют шары, уложенные в «ямки» поверх первого слоя, как показано на рис. 24. По существу, второй слой повторяет первый, но только слегка смещен относительно первого, чтобы шары второго слоя расположились в ямках первого слоя. Именно так обычно укладывают апельсины торговцы фруктами. Коэффициент заполнения пространства такой укладки составляет 74 %. Это означает, что при укладке апельсинов в картонный ящик гранецентрированная стратегия позволяет заполнить 74 % объема ящика апельсинами.

 Рис. 24. В гранецентрированной кубической упаковке шаров каждый слой состоит из сфер уложенных так, что каждая из них окружены шестью другими сферами. Поверх каждого слоя горизонтально накладывается следующий слой так, что любой из его шаров располагается не на шаре из предыдущего слоя, а в ямке. Частной разновидностью гранецентрированной кубической упаковки служат пирамиды из апельсинов в витринах овощных магазинов

Гранецентрированную кубическую решетку можно сравнить с другими вариантами упаковки, например, с простой кубической решеткой. В этом случае каждый слой состоит из шаров, расположенных в виде квадратной решетки, а каждый следующий слой расположен в точности поверх предыдущего, как показано на рис. 25. Простая кубическая решетка имеет коэффициент заполнения пространства 53 %.

 Рис. 25. В простой кубической упаковке каждый слой состоит из шаров расположенных в виде квадратной решетки. Поверх каждого слоя горизонтально накладывается следующий слой так, что каждый его шар располагается строго над шаром предыдущего слоя

Еще один вариант расположения шаров — гексагональная решетка — аналогичен гранецентрированной кубической решетке, поскольку каждый слой состоит из шаров, окруженных шестью другими шарами, но следующий слой не сдвинут относительно предыдущего, а расположен прямо поверх него так, что каждый шар опирается на самую верхнюю точку шара, расположенного под ним, как показано на рис. 26. У гексагональной решетки коэффициент заполнения пространства составляет всего лишь 60 %.

 Рис. 26. В упаковке с гексагональной решеткой каждый слой состоит из шаров расположенных так, что каждый из них окружен шестью другими шарами. Поверх каждого слоя горизонтально накладывается следующий слой так, что каждый шар верхнего слоя располагается непосредственно над шаром предыдущего слоя

Кеплер исследовал множество различных конфигураций и пришел к заключению, что в сочинение «О шестиугольных снежинках» стоит включить только одну, а именно ту, которая в последствие получила название гранецентрированной кубической решетки, ибо у нее «упаковка оказывается плотнейшей из возможных». Утверждение Кеплера можно считать вполне разумным, так как коэффициент заполнения пространства для гранецентрированной кубической решетки наибольший из всех тех, которые были им обнаружены. Однако это не исключает возможность существования какого-то другого расположения шаров, с еще большим коэффициентом заполнения пространства, которое Кеплер попросту проглядел.

Проблема плотнейшей упаковки шаров требует от математиков доказательства того, что гранецентрированная кубическая решетка представляет собой наиболее эффективный вариант упаковки шаров. Эта проблема на полвека старше Великой теоремы Ферма и, как теперь оказалось, еще более неприступна.

Как и в случае Великой теоремы Ферма, решение проблемы Кеплера сводится к доказательству, охватывающему бесконечное множество возможных вариантов упаковки. Гипотеза Кеплера утверждает, что среди бесконечно многих вариантов расположения шаров нет ни одного такого, у которого коэффициент заполнения пространства был бы больше, чем у гранецентрированной кубической решетки. Математикам предстоит доказать, что это невозможно не только для регулярного, но и для случайного, хаотического, варианта расположения шаров.

За последние 380 лет никому не удалось доказать, что гранецентрированная кубическая решетка действительно служит оптимальной стратегией упаковки. Но никто пока не открыл более эффективного метода упаковки. Отсутствие контрпримера означает, что для всех практических целей утверждение Кеплера применимо, но в абсолютном мире математики абсолютно необходимо строгое доказательство. Британский специалист по упаковке шаров К. А. Роджерс говорит, что «большинство математиков в правильность гипотезы Кеплера верят, а все физики в ее правильности твердо убеждены, так как это знают».

Несмотря на отсутствие полного доказательства, за прошедшие со времен Кеплера столетия было пройдено несколько вех на пути к решению. В 1892 году скандинавский математик Аксель Туэ нашел доказательство для двумерного аналога проблемы Кеплера, т. е. обнаружил наиболее эффективное расположение шаров в одном-единственном слое, или, иначе говоря, укладки апельсинов не в ящике, а на подносе. Решением оказалось гексагональное расположение шаров. Впоследствие Тот, Сегрэ и Малер пришли к тому же заключению, но ни один из использованных в двумерном случае методов не применим к исходной трехмерной проблеме Кеплера.