Это утверждение доказывается от противного. Для начала предположим, что множество простых чисел конечно, то есть Р = {2, 3 p_j..., p_n} — это множество всех существующих простых чисел, и p_n — наибольшее из них. Возьмем произведение всех их плюс один, то есть вычислим q = 2 · 3 · ... · р_j, ... · pⁿ + 1. Это число явно больше 1 + p_n, и оно не может быть простым, поскольку тогда мы получили бы простое число, большее максимального p_n. Тогда нужно предположить, что q — составное число. Так как любое составное число можно разложить на произведение простых, это означает, что все простые множители q находятся во множестве простых чисел Р. Следовательно, существует по крайней мере один элемент множества Р (обозначим его р), который является делителем q. Однако по построению p_j также является делителем произведения 2 · 3 · ... · р_j · ... · p_n, поскольку р_j — один из множителей этого произведения. Это означает, что р, является делителем g и g - 1, следовательно, оно должно быть делителем их разности, то есть 1, но ни одно простое число, большее 1, не является делителем 1. Мы пришли к противоречию. Вывод в том, что выбранное множество Р не является исчерпывающим, поскольку существуют простые числа, не принадлежащие ему, следовательно, множество простых чисел бесконечно.

С аргументацией Евклида исчезала возможность построить таблицу, в которой содержались бы все простые числа, и, следовательно, пропала возможность найти способ, который позволил бы описать их. Гораздо сильнее заключений Евклида результат, доказанный в 1737 году Эйлером, который гласит: сумма чисел, обратных простым, расходится. В виде математической формулы это выглядит следующим образом:

где р — простое число.

Очевидно, что из этого результата можно сделать вывод, что количество простых чисел бесконечно, поскольку для бесконечной суммы необходимо бесконечное количество слагаемых (и к этому выводу можно прийти с помощью одних только логических рассуждений).

Еще в юности Гаусс получил в подарок книгу, в которой содержался список нескольких миллиардов простых чисел, возможно полученных с помощью инструмента, напоминающего решето Эратосфена. Гаусс заметил, что числа появляются без всякой системы. Казалось почти невозможным определить порядок их распределения, или формулу, которая позволила бы находить их в бесконечном множестве натуральных чисел. Ученый, который смог определить орбиту небесных тел на основе немногих наблюдений, решил принять вызов. Мысль о том, что математики не могли найти правила распределения простых чисел, подхлестывала разум Гаусса. Он должен был найти порядок и регулярность там, где, казалось, есть только хаос.

Любой глупец может задавать вопросы о простых числах, на которые не сможет ответить и самый умный человек.

Годфри Харолд Харди (1877-1947) о простых числах

Люди пытались понять простые числа в течение поколений, и за это время были сделаны интересные наблюдения. Например, существует гипотеза, согласно которой можно найти бесконечное число простых чисел-близнецов (разделенных двумя единицами), то есть если р — простое число, таким же является р + 2. Пары простых чисел-близнецов находили среди очень больших чисел, таких как пара 1000 037 и 1000 039. Евклид более двух тысяч лет назад доказал, что существует бесконечное количество простых чисел, но никто не знает, есть ли число, после которого больше нет пар соседних простых чисел. В математике одно дело — гипотезы, и совсем другое — теоремы, отделенные от гипотез пропастью доказательства. Именно поэтому математическое доказательство — фундаментальная основа прогресса этой науки.

Одним из первых вопросов, которым занялись математики, было нахождение формул, дававших бы бесконечный ряд простых чисел. Ферма думал, что нашел одну из таких формул: его идея состояла в том, чтобы прибавлять 1 к особому типу степеней числа 2. Согласно Ферма, числа вида 2²ⁿ +1 (где n — натуральное число), которые мы обозначим F_n и будем называть простыми числами Ферма или просто числами Ферма, всегда простые. Для малых степеней она работает: при n = 1 получаем 5, при n = 2 получаем 17. Ферма был убежден, что его формула всегда даст простое число, но у него не было возможностей проверить свою догадку экспериментально, поскольку числа быстро росли, и вычисления становились невозможными. Однако в этот раз интуиция его подвела. Пятое простое число Ферма, состоящее из десяти цифр, которое он не смог вычислить, уже не простое, поскольку делится на 641, как доказал Эйлер. После вычисления этого контрпримера интуитивное предположение Ферма перестало быть гипотезой и оказалось просто ложным предположением. Именно поэтому некоторые авторы избегают называть такие числа простыми числами Ферма и говорят о них просто как о числах Ферма.

Гаусс с большим уважением относился к числам Ферма, но нашел им другое применение. В «Арифметических исследованиях» он доказал, что если число Ферма простое, можно построить правильный многоугольник с этим числом сторон с помощью линейки и циркуля. Число сторон многоугольника, построение которого сделало молодого Гаусса известным, — 17, и 17 же — второе число Ферма. Четвертое число Ферма, 65537, простое, и это означает, что можно построить идеальный правильный многоугольник с таким числом сторон. Очевидно, для достижения этого результата необходимы большая точность и терпение, так, мы уже знаем, что мастер, которому заказали выгравировать 17-угольник на могильной плите Гаусса, отказался делать это.

Итак, хотя Гаусс и нашел применение для формулы простых чисел Ферма, сама эта формула оказалась неэффективной для своей изначальной цели. Это еще один пример того, что математические теории, которые считаются неперспективными, могут найти свое применение в будущем. Именно поэтому математики практически не говорят о малой применимости своих открытий, в какой бы теоретической области они ни работали.

Ферма попытался определить некоторые из свойств таких простых чисел, как 5, 13, 17 или 29, которые при делении на 4 дают в остатке 1. Такие числа могут быть записаны в виде суммы квадратов (13 = З² + 2², 29 = 2² + 5² и так далее). Ферма предположил, что сумма квадратов дает простые числа, и даже утверждал, что у него есть доказательство. На самом деле Ферма слишком часто строил гипотезы и переоценивал свою способность доказать их. Собственно, многие математики той эпохи не представляли доказательств свойств, которые они, по их словам, открыли.

В Рождество 1640 года Ферма рассказал об этом своем открытии в письме, которое послал монаху и музыканту Марену Мерсенну (1588-1648). Этот человек был обычным собеседником многих ученых своего времени, он переписывался почти со всеми французскими математиками и даже с некоторыми иностранными, такими как Галилео Галилей (1564-1642). Группа математиков, которые объединились через переписку с Мерсенном, стала ядром Парижской академии наук.

Мерсенн также заинтересовался созданием простых чисел и придумал формулу, которая оказалась более полезной, чем формула Ферма. Он исходил из степеней числа 2, но вместо того чтобы добавить 1 к результату, как это делал Ферма со своими простыми числами, он решил вычесть его. Например, 2³-1 = 7, а это простое число. Мерсенн сразу же заметил, что его формула не всегда дает простое число, поскольку 2⁴-1 = 15, а оно не является простым. Исследователь понял, что ему нужно какое-то дополнительное условие, и решил, что степень числа 2 должна быть простым числом. Так, он утверждал, что для значений n, не превышающих 257, числа вида 2ⁿ — 1 являются простыми тогда и только тогда, если n — простое число. Это математическая характеристика, поскольку она содержит необходимое и достаточное условие. У его теоремы было единственное исключение: 2¹¹-1 = 2047, а 2047 = 23 х 89, так что оно не простое. В математике исключение не подтверждает правило. Следовательно, теорема была ложной. Остается загадкой, как Мерсенн мог утверждать, что 2²⁵⁷-1 было простым, поскольку это число из 77 цифр находилось абсолютно за рамками его вычислительных возможностей. Частично идеи Мерсенна изучаются до сих пор, но неизвестно, продолжит ли формула давать простые числа до бесконечности. Пока еще только ожидается доказательство того, что ряд простых чисел вида 2n - 1, где n — простое число, никогда не прервется.