Кантор принялся изучать проблему и в 1871 году получил первый результат: разложение периодической функции является единственным, даже когда количество разрывов неограниченно растет, если только эти скачки распределяются определенным образом. То есть для гарантии единственности точки появления скачков должны удовлетворять некоторым специфическим условиям. Но ученый столкнулся со сложностями при выражении этих требований точно и элегантно. Он явно имел интуитивную догадку о том, какие особенности хотел выразить, но у него не получалось ясно сформулировать это.

В 1872 и 1873 годах Кантор постепенно понял, что для четкой формулировки условий следует рассматривать точки разрывов как множества, бесконечные в действительности. Более того, требовалось сравнить между собой различные бесконечные множества, подобно тому как 250 лет назад Галилей сравнил натуральные числа с квадратными (это, в свою очередь, привело к отбрасыванию аристотелевского принципа о том, что целое больше его частей). Кантор также открыл, что такое сравнение приводит к выводу о существовании бесконечных множеств, больших, чем другие бесконечные множества.

Эти идеи были настолько революционными и так противоречили тысячелетиям исследований, что Кантору понадобилось целых десять лет на то, чтобы полностью принять их и признать: в математику необходимо ввести актуальную бесконечность. В конце концов в 1883 году он написал длинную статью под названием «Основы общего учения о многообразиях. Математически-философский опыт учения о бесконечном», в которой не только выступал за введение актуальной бесконечности, но и утверждал, что это абсолютно неизбежно. Кантор начал свою статью, почти прося прощения за это решение:

«Изложение моих исследований об изучении множеств достигло того пункта, где развитие его становится зависимым от расширения понятия целого действительного числа за существующие до сих пор границы, и оказывается, что расширение это совершается по такому направлению, в котором, насколько я знаю, никто до сих пор его не искал.

Это расширение понятия числа носит только принудительный характер, и без него я вряд ли смогу сделать свободно хотя бы малейший шаг вперед в учении о множествах; пусть в этом обстоятельстве увидят оправдание или, если необходимо, извинение того, что я ввожу в свое рассмотрение, по-видимому, чужеродные идеи».

Теория множеств, которую упоминает Кантор, была его способом обозначения изучения бесконечных совокупностей как отдельных объектов. Он предложил сделать эту теорию основой математики. Числа, операции с ними и все математические понятия могут быть определены, согласно Кантору, на базе понятий теории множеств.

Множество, согласно определению Кантора, это «собрание целиком объектов действительности или нашей мысли». Например, числа 1, 2, 3, 4, 5,... мы можем объединить в совокупность, которую назовем множеством натуральных чисел. Числа — это элементы, или члены этой совокупности, и множество становится отдельным объектом, доступным для изучения. Мы можем также задумать множество, образованное только числом один, или днями недели, или людьми, родившимися 20 июля 1899 года. Следовательно, теория множеств — это изучение взаимных свойств и отношений множеств, или совокупностей.

Теория [бесконечных] множеств — это область, в которой ничто не очевидно; истинные высказывания ее часто парадоксальны, а предполагаемые высказывания ложны.

Феликс Хаусдорф, немецкий математик, 1914 год

Предложение Кантора заключалось в том, чтобы определить числа и операции с ними на основе множеств. Как это сделать? Например, число 0 может быть определено как количество элементов пустого множества (то есть множества, у которого нет членов). Число 1 может быть определено как количество элементов любого множества, в котором выполняется свойство «во множестве есть некоторый элемент, и, кроме того, если х и y — элементы множества, то х = y».

С другой стороны, в теории множеств существует операция под названием объединение. Если задано два множества, объединение состоит в том, чтобы собрать в новом множестве элементы их обоих. Например, объединение множества, содержащего в качестве элемента город Париж, и множества, содержащего город Рим, — это множество, содержащее оба города одновременно. Сумму чисел можно определить, согласно предложению Кантора, на основе этой операции теории множеств. Если п — это количество элементов одного множества, а т — количество элементов другого множества (которое не содержит общих элементов с первым), то п + т может быть определено как количество элементов результата объединения этих двух множеств.

Как можно было ожидать и, вероятно, как предвидел сам Кантор, теория множеств вызвала большое сопротивление. Его бывший учитель Леопольд Кронекер назвал Кантора совратителем молодежи и воспользовался своим немалым влиянием на немецкие научные журналы, чтобы те не публиковали его работы.

Однако со временем теория множеств и актуальная бесконечность получили признание. Почему это произошло? Может быть, Кантору удалось убедить Кронекера? Чтобы ответить на эти вопросы, стоит вспомнить утверждение Планка: «Новая научная истина побеждает не потому, что ее противники убеждаются в ее правильности и прозревают, а скорее потому, что ее противники постепенно вымирают, а новое поколение усваивает эту истину буквально с молоком матери».

Когда Планк писал эти слова, он думал о квантовой механике, но этот принцип можно применить и к теории множеств. В конце XIX века новое поколение математиков, среди которых был Давид Гильберт, начало видеть в теории Кантора важный вклад в науку. Обычно молодежь расположена разрушать традиции, так что, возможно, новое поколение было готово разбить аристотелевское видение бесконечности.

В 1890-м, за год до смерти Кронекера, Кантор был выбран председателем недавно созданного Немецкого математического общества, и его идея считать теорию множеств базой и основанием математики начинала набирать сторонников. Одним из них был немецкий логик Готлоб Фреге.

Готлоб Фреге родился в 1848 году, то есть он принадлежал к тому же поколению, что и Кантор. Фреге принял теорию множеств с самого начала и стал одним из защитников идеи о том, что эта теория должна стать базой для остальной математики.

Немецкое слово Begriffsschrift, которое Готлоб Фреге использовал для обозначения символической структуры, созданной им для логики и математики, обычно переводится как концептография, что дословно означает «рисунок концептов».

Как мы можем увидеть на изображении справа, символизм Фреге приближается скорее к линейному рисунку, чем к написанному тексту. Здесь показана теорема 71 из его книги «Исчисление понятий...», и ее перевод следующий: f — это процедура, a F — свойство, которое сохраняется при применении процедуры f. Если x обладает свойством, а y получен из х посредством применения процедуры f, то у также обладает этим свойством.

Хотя Фреге был согласен с Кантором в целом, у него было много формальных критических замечаний. По мнению Фреге, статьи Кантора были написаны недостаточно научным языком, без четкого разграничения аксиом (утверждений, которые принимаются без доказательств) и теорем (утверждений, которые доказываются на основе аксиом). Кантор все время взывал к интуиции читателя, что Фреге критиковал и называл психологизмом. Математика, по его мнению, должна пользоваться строгим языком со специально созданными символами. Все рассуждения должны быть выражены ясно, лишены двусмысленностей и взывания к интуиции. Фреге посвятил почти всю свою жизнь развитию этой идеи. В одной из своих основополагающих работ, «Исчисление понятий, или подражающий арифметике формальный язык чистого мышления» (1879), Фреге объясняет свой символический язык, очень отличающийся от нашего обычного письма (он похож скорее на линейный рисунок, чем на текст). Это вызывало сложности в понимании и у современников ученого, и даже сегодня. Возможно, Фреге намеренно хотел дистанцировать символическую запись от естественного языка, но стратегически это было ошибкой, поскольку затруднило понимание работы широкой аудиторией.