Рассел подверг критике и формалистское понятие существования. Гильберт считал приемлемыми бесконечные множества и другие идеальные элементы и утверждал, что если аксиомы какой-либо области математики, включающие закон исключенного третьего и закон противоречия, не приводят к противоречию, то тем самым гарантируется существование объектов; удовлетворяющих этим аксиомам. Такую трактовку существования Рассел назвал метафизической. Кроме того, он обратил внимание на то, что число непротиворечивых аксиоматических систем, которые можно придумать, неограниченно, но интерес представляют лишь такие системы, которые согласуются с эмпирическим материалом.
Критика Рассела напоминает поговорку «Не смейся, горох, ты не лучше бобов». Должно быть, к 1937 г. он успел основательно подзабыть то, что писал сам в 1901 г.: «Математику можно определить как предмет, в котором никогда не известно ни то, о чем мы говорим, ни истинно или ложно то, что мы говорим».
Формалистская программа была неприемлема и для интуиционистов. Помимо основных различий во взглядах на бесконечность и закон исключенного третьего интуиционисты неоднократно подчеркивали, что они полагаются на смысл математики и стремятся установить, насколько его можно считать здравым, в то время как формалисты (и логицисты) имеют дело с идеальными, или трансцендентальными, мирами, лишенными всякого смысла. Брауэр еще в 1908 г. показал, что в некоторых утверждениях классического математического анализа, в том числе в теореме Больцано — Вейершрасса (носящей сугубо специальный характер и утверждающей, что у любого ограниченного бесконечного множества существует по крайней мере одна предельная точка), логика и здравый смысл находятся в вопиющем противоречии. Мы должны выбирать, заявил Брауэр, между нашим априорным понятием положительного целого числа и неограниченным использованием закона исключенного третьего в тех случаях, когда последний применяется к любому утверждению, не поддающемуся проверке за конечное число шагов. Некритическое использование аристотелевой логики привело к появлению формально правильных, но бессмысленных утверждений. Порывая со смыслом во многих логических построениях, классическая математика тем самым порывала с реальностью.
Критика Брауэра заставила многих осознать неправильность казавшегося ранее бесспорным мнения о том, что великие математические теории правильно отражают некое заложенное в них реальное содержание. Разумеется, создатели математических теорий мыслили их как идеализации реальных вещей и явлений. Но впоследствии, особенно в XIX в., многие понятия математического анализа утратили какую бы то ни было интуитивную подоплеку, и в глазах интуиционистов они не выглядели логически удовлетворительными. Принять взгляды Бауэра означало отвергнуть значительную часть классической математики на том основании, что она лишена интуитивного смысла.
Современные интуиционисты заявляют, что формализованная математика бессодержательна, даже если бы Гильберту и удалось доказать ее непротиворечивость. Вейль сетовал на то, что Гильберт «спас» классическую математику «ценой коренного пересмотра ее содержания», формализовав и выхолостив ее и «тем самым в принципе превратив из системы с интуитивно воспринимаемыми результатами в игру с формулами по определенным, раз и навсегда установленным правилам… Вполне возможно, что математика Гильберта представляет собой великолепную игру с формулами, более увлекательную, чем шахматы. Но что, спрашивается, дает такая игра нашему разуму, если ее формулы умышленно лишены материального содержания, посредством которого они могли бы выражать интуитивные истины?» В защиту формалистской философии следует заметить, что Гильберт свел математику к бессодержательным формулам только во имя высокой цели: доказательства непротиворечивости, полноты и других не менее важных свойств. Что же касается математики в целом, то даже формалисты никогда не считали ее «просто игрой», а рассматривали как вполне содержательную научную дисциплину.
Как и Рассел, интуиционисты возражали против формалистской интерпретации существования в математике. Гильберт утверждал, что существование любого математического объекта гарантируется непротиворечивостью той области математики, в которой он был введен. Такая интерпретация существования была неприемлема для интуиционистов. Непротиворечивость отнюдь не гарантирует истинности чистых теорем существования. Возражение против принятия формалистской интерпретации существования было выдвинуто двести лет назад Кантом в его «Критике чистого разума»: «Бесплодная попытка подменить логическую возможность понятия(поскольку понятие не противоречит само себе) трансцендентальной возможностью вещей(поскольку понятию соответствует предмет) может обмануть и удовлетворить разве только неискушенного человека» ([18], т. 3, с. 364).
Яростный спор между формалистами и интуиционистами происходил в 20-е годы нашего столетия. В 1923 г. с критикой формалистского направления в основаниях математики выступил Брауэр. Как утверждал Брауэр, формалистский подход позволяет избежать противоречий, но не дает ничего, что обладало бы хоть какой-то математической ценностью. «Некорректная математическая теория, даже если ее нельзя отвергнуть, ссылаясь на какое-нибудь опровергающее ее противоречие, все же остается некорректной, подобно тому как преступление остается преступлением независимо от того, удастся ли суду оправдать преступника.» В лекции, прочитанной в 1912 г. в Амстердамском университете, Брауэр саркастически заметил: «На вопрос, где следует искать математическую строгость, две группировки дают два различных ответа. Интуиционисты отвечают, что в человеческом разуме, формалисты — что на бумаге».
В свою очередь Гильберт обвинил Брауэра и Вейля в том, что те пытаются выбросить за борт все им не подходящее и наложить диктаторские запреты на многие плодотворные области науки. В работе 1925 г. Гильберт назвал интуиционизм изменой науке. Тем не менее Вейль считал, что в метаматематике Гильберт, по существу, ограничил свои принципы интуционистскими.
Нужно сказать, что принципы метаматематики также подверглись критике. Предполагалось, что принципы метаматематики ни у кого не встретят возражений. Но сами формалисты оказались весьма разборчивыми. Почему же их интуиция должна быть пробным камнем? Почему в таком случае не применить интуиционистский подход целиком ко всей математике? Разумеется, высшим критерием допустимости того или иного метода в метаматематике должна быть его убедительность, но убедительность для кого?
Хотя формалисты могли ответить далеко не на все критические замечания, с начала 30-х годов у них появился весомый аргумент, существенно подкреплявший их позицию. К этому времени Рассел и его коллеги-логицисты признали, что аксиомы логики не являются универсальными истинами и поэтому их непротиворечивость отнюдь не гарантирована автоматически, а интуиционисты могли лишь утверждать, что надежной гарантией непротиворечивости служит сама интуиция. Между тем формалисты располагали тщательно продуманной процедурой доказательства непротиворечивости, которая с успехом применялась к простым системам; это вселяло в формалистов уверенность, что им удастся доказать непротиворечивость арифметики, а тем самым и всей математики. Однако мы на время оставим формалистов в этой сравнительно благоприятной для них позиции и обратимся к еще одному конкурирующему направлению в основаниях математики.
Представители этого направления, получившего название теоретико-множественного,сначала не формулировали в явном виде свою философию — и сторонников, и явно сформулированную программу это направление обрело позднее. Ныне теоретико-множественное направление по числу своих приверженцев успешно конкурирует с логицизмом, интуиционизмом и формализмом.
Истоки теоретико-множественного направления можно проследить в работах Дедекинда и Кантора. Хотя оба этих математика занимались главным образом изучением бесконечных множеств, они приступили к теоретико-множественному обоснованию обычных целых (натуральных) чисел, прекрасно понимая, что если бы им удалось обосновать целые числа, то тем самым была бы обоснована и вся математика (гл. VIII).
