Идея метода формализации доказательств принадлежит Д. Гильберту. Проведение этой идеи стало, однако, возможным благодаря предшествовавшей разработке математической Л. (см. раздел История логики).
Применение идеи формализации доказательств бывает обычно связано с выделением логической части рассматриваемой дедуктивной теории. Эта логическая часть, оформляемая, как и вся теория, в виде некоторого исчисления, т. е. системы формализованных аксиом и формальных правил вывода, может тогда рассматриваться как самостоятельное целое.
Простейшими из логических исчислений являются исчисления высказываний: классическое и интуиционистское. В них употребляются следующие знаки: 1) т. н. логические переменные — буквы А, В, С,..., означающие произвольные «высказывания» (смысл этого термина объясняется ниже); 2) знаки логических связок &,
, É, ù, означающие соответственно «... и...», «... или...», «если..., то...», «неверно, что...»; 3) скобки, выявляющие строение формул. Формулами в этих исчислениях считаются логические переменные и всякие выражения, получаемые из них путём повторного применения следующих операций: 1) присоединение к ранее построенному выражению знака ù слева, 2) написание двух ранее построенных выражений рядом друг за другом со включением одного из знаков &,
или É между ними и с заключением всего в скобки. Например, следующие выражения являются формулами:
1. (АÉ(ВÉА)),
2. ((АÉ(ВÉС)) É((АÉВ) É(АÉС))),
3. ((A&B) ÉA),
4. ((А&. В) ÉВ),
5. (AÉ(BÉ(A&B))),
6. ((АÉС) É((ВÉС) É((А
В) ÉС))),
7. (АÉ(А
В)),
8. (BÉ(A
B)),
9. (ùАÉ(АÉВ)),
10. ((AÉB) É((AÉùB) ÉùA)),
11. (A
ùA).
В обоих исчислениях высказываний — классическом и интуиционистском — употребляются одни и те же правила вывода.
Правило подстановки. Из формулы выводится новая формула путём подстановки всюду вместо какой-либо логической переменной произвольной формулы.
Правило вывода заключений. Из формул
и (
) выводится формула
Q), называется дизъюнкцией суждений Р и Q, есть суждение истинное, когда истинно хотя бы одно из этих суждений, и ложное, когда ложны оба. Суждение вида (Р É Q), называется импликацией суждений Р и Q, есть суждение ложное, когда истинно Р и ложно Q, и истинное во всех остальных случаях. Суждение вида ù Р, называется отрицанием суждения Р, есть суждение истинное, когда Р ложно, и ложное, когда Р истинно.
Необходимо отметить, что, согласно данному выше определению, импликация не вполне совпадает по смыслу с житейским словоупотреблением связки «если..., то...». Однако в математике эта связка обычно применялась именно в смысле этого определения импликации. Доказывая теорему вида «если Р, то Q», где Р и Q суть некоторые математические суждения, математик делает предположение об истинности Р и тогда доказывает истинность Q. Он продолжает считать теорему верной, если впоследствии будет доказана ложность Р или истинность Q будет доказана и без предположения об истинности Р. Опровергнутой он считает эту теорему лишь тогда, когда установлена истинность Р и вместе с тем ложность Q. Всё это вполне согласуется с определением импликации (Р É Q).
Необходимо также подчеркнуть принятое в математической Л. неисключающее понимание дизъюнкции. Дизъюнкция (Р
Q), по определению, истинна и в том случае, когда истинны оба суждения Р и Q.
Формула
В) можно утверждать тогда и только тогда, когда можно утверждать хотя бы одно из высказываний А и В. Отрицание ùА высказывания А можно утверждать тогда и только тогда, когда у нас есть построение, приводящее к противоречию предположение о том, что построение, требуемое высказыванием А, выполнено. (При этом «приведение к противоречию» считается первоначальным понятием.) Импликацию (АÉВ) можно утверждать тогда и только тогда, когда мы располагаем таким построением, которое, будучи объединено с любым построением, требуемым высказыванием А, даёт построение, требуемое высказыванием В.
Формула называется интуиционистски общезначимой тогда и только тогда, когда можно утверждать всякое высказывание, получаемое из в результате подстановки любых математических суждений вместо логических переменных; точнее говоря, в том случае, когда имеется общий метод, позволяющий при произвольной такой подстановке получать построение, требуемое результатом подстановки. При этом понятие общего метода интуиционисты также считают первоначальным.
Формулы 1—10 являются интуиционистски общезначимыми, тогда как формула 11, выражающая классический закон исключенного третьего, не является таковой.
В известном отношении близкой к интуиционизму является точка зрения конструктивной математики, уточняющая несколько расплывчатые интуиционистские понятия импликации и общего метода на основе точного понятия алгоритма. С этой точки зрения закон исключенного третьего также отвергается. Л. конструктивной математики находится в стадии разработки.
С методом формализации доказательств связано понятие формальной системы. Формальная система включает следующие элементы.
1. Формализованный язык с точным синтаксисом, состоящий из точных и формальных правил построения осмысленных выражений, называется формулами данного языка.
2. Чёткую семантику этого языка, состоящую из соглашений, определяющих понимание формул и тем самым условия их истинности.
3. Исчисление (см. выше), состоящее из формализованных аксиом и формальных правил вывода. При наличии семантики эти правила должны быть согласованы с ней, т. е. при применении к верным формулам давать верные формулы.
Исчисление определяет выводы (см. выше) и выводимые формулы — заключительные формулы выводов. Для выводов имеется распознающий алгоритм — единый общий метод, с помощью которого для любой цепочки знаков, применяемых в исчислении, можно узнавать, является ли она выводом. Для выводимых формул распознающий алгоритм может быть и невозможен (примером является исчисление предикатов, см. Логика предикатов).
Об исчислении говорят, что оно непротиворечиво, если в нём не выводима никакая формула вместе с формулой ù. Задача установления непротиворечивости применяемых в математике исчислений является одной из главных задач математической Л. Имея в виду охват той или иной содержательно определённой области математики, исчисление считают полным относительно этой области, если в нём выводима всякая формула, выражающая верное утверждение из этой области. Другое понятие полноты исчисления связано с требованием иметь для всякого утверждения, формулируемого в данном исчислении, либо его доказательство, либо его опровержение. Первостепенное значение в связи с этими понятиями имеет теорема Гёделя, утверждающая несовместимость требований полноты с требованием непротиворечивости для весьма широкого класса исчислений. Согласно теореме Гёделя, никакое непротиворечивое исчисление из этого класса не может быть полным относительно арифметики: для всякого такого исчисления может быть построено верное арифметическое утверждение, формализуемое, но не выводимое в исчислении. Эта теорема, не снижая значения математической Л. как мощного организующего средства в науке, убивает надежды на эту дисциплину как на нечто способное осуществить охват математики в рамках одной формальной системы. Надежды такого рода высказывались многими учёными, в том числе основоположником математического формализма Гильбертом.