Следует отличать мессу как главный культовый ритуал в римской католической службе (обедня) от мессы — развитого музыкально-литургического цикла. В соответствии с культово-обиходной предназначенностью музыкальная часть мессы подразделялась на циклы Ординария и Проприя.
В зависимости от церковного календаря в мессе могли опускаться одни части и вставляться другие. Этот подвижный, изменяющийся раздел музыкальной части мессы, состоящий из Introitus, Graduale, Alleluja, Tractus, Offertorium и т. п., получил название Проприй (Proprium — особая месса). Другой же раздел — с обязательными частями, постоянно присутствующими в службе, стал называться Ординарий (Ordinarium — обычная месса). В Ординарий входили пять частей: Kyrie, Gloria, Credo, Sanctus, Agnus Dei. Общее же число составных частей мессы-службы было значительно большим. Она включала чтение из Библии и Евангелия, догматов христианских вероучений, отрывков из апостольских посланий, которое чередовалось с псалмодированием (речитацией) и пением. Общее строение ее музыкальной части с учетом порядка следования разделов может быть для наглядности представлено следующей схемой:
Как уже отмечалось, формы литургического пения, использовавшиеся в мессе, были разнообразны — от речитаций и псалмодирования на двух, трех нотах в Epistel, Evangelium и др. — до развитых, богатых колорированием вокализов — в Graduale, Alleluja, Offertorium. Характер пения теснейшим образом зависел от содержания разделов, их назначения. В противоположность частям Проприя, связанным с выражением конкретного смысла того или иного церковного события, содержание пяти частей Ординарня имело более обобщенный характер. В крайних частях мессы — Kyrie и Agnus — выражались просьба, заклинание, мольба о прощении, в двух других — Gloria и Sanctus — хвала и благодарность; в центральной — Credo — исповедование веры. Думается, что именно эта обобщенность содержания позволила впоследствии композиторам, минуя условности, свободно подходить к воздвижению ее музыкальной архитектоники и сделала мессу в XV веке, как справедливо отмечают многие исследователи, таким же опытом музыкального творчества, каким была симфония в XIX веке.
Состав и текст частей обычной мессы складывался на протяжении нескольких веков и в окончательном варианте утвердился в начале XI столетия. К числу наиболее старых форм богослужения относится часть Kyrie eleison («Господи, помилуй»), известная еще с античных времен. Ее центральный раздел — Christe eleison («Христос, помилуй») — вошел в римскую мессу намного позднее. Древнее происхождение имеют тексты Credo («Верую») и Sanctus («Свят»): первый начал разрабатываться еще на Никейском соборе (325 г.), второй формировался в течение II—V веков. Заключительная часть — Agnus Dei («Агнец божий»), по-видимому, была введена в мессу в VII—VIII веках. В IX веке завершилась доработка текста Gloria, вошедшего в мессу в начале XI века.
Столь же длительным был процесс становления мессы в музыкальном отношении. Ранний ее вид — одноголосная григорианская (хоральная) месса — на первом этапе развития предстает в виде разрозненных частей, зафиксированных вне какой-либо систематизации. Лишь со временем, особенно с введением обычая тропирования (силлабической подтекстовки распетых мелодий хорала, а в дальнейшем — мелодических и текстовых вставок в хорал) складывается традиция приурочения определенных частей мессы к конкретным событиям и праздникам (одно Kyrie для рождества, другое — для пасхи и т. д.). Более того, в названиях месс начинают нередко фигурировать начальные слова тропа (например, «Cunctipotens», «Orbis factor» и др.)» которые помещаются наиболее часто в разделы мессы, имеющие короткий текст (примеры а, б).
Образцы первых многоголосных обработок частей Ординария показывает памятник XI века — Wincester Тгорег (Кембридж, Coprus Christi College, n. 473), содержащий 12 Kyrie и 8 Gloria, организованных в соответствии с датами церковного календаря (они записаны невмами, знак против знака).
Дальнейший путь становления многоголосной мессы во многом совпадает с историей развития органума — сначала свободного, а затем мелизматического, в котором основной голос — vox principalis — сопровождается более подвижным, колорированным голосом — vox organalis. Возникнув на юге Франции — в монастыре Сан-Марсьаль (Лимож) в начале XII века, практика мелизматического органума получила распространение в других странах. Примеры в, г показывают начальные фрагменты органальных обработок Kyrie —Tropus «Cunctipotens», первая из которых принадлежит Guido-Kodex Bibl. Ambrosiana из Милана (XI век), вторая содержится в испанских рукописях Cod. Calistinus из Сантьяго-де-Компостела (XII век).
Следующий этап в развитии многоголосия, имевший важное значение и для формирования частей мессы (как Проприя, так и Ординария), связан с традициями парижской школы Нотр-Дам (XII, XIII века), мастера которой внесли много нового в технику многоголосного письма, в освоение модальной ритмики и строгой метризации вертикали в трех-четырехголосии (Перотин).
Получив претворение в органуме, мотете, балладе, кондукте, новые композиционные принципы через эти жанры влияют и на мессу, что показывают, в частности, рукописи Ivrea (Bibl. Capitolare) и Apt (Hochprovence). В первом источнике наряду с 37 мотетами находятся 27 частей Ординария, бóльшая часть которых близка по технике сочинения мотету. Во втором собрании из 34 частей Ординария 21 выполнены в стиле баллады (со свободным тенором). Немало подобных примеров находится в рукописях Флоренции и Германии.
С течением времени рождается традиция объединения частей Ординария. Появляются пары частей: Kyrie — Gloria или Gloria — Credo, строящиеся на одном и том же музыкальном материале, получающем многоголосную обработку. Наконец, постепенно наряду с компилятивным подходом в оформлении Ординария все большую роль начинает играть авторская работа по созданию всех его частей.
Объединение частей Ординария в свой, самостоятельный музыкальный цикл происходит в XIV веке. К первым мессам, имеющим полную циклическую форму, принадлежат анонимные мессы из Турнэ, Тулузы (трехголосные), Барселоны (четырехголосная).
Одним из первых образцов полной циклической мессы является и четырехголосная месса «Notre-Dame» («Нотр-Дам») Гильома де Машо (ок. 1300—ок. 1377). Как и другие мессы этою времени, она содержит в качестве своей мелодико-тематической основы материал григорианских (одноголосных) месс. Причем в разных ее частях используются различные «модели». Так, первая часть мессы (пример 1) построена на григорианской мелодии Kyrie — «Cunctipotens» из IV хоральной мессы (Grad. Vat. № 4). Источником для Sanctus и Agnus Dei является XVII месса «In dominus Adventus» (Grad. Vat. № 17), а последней, шестой части — Ite, missa est — Sanctus из VIII мессы «In feste duplicibus» (Grad. Vat. № 8). Во всех случаях избранный оригинал проводится в партии тенора.
Месса Машо — яркий образец ars nova — нового искусства, получившего развитие в XIV веке во Франции (а затем, позднее, в Италии), которое характеризуется определенными художественными тенденциями, отражающими, в частности, возросшую по сравнению с XIII веком авторскую инициативу мастеров (хотя и не оставляющих в сочинениях часто своего имени). Изменения, происшедшие в строении музыкальных композиций этого времени, связаны с перестройкой многоголосия и прежде всего — с новой организацией ритмики. На смену строгой системе модального ритма (см. раздел о мотете) приходит изоритмия (от слова «изо» — равный; термин введен в XX веке Ф. Людвигом), предполагающая остинатное повторение в одном (чаще в теноре) или нескольких голосах довольно продолжительных ритмических построений — talea. Благодаря изоритмической системе мелодические голоса получают возможность образования более широких фраз, крупных штрихов, что, несомненно, является важным шагом на пути развития полифонического многоголосия.