Когда лето прошло, Малер вернулся в Вену и снова впал в уныние, озабоченный поиском средств к существованию. Из письма другу Эмилю Фройнду известно, что 1 ноября 1880 года «Жалобная песня» была завершена. Густав испытывал огромное творческое облегчение, хотя и находился на грани помешательства. В те дни, больше чем когда-либо, он был убежден, что его кредо заключается не в дирижировании, а именно в создании музыки. Он писал: «Сказка, над которой я работаю уже больше года, наконец закончена. Это — настоящее дитя горя. И все-таки она удалась. Теперь моя ближайшая задача — всеми возможными средствами добиваться ее исполнения».

С большой надеждой и уверенностью Густав выдвинул только что сочиненную «Жалобную песню» на организованный в консерватории Бетховенский конкурс. Конкурс сулил композитору, победившему на нем, признание, а также серьезное денежное поощрение — премию, равную двадцати месячным зарплатам в Бад-Халле. Эта сумма позволила бы Густаву на год погрузиться в сочинительство и закончить желанную оперу «Рюбецаль».

В авторитетное жюри под председательством Брамса входили профессор Гольдмарк, критик Ганслик и дирижер Рихтер. Однако именитые судьи превратили конкурс в показательное уничижение молодых дарований, проигнорировав талантливые сочинения и присудив премию заурядному автору Виктору Херцфельду. Следует заметить, что победитель впоследствии забросил сочинительство и посвятил себя игре на скрипке. 6 декабря — день объявления результатов — стал переломным моментом в судьбах многих юных дарований.

Тяжело было не только Малеру, но и его консерваторским однокашникам Гансу Ротту и Хуго Вольфу. Ротт, после того как представил свою симфонию в комитет конкурса, находясь в поезде по дороге из Вены, достал револьвер и направил его на попутчика, раскуривавшего сигару. Он стал кричать, что Брамс подложил в вагон динамит и они от любой сигары могут взлететь на воздух. Скрученный жандармами, Ротт прошел курс лечения в психиатрической клинике, после чего впал в депрессию, а в 1884 году в возрасте двадцати пяти лет, очевидно заразившись в больнице, скончался от туберкулеза. Некоторые биографы настаивают на том, что именно результаты конкурса послужили причиной сумасшествия Ротта. Однако итоги были объявлены после этого случая. Еще 1 ноября 1880 года Малер писал Эмилю Фройнду: «Ганс Ротт сошел с ума! И я поневоле опасаюсь, что то же самое случится с Криспером», тем самым подтверждая, что психическое расстройство Ротта случилось не из-за проигрыша на конкурсе. При этом следует учитывать, что как раз интенсивная подготовка к конкурсу сказалась на здоровье несчастного музыканта.

Современники оценивали композиторский дар Ротта весьма высоко и прочили ему достойное место в музыкальной истории. Музыковед Роб Кован, анализировавший его сочинения, высказывает следующую мысль: «Трудно представить, куда еще мог бы привести нас Ганс Ротт, проживи он достаточно, чтобы совершить свой путь». В 1900 году Малер писал своей подруге Натали Бауэр-Лехнер, что невозможно переоценить, как много со смертью Ротта потеряло искусство: его гений достиг небывалых высот еще в Первой симфонии, написанной в 20 лет и делающей его, без преувеличения, основоположником новой симфонии, как ее понимал сам Густав… В том же письме Малер признавался: «Если бы жюри консерватории… присудило мне 600 австрийских флоринов за Кантату, вся моя жизнь была бы иной. Я просто работал бы над “Рюбецаль”, не пришлось бы ехать в Лайбах, что, таким образом, избавило бы меня от моей проклятой оперной карьеры. Но премию получил господин Херцфельд, а Ротт и я ушли с пустыми руками. Ротт, отчаявшись, сошел с ума и умер, а я был ввергнут в ад театральной жизни (где всегда буду оставаться)».

В консерваторские годы финансовые обстоятельства вынуждали Малера во многом себе отказывать. Родители, занятые воспитанием младших детей, могли его поддерживать лишь посылками, которые, естественно, не удовлетворяли даже самые скромные потребности. Чтобы прокормиться, Густав перебивался непостоянными заработками — обучением игре на фортепиано и композиции. Так продолжалось еще два года после окончания консерватории и университета. После неудачи на Бетховенском конкурсе, на победу в котором Густав так надеялся, ему не давали покоя мысли о несправедливости. Только после конкурса он узнал об участии в нем своих друзей и сильно переживал их провал. Получив первую премию, он наверняка столкнулся бы с иной проблемой: угрызениями совести относительно печальной участи Ротта.

Осознавая необходимость двигаться дальше, Густав продолжал искать возможности для заработка. Темная полоса его жизни подходила к завершению. Внезапно ему поступило предложение из Лайбаха возглавить местный театр на один сезон в качестве дирижера. И, понимая, что надежды найти достойную работу в Вене практически нет, к тому же в его помощи нуждалась семья, Малер сразу покинул столицу. Это был ангажемент, которого можно было не стыдиться, к тому же дававший хоть какую-то материальную стабильность. Однако амбиции Густава были значительно выше, и он воспринимал эту работу как временную, впрочем, как и его семья.

Ученик Фрейда, психоаналитик Теодор Рейк, рассказывал такую историю. Отец Юлиуса Тандлера, ставшего впоследствии известным профессором анатомии Венского университета, и Бернхард Малер, прогуливаясь вместе по Вене, оказались у здания Анатомического института. И Тандлер сказал: «Мой сын — студент-медик, но однажды он будет профессором этого института». Через десять минут они дошли до Придворного театра, и Бернхард, указав на впечатляющее грандиозной архитектурой здание, произнес: «Сейчас мой сын дирижер в театре Лайбаха, но однажды он будет директором Императорской оперы». Эта красивая история свидетельствует об отношении родителей к Густаву — они были уверены, что он непременно сделает успешную карьеру.

Сегодня Любляна — столица, главный политический, экономический и культурный центр Словении. В малеровские времена город назывался Лайбах и был обыкновенным провинциальным городишкой. К 80-м годам XIX столетия музыкальная культура дошла и до таких городков. Там организовывались театры, где местная публика проводила свой досуг, посещая оперные представления, балы и прочие светские мероприятия. Такие театры были единственным местом развлечений. Их репертуар составляли беспроигрышные «кассовые» представления, не претендующие на высокое музыкальное искусство.

Театр Лайбаха назывался «Landestheater», то есть «Национальный», но, увы, кроме названия он мало чем мог похвастать. Профессиональная слабость исполнителей была не главным недостатком. Артисты могли без предупреждений попросту не являться на свои выступления, и Малеру, ответственному за исполнение, приходилось выкручиваться из форс-мажорных ситуаций. К примеру, на представлении оперы «Марта» немецкого композитора Фридриха фон Флотова из-за отсутствия певицы Густав сам вынужден был насвистывать песню «Последняя роза лета». А во время «Фауста» Шарля Гуно случился настоящий конфуз: на исполнение знаменитого «Хора солдат» вместо хора пришел всего один хорист, и Малер, очевидно, осознав крайнюю нелепость ситуации, стал неторопливо прогуливаться по сцене, распевая не ожидаемое: «Déposons les armes, dans nos foyers enfin nous voici revenus…» (Пора сдать оружие: мы, наконец, вернулись в наши дома…), а лютеранский хорал «Ein Feste Burg» (Господь — надежный наш оплот). Воспитанный в венской музыкальной культуре, Малер столкнулся здесь с иной, провинциальной реальностью, которая, как ни парадоксально, давала особый жизненный и профессиональный опыт: такая работа ставила перед еще наивным музыкантом проблемы, решению которых не научит ни одна консерватория. К тому же молодой дирижер, крайняя бедность которого не позволяла присутствовать на постановках Венской оперы, в первый раз именно в Лайбахе испытал ощущение творческого полета от интерпретации сценических партитур. Каждая исполняемая под его управлением опера рождала у Густава чувство особого очарования.