Пол Маккартни был обаятельный, с привлекательной внешностью юноша, и, по общему мнению, самый симпатичный участник ансамбля. Но Брайана Эпстайна заинтересовал не Пол Маккартни, его заинтересовал грубый, скандальный Джон Леннон. «Ему нужен был Джон», - говорит Питер Браун.
В буквальном смысле это оказалось физическим желанием. Когда Эпстайн нерешительно вошел во время ленча в клуб «Каверн», его удивило то, что он увидел на сцене: четверо затянутых в кожу рокеров шутили, ругались, хлопали друг друга в той грубоватой манере, которая присуща молодым ребятам. Брайан был ошеломлен, особенно его поразил хриплый ритм-гитарист, который осыпал бранью примерно две сотни подростков, жующих бутерброды, пьющих теплую кока-колу, аплодирующих и дымящих сигаретами в заплесневелом подвальном помещении клуба «Каверн».
Нельзя сказать, что Брайан упивался этим зрелищем, глотая слюнки. Пол Маккартни твердо заявляет по этому поводу: «До меня доходили слухи о нравах артистической среды, но в данном случае это было глупостью». Однако Питер Браун говорил, что вид Леннона в кожаной куртке произвел необычайный эффект на Эпстайна: «Это был наиболее подходящий образ воплощения его тайных сексуальных наклонностей».
Отпрыск двух преуспевающих еврейских семей, разбогатевших на торговле мебелью, Эпстайн был молодым одиноким неудачником. К пятнадцати годам он успел поучиться в семи школах и из нескольких был исключен. В те дни его мать, Куинни, защищая его, говорила: «Если ты им не нравишься, то они просто вышвыривают тебя». И им не нравился маленький Эпстайн, типичный образец маменькиного сынка. Позже он напишет: «Я был из разряда неуживчивых мальчишек, ребята и преподаватели издевались, дразнили и изводили меня».
Да и учеником он оказался слабым. В тринадцать лет Брайан провалил вступительные экзамены в среднюю школу, и даже родительские деньги не помогали ему удерживаться в частных школах, таких, как Рагби, Рептон или Клифтон. В итоге он остановился на Рекин-колледж в Шропшире, но, чувствуя, что будет не в состоянии сдать экзамены, ушел оттуда в возрасте шестнадцати лет и пошел за 5 фунтов в неделю работать продавцом в мебельный магазин отца. Ему хотелось заниматься совсем не этим, он мечтал быть модельером женской одежды, и эта его мечта приводила отца в ярость.
Через два года Брайан был призван на военную службу и отправлен в части снабжения и транспорта. Ему, единственному из выпускников средней школы его призыва, не было предложено сдавать экзамены на офицерское звание. По его словам, он всегда был «самым плохим солдатом», который поворачивался налево, когда звучала команда «направо», и стоял «вольно» по команде «смирно». Казалось, что он так и прослужит свои два года, оставаясь забитым, но всегда опрятно одетым рядовым. Однако спустя десять месяцев рядовой Эпстайн был уволен из армии «на почве психиатрии». Согласно его утверждениям, он был «непьющим и абсолютно надежным солдатом», но в армии вскрылось, что он гомосексуалист.
Уволенный из армии за свои сексуальные наклонности, Эпстайн вернулся в Ливерпуль и стал управляющим магазина в Хойлейке, который принадлежал его отцу. Это дало ему возможность проявить чутье предпринимателя, в чем у него действительно был талант. Эпстайн со вкусом украсил витрины модной тогда мебелью в «скандинавском» стиле, и в течение года его доходы превысили доходы главного магазина фирмы. Но если родители радовались такому неожиданному повороту дел, то Брайана это не радовало. Он расстроился, впал в депрессию, ушел с работы и через несколько месяцев поступил в Королевскую академию драматического искусства. Это приоткрыло еще одну сторону его таланта. На вступительных экзаменах Брайан читал отрывки из «Макбета» Шекспира и «Доверенного лица» Элиота. Экзамен прошел успешно, и ему предоставили место в престижной актерской школе. Он был хорошим актером, но чересчур эмоциональным (выступления заканчивались для него судорожными рыданиями). По его словам, директор школы Джон Фернольд, который воспитал такие таланты, как Альберт Финни и Питер О’Тул, «глубоко верил в меня».
Но все дело в том, что Эпстайн мало верил сам в себя. Он не мог заниматься чем-нибудь долго и всерьез и впадал в депрессию. Будучи не способным легко заводить друзей, он вскоре заявил, что презирает актеров, их жизнь и «ложную дружбу», хотя актеры никогда и не приглашали его в свой круг. Его мать никогда не одобряла того, что он уходил от ее материнской опеки, и в результате ее настойчивых просьб Брайан, проучившись в актерской школе три семестра, вернулся домой, в Ливерпуль. Там он снова стал работать в отцовской фирме, на этот раз в качестве заведующего отделом грампластинок фирмы NEMS. Это была старая фирма (Джим Маккартни вспоминал, что играл на пианино этой фирмы еще во время первой мировой войны), которую в качестве недвижимости приобрел еще дед Брайана, иммигрант из Польши.
Вернувшись к коммерческой деятельности, Эпстайн вновь проявил свои предпринимательские способности. Когда он начинал, в штате у него было два человека, а спустя два года у него работали уже тридцать человек, включая молодого Питера Брауна, который уволился из универмага «Льюис». Благодаря внимательному отношению к вкусам покупателей, введению новой системы учета, при которой можно было дополнительно заказывать пластинки до того, как продан тираж, а также благодаря обещаниям, которые, как правило, выполнялись, о том, что магазин может обеспечить покупателя любой выпущенной пластинкой, магазин Эпcтайна превратился в самый преуспевающий магазин грампластинок в северо-западной Англии. Брайан много работал, гордился своими успехами и, казалось, нашел работу, которая его удовлетворяла.
Вне работы все было иначе. Все, кто знал его, вспоминают о нем как о симпатичном, обаятельном, добром человеке, у которого, однако, было второе лицо, проявлявшееся довольно часто. Он так и оставался таким же неуравновешенным и одиноким, каким и был всегда. Брайан часто здорово выпивал, слишком чувствительно относился к тому, что он еврей, во всех своих бедах обвинял антисемитов, которые, по его мнению, окружали его. Он был подвержен неожиданным эмоциональным взрывам, которые сменялись длительными периодами ледяного молчания. Малейшая обида, реальная или воображаемая, могла вызвать бурю грязных оскорблений с его стороны. К неуравновешенной психике добавлялись его сексуальные наклонности. Гомосексуализм преследовался законом, и Эпстайн, заклейменный и гонимый, был обречен тайком получать удовольствие лишь там, где мог найти.