После смерти Мендельсона Иоахим решил сменить обстановку и принял в 1850 году приглашение Листа переехать в Веймар. Однако вскоре он разочаровался в Листе. Как пишет Я.И. Мильштейн, Иоахим вслед за Шуманом и Бальзаком положил начало мнению, что Лист был великим исполнителем и посредственным композитором. «В каждой ноте Листа можно услышать ложь», — писал Иоахим. В 1852 году он уезжает в Ганновер, чтобы занять место умершего Георга Гельмесвергера, сына его венского учителя. Слепой ганноверский король, большой любитель музыки, высоко оценил дарование Иоахима. Именно в Ганновере в полной мере развернулась педагогическая деятельность великого скрипача.

Противник механического тренажа, Иоахим создал метод, который базировался на принципе единства художественного и технического развития учащегося. Уже тогда Иоахим предлагал элементы слухового метода, рекомендуя такие приемы совершенствования музыкального слуха начинающих скрипачей, как сольфеджирование: «Чрезвычайно важно, чтобы сначала же бьшо культивировано музыкальное представление ученика. Он должен петь, петь и снова петь. Уже Тартини говорил: „Хорошее звучание требует хорошего пения“. Начинающий скрипач не должен извлекать ни одного звука, которого он перед тем не воспроизвел собственным голосом…»

В педагогике Иоахима технологии игры отводилось незначительное место. Об этом писал и Ауэр, занимавшийся в Ганновере: «Иоахим редко входил в технические детали, никогда не объяснял ученикам, каким способом достичь технической легкости, как добиться того или иного штриха, как играть некоторые пассажи или как облегчить исполнение употреблением определенной аппликатуры. Во время урока он держал скрипку и смычок и, как только исполнение учеником пассажа или музыкальной фразы его не удовлетворяло, гениально играл сам сомнительное место… Он редко выражал ясно свою мысль, и единственным замечанием, которое он произносил, сыграв неудавшееся ученику место, бывало1 „Вы должны это играть так!“, сопровождаемое ободряющей улыбкой. Таким образом, те из нас, кто были в состоянии понять Иоахима, следовать его неясным указаниям, получали огромную пользу, пытаясь по мере сил подражать ему; другие же, менее счастливые, оставались стоять, ничего не понимая.»

Там в Ганновере Иоахим создал и несколько произведений, в том числе Венгерский концерт для скрипки с оркестром — самое лучшее свое сочинение.

В мае 1853 года начинается дружба Иоахима с Робертом Шуманом. Позднее Шуман посвятит Иоахиму Фантазию для скрипки. Тогда же Иоахим познакомился и с Брамсом, тогда еще неизвестным композитором. Иоахим сыграл большую роль в жизни Брамса, много сделав для признания его творчества. Брамс же оказал на Иоахима большое влияние в художественно-эстетическом плане. Брамс способствовал тому, что Иоахим окончательно порвал с Листом и принял горячее участие в развернувшейся борьбе с «новонемецкой школой».

У Иоахима был трудный характер. От этого страдали и он сам и окружающие. Чего стоит история с его женитьбой. В апреле 1863 года Иоахим, живя в Ганновере, обручился с Амалией Вейс — талантливой драматической певицей. При этом Иоахим поставил условием их брака отказ Ама-лии от сценической карьеры. Последняя с горечью согласилась. Сцену Вейс покидать не хотелось: ее голос высоко ценил Брамс, который написал многие композиции специально для нее.

В итоге Амалия слова не сдержала и вскоре после свадьбы вернулась на концертную эстраду. «Брачная жизнь великого скрипача, — пишет Герингер, — постепенно стала несчастливой, так как супруг страдал от почти патологической ревности, постоянно разжигаемой тем образом жизни, который госпожа Иоахим, естественно, была вынуждена вести как концертная певица».

Конфликт между супругами особенно обострился в 1879 году, когда Иоахим заподозрил жену в близких отношениях с издателем Фрицем Зимроком. В этот конфликт вмешивается Брамс, абсолютно убежденный в невинности Амалии. Он уговаривал Иоахима опомниться и в декабре 1880 года послал Амалии письмо, послужившее впоследствии причиной разрыва между друзьями. «Я никогда не оправдывал Вашего мужа, — писал Брамс… — я еще раньше вас знал злополучное свойство его характера, благодаря которому Иоахим так непростительно терзает себя и других». Брамс выражал надежду, что все еще образуется. Письмо Брамса фигурировало на бракоразводном процессе Иоахима с женой и глубоко оскорбило музыканта. Дружбе его с Брамсом пришел конец. Иоахим развелся в 1882 году.

Несмотря на то что Иоахим в этой истории не прав, он и здесь предстает как человек высоких моральных устоев. В 1868 году Иоахим поселился в Берлине. Через год он стал директором открывшейся консерватории и занимал пост до конца жизни. В Берлине Иоахим был постоянно окружен почетом и уважением, к нему стекались ученики со всех концов мира. Музыкант вел напряженную концертную — сольную и ансамблевую — деятельность.

В Берлине Иоахим создал квартет, считавшийся одним из лучших в мире. В него входили помимо Иоахима Г. де Ана (позднее его сменил К. Галирж), Э. Вирт и Р. Гаусман.

Иоахим сыграл выдающуюся роль в распространении и популяризации произведений Баха и Бетховена. Их пропаганда стала делом всей его жизни. Шуман называл Иоахима лучшим истолкователем чудо-музыки Баха. О его исполнении Концерта Бетховена Ганс Бюлов писал в «Berliner Feuerspitze»: «Этот вечер останется незабываемым и единственным в памяти тех, кому выпало это художественное наслаждение, наполнившее душу глубоким восторгом. Не Иоахим играл вчера Бетховена, играл сам Бетховен! Это уже не исполнение величайшего гения, это само откровение. Даже величайший скептик должен поверить чуду; подобного перевоплощения еще не бывало. Никогда еще произведение искусства не воспринималось столь живо и просветленно, никогда еще бессмертие не претворялось в ярчайшую действительность столь возвышенно и лучезарно. На коленях должно было бы слушать такую музыку».

О его интерпретации последних квартетов Бетховена А.В. Оссовский писал: «В этих пленительных по возвышенной красоте и подавляющих в своей загадочной глубине озданиях гениальный композитор и его исполнитель были родными братьями по духу.

Недаром Бонн, родина Бетховена, поднес Иоахиму в 1906 году звание почетного гражданина. И как раз то, на чем срываются другие исполнители — бетховенские адажио и анданте, — именно они давали Иоахиму простор развернуть всю свою художественную силу».

Дважды в 1872 и 1884 годах Иоахим приезжал в Россию, где его выступления солиста и квартетные вечера проходили с огромным успехом.

Вспоминая выступление Иоахима с Лаубом в Москве в 1872 году, русский музыкальный критик О. Левензон писал: «В особенности нам остался памятен дуэт Шпора; исполнение это представляло собой истинное состязание двух героев. Как сказывались в этом дуэте спокойная классическая игра Иоахима и полная огня темперация Лауба! Как теперь помним колокольчикообразный звук Иоахима и жгучую кантилену Лауба».

«Суровым классиком», «римлянином» назвал Иоахима Коптяев, рисуя нам его портрет: «Хорошо выбритое лицо, широкий подбородок, густые зачесанные назад волосы, сдержанные манеры, опущенный взгляд — совсем давали впечатление пастора. Вот Иоахим на эстраде, все притаили Дыхание… Ничего стихийного или демонического, но строгое классическое спокойствие, не вскрывающее душевных ран, а излечивающее их. Настоящий римлянин (не эпохи упадка) на эстраде, суровый классик — вот впечатление от Иоахима».

Судя по отзывам очевидцев, в игре Иоахима преобладали мягкость, нежность, романтическая теплота. Он располагал относительно небольшим, но очень приятным звуком. Бурная экспрессивность, порывистость были ему чужды.

22 апреля 1891 года в Берлине состоялось празднование шестидесятилетия Иоахима. Примечательно, что на юбилейном концерте струнный оркестр, за исключением контрабасов, состоял исключительно из учеников юбиляра — 24 первых и столько же вторых скрипок, 32 альта, 24 виолончели.

В последние годы Иоахим много работал вместе со своим учеником и биографом А. Мозером над редакцией сонат и партит И.С. Баха, квартетов Бетховена. Также Иоахим оказал большую помощь Мозеру в разработке скрипичной школы, где зафиксировал свои основные педагогические принципы.