В 773 г. он начал войну против лангобардского короля Дезидерия. Перед этим Карл развёлся с его дочерью Дезидератой (брак этот устроила мать Карла Бертрада, мечтавшая о союзе с лангобардами). Сильная франкская армия направилась к Альпам. Лангобарды закрыли и укрепили перевалы. Карл решился на обходной маневр. По тайным тропинкам бесстрашный франкский отряд пробрался к врагу с тыла. Опасаясь окружения, Дезидерий покинул перевалы и отступил к своей столице Павии, рассчитывая отсидеться за её толстыми стенами. Франки с боем преследовали врага, по пути овладев многочисленными городами Ломбардии. Оставив часть сил под Павией, Карл с остальным войском подступил в феврале 774 г. к Вероне. После короткой осады город сдался. В апреле франки подошли к Риму. Папа Адриан I устроил Карлу торжественную встречу. Карл отнесся к первосвященнику с величайшим почтением: прежде чем подойти к руке Адриана, он облобызал все ступени лестницы храма святого Петра. Ко многим городам, подаренным папе его отцом, он обещал прибавить новые дарения (это обещание потом не было выполнено). В начале июня, не выдержав тягот осады, Дезидерий вышел из Павии и подчинился победителю. Карл завладел столицей лангобардов и королевским дворцом. Побежденного врага он заставил постричься в монахи.
В 775 г. во главе большой армии Карл углубился в Саксонию вплоть до реки Оккера и оставил сильные гарнизоны в Эресбурге и Сигибурге. Но уже следующей весной саксы взяли Эресбургобратно. Тогда Карл попытался создать на границе с Саксонией укрепленный рубеж. В 776 г. он основал здесь крепость Карлсбург и крестил многих саксов. В 777 г. со всех концов страны к нему явились массы местных жителей и изъявили свою покорность.
В том же году к королю прибыли послы от правителя Сарагосы, который просил помощи у франков против омейядского эмира Кордовы. В 778 г. Карл, во главе большой армии, перешел Пиренеи, но потерпел неудачу под Сарагосой. На обратном пути, когда войско двигалось растянутым строем, как к тому вынуждали горные теснины, баски устроили засаду на вершинах скал и напали сверху на отряд, прикрывавший обоз, перебив всех до последнего человека. По возвращении Карла ждали и другие неприятности: саксы-вестфалы, объединившись вокруг Видукинда, забыли свои клятвы и показное обращение и снова начали войну. Перейдя границу у Рейна, они поднялись по правому берегу этой реки до Коблеца, все выжигая и грабя на своём пути, а затем, нагруженные богатой добычей, возвратились восвояси. В 779 г. Карл вторгся в Саксонию и прошел почти всю страну, нигде не встречая сопротивления. Вновь, как и прежде, в его лагерь явилось множество саксов, которые дали заложников и клятву в верности. Однако король уже не верил в их миролюбие. В 780 г. он вновь явился в Саксонию и прошел до самой Эльбы.
Кое-как замирив Саксонию, он в конце года прибыл в Италию Весной 781 г. в Риме папа по просьбе Карла крестил его четырехлетнего сына, дав ему имя Пипин, и возложил на голову ребёнка корону, после чего отец громогласно объявил о своём желании доверить новому королю управление Италией. После этого Пипин стал официально именоваться «королём лангобардов». 782 год вновь посвящен был саксонским делам. Всю Саксонию Карл разделил на административные округа, во главе которых поставил графов. Узнав, что в приграничные земли вторглись славяне-сорбы, он отправил против них своё войско. Но как раз в это время из Дании вернулся Видукинд. Вся страна немедленно восстала. Множество франков было перебито, христианские храмы разрушены. Войско, посланное против сербов, попало в засаду у горы Зунталь и было почти полностью перебито мятежниками. Карл собрал новую армию, явился в Верден, вызвал к себе саксонских старейшин и принудил их выдать 4500 заложников.
Все они в один день были обезглавлены. Тогда же был обнародован так называемый «Первый саксонский капитулярий», грозивший страшными карами за любое прегрешение против церкви и франкской администрации. Следующие три года Карл почти не покидал Саксонии. В ходе этой упорной войны он бил саксов в открытых сражениях и в карательных рейдах, брал сотни заложников, которых увозил из страны, уничтожал селения и фермы непокорных. Летом 785 г. франки перешли Везер. Обескровленный многими поражениями Видукинд завязал с Карлом переговоры и запросил пощады. Осенью он приехал к королю в Аттиньи, крестился и получил из его рук богатые дары. Это был переломный момент в Саксонской войне. После этого сопротивление побежденных стало постепенно ослабевать.
В конце 786 г. Карл выступил против герцога Беневентского Арихиза, который мечтал восстановить под своей властью лангобардское королевство. В начале 787 г. Карл был уже в Риме, а затем подошел к Капуе. Арихиз отступил к Салерно и оттуда отправил к Карлу своего сына для переговоров. Он обещал полное повиновение, лишь бы король не опустошал его территории. Карл согласился. После этого сам герцог и его народ принесли королю франков присягу в верности. Вся Италия до самого юга признала власть Карла. Развязав себе руки в Саксонии ум. Италии, Карл обратился против баварского герцога Тассилона, старого союзника лангобардов. В том же году он окружил Баварию с трёх сторон войсками. Тассилон вынужден был принести клятву верности. В 788 г. Карл вызвал герцога на суд, низложил и заставил постричься в монахи. Герцогская власть в Баварии была упразднена, а страна отдана под управление графам. В 789 г. Карл совершил экспедицию против славянского племени лютичей (вильцев). Франки навели два моста через Эльбу, перешли реку и при поддержке союзников (саксов, фризов, ободритов и лужицких сербов) нанесли страшный удар лютичам. Хотя, согласно летописям, те дрались упорно, но устоять перед огромными силами союзников не смогли. Карл гнал вильцев до реки Пены, все уничтожая на своём пути. Их столица капитулировала, а князь Драговит покорился и дал заложников.
Затем началась тяжелая аварская война. По свидетельству Эйнгарда, она была самой значительной и ожесточённой после саксонской и потребовала от франков очень больших издержек. Летом 791 г. армия Карла тремя различными путями вторглась в страну аваров и дошла до Венского леса, где были их главные укрепления. Покинув свой лагерь, авары бежали в глубь страны, франки преследовали их до впадения реки Раб в Дунай. Дальнейшее преследование прекратилось вследствие массового падежа лошадей. Армия вернулась в Регенсбург, нагруженная большой добычей. Весь год Карл провел в Регенсбурге, но от нового похода против авар его отвлекло восстание саксов. Размах его превзошел даже события 785 г. К саксам присоединились фризы и славяне. Повсюду были разрушены храмы и перебиты франкские гарнизоны. Летом 794 г. Карл и его сын Карл Юный во главе двух армий вторглись в Саксонию. Видя себя окруженными, саксы массами бросились к Эресбургу, принесли клятвы верности, дали заложников и вернулись к христианству. Осенью 795 г. король с сильной армией вновь опустошил Саксонию и дошел до нижней Эльбы. Узнав, что саксы убили его союзника, князя ободритов, он подверг страну вторичному опустошению, взял до 7000 заложников и возвратился во Францию. Едва он ушел, восстали саксы в Нордальбингии, стране к северу от Эльбы. Карл должен был обратиться против них. Тем временем хорутанский князь Войномир возобновил войну против авар, взял их укрепленный лагерь ринг и захватил богатую добычу. Летом 796 г. сын Карла Пипин вновь напал на авар, опустошил всю их страну и разрушил до основания ринг. После этого похода, по словам Эйнгарда, в Паннонии не осталось в живых ни одного её обитателя, а место, на котором находилась резиденция кагана, не сохранило и следов человеческой деятельности. Страшный народ аваров, в течение нескольких столетий наводивший ужас на всю Восточную Европу, перестал существовать. Тем временем Карл с сыновьями, Карлом и Людовиком, воевал в Саксонии. Армия прочесала всю страну вплоть до Нордальбингии, а затем возвратилась в Ахен с заложниками и большой добычей. В конце лета – начале осени Карл организовал грандиозную экспедицию в Саксонию по суше и по воде; опустошая все на своём пути, он подошел к Нордальбингии. Со всех сторон страны к нему сбежались саксы и фризы, дав большое число заложников. В ходе экспедиции Карл расселил в Саксонии франков, а многих саксов увел с собой во Францию. Он решил не покидать страну даже на зиму. Взяв с собой весь двор, он расположился на Везере, приказал построить бараки для солдат и назвал место стоянки Герштель. Всю зиму он провел здесь, занимаясь саксонскими делами. Весной 798 г. он подверг полному опустошению земли между Везером и Эльбой. Одновременно союзные франкам ободриты разбили нордальбингов у Свентаны, перебив до 4000 саксов. После этого Карл смог вернуться во Францию, ведя за собой до полутора тысяч пленных. Летом 799 г. король вместе с сыновьями отправился в последний поход против саксов. Сам он оставался в Падерборне. Тем временем Карл Юный завершил усмирение Нордальбингии. Как обычно, Карл вернулся во Францию, ведя с собой множество саксов с женами и детьми для расселения их во внутренних областях государства.
