Последствия для побежденных германцев были огромны: началась эпоха формирования устойчивых союзов племен, идентифицирующих себя под единым этнонимом. Так, ряд известных в I в. н. э. этнонимов исчезают из источников. Происходят процессы слияния, ассимиляции отдельных племен или их отколовшихся частей, бродячих отрядов воинов, не принявших романизацию. Археологические данные свидетельствуют о том, что в Средней Германии племенной мир усиленно вооружался, готовясь к новой схватке с Римом.

В течение 30 лет после окончания Маркоманнских войн в междуречье Дуная, Майна и Рейна шло формирование союза аламаннов, ядром которого стали свевы. Постепенно в него втягивались семноны, гермундуры и ряд других племен эльбского бассейна. В 213 г. император Каракалла, призванный на помощь проживающими за ретийско-германским лимесом племенами, совершил поход к Майну, где разбил аламаннов. К победителю потянулись посольства эльбско-германских племен, испрашивая дружбы и денег. Император приказал усилить лимес каменной стеной. Тем не менее в 233 г. аламанны, преодолев узкий участок лимеса, ограбили Декуматские поля.

В низовьях Рейна в начале III в. формируется военно-племенной союз франков, впервые засвидетельствованный в источниках под 257 г. в связи с грабежами в Галлии и Испании. В 259-260 гг., объединившись с аламаннами, франки прорвали рейнский лимес и ограбили Северную Италию вплоть до Равенны и Медиолана. Подобные неслыханные успехи еще «сырых» союзов племен объясняются возникновением ситуации множества фронтов и глубоким системным кризисом в Римской империи в III в.

В 224-227 г. к власти в Иране пришла персидская династия Сассанидов, провозгласившая в качестве внешнеполитической доктрины «возвращение наследия Дария», т. е. претензию на римские восточные провинции. Римлянам в 30-40 гг. III в. приходилось перебрасывать часть войск с северной границы для войны с персами. В 233 г. солдаты дунайских легионов, получив известия о рейдах германцев на территории их постоянного размещения, потребовали от императора Александра Севера прекратить войну с персами и вернуться на Дунай. Низкая результативность боевых действий против германцев стоила Александру Северу жизни. В 235 г. легионы провозгласили императором способного офицера Максимина Фракийца, который отбил нападения германцев. После его гибели в 238 г. в империи начался период военной анархии, «эпохи солдатских императоров», сопровождавшейся большим количеством узурпации и, как следствие, децентрализацией военного планирования и командования.

К проблемам римлян на Рейне и верхнем Дунае добавились серьезные трудности на нижнем Дунае, в Северном Причернорморье и Приазовье. В начале III в. в этих местностях появились готы, которые пережили как бы новый этногенез, смешавшись с дакийским, аланским и т. д. населением. Обычно их делят на вест(везе)готов и ост(остро)готов. Вестготы приняли участие в так называемой «скифской» войне против империи 232-238 гг. в союзе с карпами. Результатом было не только разорение Нижней Мезии, но и заключение договора вестготов с империей. Римляне обязывались выплачивать готам ежегодно какие-то денежные суммы, готы — поставлять воинский контингент Риму. Готы приняли участие уже в римско-персидской войне 242 г., что, однако, не помешало им в составе варварской коалиции в 248 г. вновь ограбить Нижнюю Мезию. В 251 г. вестготы под руководством конунга Книвы опустошили Фракию, причем в сражении против них при Абритте погиб вместе с римским войском император Деций. На этот раз условия мира продиктовали готы. Они дали гарантии ненападения на римлян, а взамен получили право уйти с римских территорий со всей добычей и получать от Рима ежегодные денежные субсидии. Остготы и их союзники (бораны) с 255 г. предприняли несколько морских походов, в результате которых были разграблены побережья Греции, Малой Азии, Восточного и Южного Причерноморья. Огромная добыча из многих захваченных городов распаляла их воинственные настроения.

В 260 г. на Востоке произошла катастрофа: большая римская армия была разбита персами, император Валериан попал в плен, победители стремительно захватывали восточные римские провинции. В том же году в результате узурпации Постума отпали галльские провинции; на Востоке проримскую политику проводил Оденат, правитель Пальмиры. Временно (до 274 г.) Римская империя распалась на три части. В дунайско-балканском регионе усилия римской власти были направлены на недопущение вторжения германцев в Италию. Учитывая, что каждое германское племя имело собственные грабительские интересы, военные действия римлян против них велись без какого-то согласованного плана.

В результате проведенной императором Галлиеном военной реформы и создания в 268-269 гг. мощной кавалерии римлянам удалось достичь стратегического перелома в войнах с варварами. В 269 г. под Наиссом (совр. Нич) был разгромлен главный германский враг — готский союз племен. Перечень племен варварской коалиции 269 г. показывает, что вестготский союз был таким же «сырым», как и аламаннский. Помимо прочих «скифских» этносов в него входили, сохраняя известную обособленность, гревтунги, австроготы, тервинги, визы. Методы формирования вестготского союза, судя по источникам, были в большей мере насильственными. Описывая власть конунга Остроготы, Иордан (сер. VI в.) отметил: «Под его десницей нередко лежал вандал, принужден к дани маркоманн, обращены были в рабство вожди квадов». Между гепидами и готами происходили войны за добычу и территорию. Собственно, общий этноним «готы» всем этим родственным племенам дали римляне, сумев вычленить лидирующую роль в союзе именно готов.

Уход римлян из задунайской Дакии в 271 г. лишь обострил соперничество в германском мире, что засвидетельствовано современниками: «готы с трудом изгнали бургундов, с другой стороны, вооружаются побежденные аламанны и в то же время тервинги, другая часть готов, присоединив отряд тайфалов, устремляются против вандалов и гепидов».

В 70-90 гг. III в. римлянам удалось полностью восстановить свое стратегическое превосходство, но пришлось считаться с определенными реальными итогами варварских вторжений: части германцев удалось осесть внутри империи. К концу III в. не распались, даже будучи сильно ослабленными, три основных германских союза племен: аламанны, франки, готы. Часть германских племен, особо активных в период Маркоманнских войн, либо исчезают как самостоятельные этносы, либо отходят на задний план (маркоманны, квады).

Довольно проблематично говорить о союзе саксов для III в. Саксы известны уже Клавдию Птолемею (ок. 150 г. н. э.), который располагал их в самом низовье Эльбы, на узкой полосе от ее устья до Ютландии, а также на трех саксонских островах Северного моря. Первое военное предприятие саксов упомянуто под 286 г., когда они вместе с франками пиратствовали вдоль северных берегов Галлии. Это был редкий случай объединения в военных целях; позднеантичные авторы считали саксов не племенем, а просто пиратскими бандами.

В самом начале IV в. энергичные меры переустроенной в административном и военном отношении Римской империи (тетрархия) удалось очередной раз усмирить варварский мир. Римляне не отказались от контроля над германцами, но ввели новые элементы в систему взаимоотношений с ними. Император Диоклетиан допустил германцев к высшим офицерским должностям, позволил наниматься на службу в легионы как персонально, так и целыми отрядами. Знатность и личная доблесть позволяли германцам выслуживаться до высших армейских рангов. В 306 г. аламаннский конунг Крок, при одобрении римского войска в Британии, провозгласил императором с достоинством Августа, будущего Константина Великого. В середине IV в. аламанны играли значительную роль и при императорском дворе; позже их сменяют франки. Известна знаменитая надпись этого времени: «Я — франкский гражданин, римский воин при оружии». Известны десятки имен высших офицеров германского происхождения; некоторые даже посягали на императорскую власть, становясь узурпаторами (франки Магненций и Сильван). Франк Арбогаст в 392-394 гг. был фактическим правителем Западной Римской империи; в той же роли в 395-408 гг. выступал вандал Стилихон.