Точное место рождения Константина неизвестно. Вероятно, он происходил из города Нэсса в Дакии. Матерью его была простая женщина по имени Елена, как гласит предание, — дочь содержателя гостиницы. Ему исполнилось двадцать лет, когда его отец Констанций Хлор был в 292 году возведён императором Диоклетианом в звание цезаря. Но при этом Констанций принуждён был развестись с Еленой и жениться на Феодоре, падчерице второго августа — Максимиана Геркулия. Сам Константин после удаления отца в западные провинции империи продолжал служить Диоклетиану. По свидетельству Феофана, он с юности выказывал необыкновенный разум и большие способности к наукам. Мало-помалу его возвысили до почётного звания трибуна первого разряда.

Последние годы правления Диоклетиана совпали с жестокими гонениями на христианскую церковь. В 303 году был обнародован указ, в котором объявлялись лишёнными чести все, кто исповедовал христианскую религию; всякому было велено возводить на них обвинения и предавать их мукам, к какому бы званию они ни относились. Христианские божественные книги было велено сжигать, а священников и всех христиан насильно заставлять приносить жертвы идолам. Гонения никого не щадили. Чиновники беспрерывно заседали в храмах и наблюдали за тем, как народ приносит жертвы. Всякий, кто отказывался от жертвоприношения, рисковал своим имуществом и жизнью. Темницы были наполнены несчастными, вся вина которых заключалась в том, что они исповедовали христианство.

После отречения в 305 году Диоклетиана Константин оказался в Никомедии на положении почётного пленника. Провозглашённый императором Галерий боялся отпускать его от себя, так как знал, что в случае смерти Констанция Константин легко сможет склонить на свою сторону галльские и британские легионы. Он строил козни против молодого человека, но не решался предпринять чего-нибудь явно, дабы не навлечь на себя гнев граждан и ненависть воинов. Однажды император как бы в шутку и для испытания силы и ловкости Константина втолкнул его в клетку со львом. Но Константин одолел хищника. Между тем в 306 году тяжелобольной Констанций отправил письмо Галерию и просил прислать к нему сына, которого он хочет видеть перед кончиной. Так как Галерий не имел больше приличного предлога препятствовать отъезду Константина, он с большой неохотой дал на это согласие. Впрочем, он намеревался задержать его по дороге и поэтому повелел, чтобы он отправился в путь утром. Однако Константин в тот же вечер умчался из Никомедии, искалечив по пути всех государственных лошадей на многочисленных дорожных постах. Когда Галерий узнал об этом, он пришёл в ярость, но уже не мог ничего поделать. С невероятной быстротой Константин добрался до Британии и застал отца при смерти. Тот успел только представить его воинам и передать власть из рук в руки.

Галерий должен был признать свершившееся и даровал Константину титул цезаря. В завязавшейся затем междоусобной войне Константин поначалу не участвовал, но явно был на стороне врага Галерия Максимиана. В 307 году он женился на дочери Максимиана Фаусте и принял из рук тестя звание августа, которое Галерий после своего поражения вынужден был за ним признать. Открыто он взялся за оружие только в 312 году, когда ему объявил войну правивший в Италии Максенций. Но коль скоро война началась, он действовал стремительно и решительно. Пока Максенций собирал силы, армия Константина уже перевалила через Альпы и вторглась в Италию. Под Турином Константин нанёс своему врагу первое поражение, после чего вся Северная Италия признала его власть. Под Вероной была разбита вторая армия. Решительное сражение произошло у Красных Скал в девяти милях от столицы. После упорного боя воины Максенция обратились в бегство, а сам он при переправе через Тибр упал в воду и утонул. Вступив в Рим, Константин велел казнить двух сыновей свергнутого императора и позаботился о совершенном истреблении его рода. Но когда некоторые римляне потребовали казни всех приверженцев Максенция, Константин решительно воспротивился такой жестокости и объявил всеобщую амнистию. Справедливость была одним из главных его достоинств. По свидетельству Аврелия Виктора, Константин всем своим врагам оставил почёт и имущество и принял их в число друзей.

Пробыв недолгое время в Риме, Константин отправился в Медиолан и здесь издал знаменитый эдикт, положивший конец гонениям на христиан. В нём, в частности, говорилось: «Руководствуясь здравым и правым смыслом, мы объявляем следующее наше решение: никому не запрещается свободно избирать и соблюдать христианскую веру и каждому даруется свобода обратить свою мысль к той вере, которая, по его мнению, ему подходит… Отныне всякий, свободно и просто выбравший христианскую веру, может соблюдать её без каких бы то ни было помех…» Даровав свободу вероисповедания своим подданным, сам Константин ещё несколько лет жил в двоеверии. Он всё более деятельно поддерживал христиан и продолжал приносить жертвы старым богам; давал большие деньги на восстановление христианских церквей и не менее щедро поддерживал языческие храмы; превозносил Христа и благоволил к Аполлону. Но в последующие годы почитатели старины и древнего римского духа с болью и гневом убедились, что император постепенно склоняется к новой религии. Он отказался участвовать в публичном молебствовании в честь Юпитера Капитолийского и запретил ставить свои изображения в храмах, а потом и вовсе перестал посещать их. Епископы и проповедники нового учёния приглашались к императорскому столу и назначались воспитателями его детей. В чертогах дворца Константин устроил род церкви, где молился вместе со всем своим двором. Евсевий пишет, что император проводил целые ночи без сна за изучением Священного Писания и сочинением проповедей. Затем, собрав слушателей, он вставал с поникшим лицом и тихим голосом, весьма благоговейно, толковал им божественное учение. Если потом слушатели награждали его одобрительными криками, то он давал им знак возводить очи на небо и своим удивлением, своими благоговейными похвалами чествовать одного Бога. Разделяя речи на части, он то обличал заблуждения многобожия, то говорил о единовластвующем Божестве и вслед за тем рассуждал о всеобщем и частном промысле. Даже на золотых монетах он повелел изображать себя со взорами, обращёнными вверх, в виде молящегося. В походах Константин возил за собой сделанную наподобие церкви палатку. Позже каждый легион стал иметь такую походную церковь и получил священников и диаконов.

Государственные дела также требовали его постоянного внимания. После смерти всех остальных августов римский мир оказался поделён между Константином и Лицинием, и соперничество между ними было неминуемо. В 324 году Лициний стянул все свои силы к Адрианополю. Константин переправил свои легионы через Гебр и атаковал неприятеля. Потеряв до тридцати тысяч только убитыми, Лициний отступил в Византий. Вскоре после этого Крисп, сын Константина, разгромил в Геллеспонте флот Лициния. Лициний переправился в Халкедон на малоазийское побережье и здесь в короткий срок собрал новую армию. Она была разбита неподалёку от Никомедии. После этого продолжение войны стало бессмысленным. Через свою жену Лициний обратился к Константину с просьбой о мире. Он отрёкся от власти и был сослан в Фессалоники. Через год его казнили, обвинив в изменнической переписке с варварами. Римская империя вновь объединилась под властью одного императора.

Боевые действия против Лициния имели ещё одно важное последствие. Проведя достаточно много времени под Византием, Константин не раз имел возможность оценить и как воин, и как государственный человек бесподобное положение этого города, а также то, как хорошо он оберегаем самой природой от неприятельских нападений и вместе с тем открыт для торговых сношений. Именно здесь император решил основать свою главную резиденцию Новый Рим (Константинополь), которую предполагал сделать второй столицей империи. Строительство началось, видимо, в 325 году, а пять лет спустя город был уже освящён.