Окончив Михайловское артиллерийское училище по первому разряду, А.Н. Гришин, высочайшим приказом от 10 августа 1902 года был произведен в подпоручики и причислен к 5-му мортирному артиллерийскому полку. Прежде чем отправиться к постоянному месту службы, свежеиспеченный подпоручик ушел в 28-дневный отпуск, отгуляв который прибыл 19 сентября на место, в установленный срок.
5-й мортирный артиллерийский полк был расквартирован в городе Коломне Московской губернии. Начались обычные армейские будни — занятия с солдатами, боевая подготовка, изучение материальной части. Видимо, ничего особенного в жизни подпоручика Гришина в это время не происходит. По послужному списку видно, что с 16 сентября 1903 года он опять находился в 28-дневном отпуске с сохранением содержания «по домашним обстоятельствам», из которого прибыл ранее срока на один день.
Начавшаяся вскоре Русско-японская война была первым испытанием для молодого артиллерийского офицера. В полку была объявлена мобилизация. 1 июня 1904 года подпоручик Гришин был командирован к себе на родину, в город Тамбов, в распоряжение Тамбовского уездного воинского начальника «для приема и препровождения запасных лошадей для штаба 6-го Сибирского армейского корпуса» (корпус формировался в это время в Московском военном округе и готовился к отправке на фронт). Уже 8 июня он прибыл обратно из командировки. 27 июня в Коломне состоялся парад частей, отправляющихся на Дальний Восток, на котором присутствовал только что прибывший в город Император Николай II. Перед ним торжественным строем прошли 5-й и 6-й Восточно-Сибирские саперные батальоны и 5-й мортирный артиллерийский полк.
7 июля Гришин в составе полка проследовал по железной дороге на Дальний Восток, на театр военных действий и 3 августа перешел границу и вступил в пределы Маньчжурии.
С 3 августа 1904 по 10 ноября 1905 года он находится в составе действующей армии на театре военных действий. Уже в августе участвует в крупном сражении с японцами под Ляояном. Сразу после окончания этой битвы, 29 августа, он высочайшим приказом производится в поручики, а вскоре, «за отличие в бою с японцами под городом Ляояном» награждается своим первым орденом — Святой Анны 4-й степени с надписью «За храбрость».
За время этой войны поручику Гришину удалось поучаствовать в сражении на реке Шахэ, зимнем сражении при селении Сандепу и еще нескольких небольших боях. 7 апреля 1905 года он прибыл с батареей в Харбин.
Русско-японская война была неудачной для России, но на Гришина это никак не повлияло — за время боевых действий ранений и контузий не имел, набрался боевого опыта и получил первую награду. 10 ноября 1905 года он возвращается в Россию и сразу же прикомандировывается к 8-му Восточно-Сибирскому стрелковому артиллерийскому дивизиону.
После окончания войны—опять лямка артиллерийского офицера, которую он тянул в частях Иркутского и Приамурского военных округов. 7 января 1906 года он был официально переведен в 8-й Восточно-Сибирский артиллерийский дивизион, где временно занимал должность заведующего хозяйством 1-й батареи, а затем был назначен делопроизводителем батареи. В 1907 году 8-й Восточно-Сибирский стрелковый артиллерийский дивизион переименовывается в 8-ю Восточно-Сибирскую стрелковую артиллерийскую бригаду. Гришин служит в ней вторым старшим офицером 6-й батареи. В ноябре 1907 года получает орден Святого Станислава 3-й степени с мечами и бантом, за боевые отличия.
Высочайшим приказом от 29 августа 1908 года поручик Гришин производится в штабс-капитаны. В это время он служит первым старшим офицером батареи, частенько исполняя должность временно командующего батареей. В марте 1909 года он прикомандировывается к 1-му Сибирскому резервному артиллерийскому дивизиону, где возглавляет команду разведчиков, а в ноябре этого же года окончательно переводится в дивизион. Дивизион располагался в селе Усть-Балей Иркутской губернии. В апреле 1910 года назначен заведующим учебной командой дивизиона. Ездит квартирьером в Хабаровск и Благовещенск.
10 июля того же 1910 года по случаю реорганизации армии в составе 1-го полудивизиона 1-го Сибирского резервного артиллерийского дивизиона штабс-капитан Гришин выступает из Иркутского в Приамурский военный округ и 20 июля прибывает в город Благовещенск. Здесь дивизион переформировывается в 10-ю Сибирскую стрелковую артиллерийскую бригаду, где он продолжает исполнять должность заведующего учебной команды (с 1913 года — начальник учебной команды). Помимо этого он состоит также членом суда общества офицеров, библиотекарем офицерской библиотеки и членом распорядительного комитета офицерского собрания.
Высочайшим приказом от 4 марта 1911 года ему был пожалован орден Святой Анны 3-й степени. По всей видимости, Алексей Николаевич был не лишен литературного слога и проявлял определенный интерес к истории — в октябре 1913 года ему было поручено составлять историю своей бригады.
Девять лет мирной жизни — и снова война, Первая мировая (или, как тогда говорили — Великая). Всеобщая мобилизация Русской армии была объявлена 17 (30) июля 1914 года, а уже 19 июля (1 августа) Германия объявила войну России.
23 сентября 1914 года штабс-капитан Гришин переводится в 5-й Сибирский мортирный артиллерийский дивизион, куда и прибывает 4 октября. Дивизион, входивший в состав 5-го Сибирского армейского корпуса, отправляется на Германский фронт и 17 октября прибывает в Смоленск. Оттуда, через Барановичи, он двигается в Польшу, на станцию Червонный Бор Ломжинской губернии, где высаживается и приступает к сосредоточению в районе боевых действий.
Уже с 27 октября Гришин в составе 5-го Сибирского корпуса участвует в крупном сражении разыгравшейся всемирной бойни — Лодзинской операции. Он принимает участие в боях под Влоцлавском, Ковалем и Брест-Куявским. 31 октября корпус с боями отходит на Гостынинские позиции, где закрепляется, а затем начинается наступление на город Гомбин. Этих наступлений на Гомбин в итоге было три, с последующими отходами. Лодзинская операция закончилась неопределенно — германский план окружения русских армий был сорван, но не удалось и планировавшееся русское наступление вглубь Германии. После Лодзинской операции начинается длительное противостояние русской и австро-германских армий на реке Бзуре.
Во время этих боев Алексей Николаевич был прикомандирован к штабу 5-го Сибирского армейского корпуса, а 5 декабря назначен временно исполняющим должность старшего адъютанта штаба корпуса. С 26 января 1915 года его назначили возглавлять службу связи корпуса, но уже с 31 января он является адъютантом командира корпуса генерал-лейтенанта Н.М. Воронова.
Приказом главнокомандующего армиями Северо-Западного фронта генерала от инфантерии Н.В. Рузского от 2 февраля 1915 года № 535, за отличие в делах против германцев штабс-капитан Гришин был награжден орденом Святого Станислава 2-й степени с мечами.
В апреле 1915 года он производится в капитаны, а в июне прибывает в город Двинск (ныне Даугавпилс), в распоряжение наблюдающего за формированием артиллерийских частей, для назначения командиром мортирной батареи. 30 июня становится командующим второй батареи в 35-м мортирном артиллерийском дивизионе (с 22 ноября— командир батареи). Участвует во многих наступательных и оборонительных операциях. К 1917 году возглавляет и сам дивизион, входивший в состав ударных частей.
Произошедшая в феврале 1917 года революция в России и отречение Николая II потрясли самые основы государства. Бездумные приказы Временного правительства по «демократизации» армии, а также тайная и явная работа большевиков и немецких агентов, привели к устранению основного в любой армии мира принципа единоначалия, неподчинению низших чинов офицерам, самовольному уходу с позиций, беспорядкам и разложению воинских частей. В первую очередь это разложите коснулось армейских пехотных полков, наскоро скомплектованных из наиболее отсталых и малограмотных групп населения, легко поддававшихся на демагогические и провокационные лозунги и призывы. Ведь надо учесть, что большая часть кадровых офицеров и старых солдат была выбита еще в первый год войны. Даже офицеры военного времени, срочно обученные и поверстанные из студентов, учителей и мелких чиновников, отличались по своему духу от профессиональных кадровых офицеров, не говоря уже о массе солдат из крестьян и рабочих. В гвардии, артиллерии, кавалерии и особенно в казачьих частях дисциплина еще сохранялась.
