Детство провёл на Кубани, в станице Петровской, позже семья Конаревых переехала сначала в станицу Ивановскую, а затем в город Невинномысск.
В Невинномысске пережил немецкую оккупацию, принимая участие в диверсиях против отступающих войск врага[источник?]. После освобождения Невинномысска окончил среднюю школу, вступил в комсомол и пытался уйти добровольцем на фронт, но не прошёл по зрению.
Работа на железнодорожном транспорте:
В июне 1949 года окончил Харьковский институт инженеров железнодорожного транспорта по специальности «Движение» и получил распределение на Южную железную дорогу, где работал инженером по технике безопасности на крупной станции Основа, являвшейся важным центром Харьковского железнодорожного узла. В этом же месяце он женился.
Некоторое время спустя назначен заместителем начальника станции Лозовая. В 25 лет стал заместителем начальника отделения — начальником отдела эксплуатации отделения дороги. Проработав в этой должности полтора года, в декабре 1953 года был назначен помощником начальника дороги. Впоследствии назначен начальником отдела условий перевозок коммерческой службы Южной дороги. Около года спустя переведён начальником оперативного отдела Основянского (Харьковского) отделения ЮЖД.
В 1959 году назначен первым заместителем начальника Основянского отделения Южной дороги. В том же году ему был вручён знак «Почётный железнодорожник». В 1960 году назначен начальником службы движения той же дороги. Отличившись в работе на этой должности, внедрив при этом комплексную технологию перевозочного процесса на дорожных направлениях[источник?], он в 1962 году стал первым заместителем начальника дороги.
В 1969 году Николай Семёнович исполнял обязанности начальника дороги, часто общался с высокопоставленными государственными служащими из Политбюро, ЦК КПСС и Правительства, обращая их внимание на необходимость развития железнодорожного транспорта в СССР[источник?]. С 1972 по 1976 год — начальник Южной железной дороги.
Работа в Министерстве путей сообщения:
В январе 1976 года назначен заместителем министра путей сообщения, а в январе 1977 года — первым заместителем министра с одновременным руководством Главным управлением движения поездов.
После выступления на ноябрьском (1981) Пленуме ЦК КПСС Генерального секретаря Андропова, в котором критически было оценено положение на железнодорожном транспорте, был снят с должности тогдашний министр путей сообщения Павловский, и в 1982 году Конарев назначен министром путей сообщения.
По инициативе Конарева, после проведённых испытаний, была увеличена загрузка товарных вагонов, что позволило значительно повысить эффективность перевозок грузов[источник?]. В 1988 году отрасль достигла наивысших показателей не только в стране, но и в мировой практике, превзойдя, к примеру, американские железные дороги по объёмам перевозок в 2 раза, по съёму продукции с 1 километра пути — в 5 раз[источник не указан 149 дней].
По инициативе Конарева и при его непосредственном участии в Харькове были построены[источник?]: метрополитен, спортивный дворец и плавательный комплекс олимпийского уровня, 40-километровая трамвайная линия в Салтовский жилой массив, восстановлен Кузинский путепровод, построены психоневрологический комплекс в Померках и хирургический комплекс в Залютино. Николай Семёнович — почётный гражданин Харькова.
Во время пребывания его на посту министра произошла серия масштабных железнодорожных катастроф, унесших тысячи жизней. Среди самых известных:
Крушение на станции Користовка — 1986 год
Крушение на станции Каменская — 1987 год
Арзамасская железнодорожная катастрофа — 1988 год
Крушение поезда «Аврора» (1988) — 1988 год
Железнодорожная катастрофа под Уфой — 1989 год
Всего с 1983 по 1991 год в СССР произошло свыше 40 крупных железнодорожных катастроф.
Деятельность после ухода с должности министра:
В феврале 1991 года написал на имя Президента СССР заявление об отставке, указав в нём на свое принципиальное неприятие многих аспектов проводившейся политики перестройки.
После ухода с должности министра, в начале 1990-х годов, Конарев создал транспортную корпорацию «Интертранс», стал её совладельцем и занял должность председателя. Оставался на этой должности до своей смерти.
Опубликовал более 50 научных трудов, в которых была разработана теория железнодорожных стыков, комплексная технология железнодорожных перевозок и другие[источник?].
В 2006 году фирменный поезд Харьков — Москва получил название Николай Конарев.
Умер 10 апреля 2007 года.