Сергей Александрович Ефремов родился 6 октября 1876 года в селе Пальчик Звенигородского уезда на Киевщине, в семье священника. К духовному сословию во многих поколениях относились его предки из рода Охрименко. Их фамилия в официальных документах середины XIX века была русифицирована в Ефремовых. Пять лет проучился Сергей в Уманском духовном училище, в 1891 году приехал в Киев и поступил в духовную семинарию. Оказавшись в большом городе, впечатлительный и остро ощущавший царившую в стране социальную несправедливость, юноша погружается в гущу идейно-политической жизни, отмеченной острой полемикой между сторонникам народнической и марксистской идеологий.
Под влиянием видного теоретика того времени Н. К. Михайловского Сергей Ефремов склоняется к либерально-народническому, близкому его самоощущению, мировоззрению и не воспринимает марксистских идейных построений. Еще семинаристом он стал активным членом украинского кружка Л. Скачковского, будущего дьяка Иорданской церкви на Подоле. Благодаря Скачковскому юноша познакомился с уже немолодыми лидерами киевской «Старой громады» В. Б. Антоновичем и А. Я. Конисским, а также с представителями национально ориентированной творческой молодежи Киева, в частности с Михаилом Грушевским.
В 1893 году С. А. Ефремов начал писать рассказы в народническом духе на украинском языке, которые с 1895 года печатались во Львове. Постепенно он становится заметной фигурой в национально-культурных кругах Киева. В 1896 году за участие в украинском общественном движении, преследуемом властями, юноша был вынужден оставить семинарию. Через год, сдав экстерном выпускные экзамены в Первой киевской гимназии, С. А. Ефремов поступил на юридический факультет Киевского университета.
Обучение в университете св. Владимира молодой литератор сочетал с общественно-просветительской работой. К тому же, как вскоре выяснилось, к правоведению он не испытывал никакого внутреннего тяготения.
В первые годы XX века С. А. Ефремов вместе с другими молодыми украинскими деятелями выступил соучредителем издательства «Век». Целью издательства была организация многотиражного издания и распространение украинской художественной литературы, прежде всего произведений украинских классиков И. Котляревского и Т. Шевченко. В 1902 году издательство выпустило составленную С. А. Ефремовым трехтомную антологию украинской литературы XIX века с многочисленными биографическими справками о писателях, произведения которых сюда вошли.
С публикации этого трехтомника началась систематическая научно-исследовательская работа Сергея Александровича над историей украинской литературы. Закончив в 1901 году университет и никогда более не вспоминая о полученном дипломе юриста, С. А. Ефремов всецело посвятил себя литературоведческой и публицистической деятельности. Он много печатался в авторитетном историко-культурологическом журнале «Киевская старина», в «Киевских откликах», «Лiтературно-науковому вiснику», «Записках НТШ», «Русском богатстве».
Считая главным призванием художника служение народу, С. А. Ефремов выступает за реалистическую литературу, критически относясь к новомодным в то время модернистским течениям, в том числе и к набиравшему силы символизму, видя в них оторванные от жизни интеллигентски-снобистские направления.
Ефремову всегда было присуще скептическое отношение к приходившим с Запада веяниям, будь то декаданс или марксизм, о чем он во всеуслышанье заявил в своей программной статье «В поисках новой красоты» (1902). Подобная позиция осложнила его отношения с такими украинскими поэтами и писателями, как И. Я. Франко, Леся Украинка и О. Ю. Кобылянская, творчество которых развивалось в русле общеевропейского литературного процесса.
Сложный, настойчивый, принципиальный характер С. А. Ефремова не способствовал установлению теплых отношений с другими, достаточно амбициозными лидерами украинского движения начала XX века, в частности с М. С. Грушевским и В. К. Винниченко. Органически не воспринимая марксистский космополитизм, Ефремов подозрительно относился к социал-демократической ориентации сформированной в 1900–1902 годах Революционной украинской партии (РУП) и, тем более, к вскоре созданной на основе ее ведущего ядра Украинской социал-демократической рабочей партии (УСДРП), возглавленной В. К. Винниченко, Д. В. Антоновичем и Н. В. Поршем. Но, следуя их примеру, С. А. Ефремов сам начинает заниматься «партийным строительством» и выступает одним из основателей созданной осенью 1904 года мало заметной Украинской демократической партии (УДП). Эта партия быстро раскололась на умеренную Украинскую демократическую и левую. Украинскую радикальную (с которой остался и Ефремов) партии, осенью 1905 года объединившиеся на платформе борьбы за широкую украинскую автономию в границах обновленной демократической федеративной России.
Во время революции 1905 года С. А. Ефремов развернул широкую публицистическую работу. Он опубликовал несколько брошюр для народного чтения, входил в состав редколлегии украиноязычного журнала «Общественная мысль». Арестованный в конце декабря 1905 года за национально-политическую деятельность, Сергей Александрович почти год провел в киевской Лукьяновской тюрьме. После освобождения, в период спада революционного энтузиазма в обществе, он продолжал выступать с публицистическими статьями по украинскому вопросу, редактировал большую часть книг, издаваемых издательством «Век», сопровождая их биографическими статьями об авторах.
Но основным занятием Сергея Александровича постепенно становится историко-литературная работа. В годы, последовавшие после поражения Первой русской революции, он являлся активным членом основанного в 1908 году Общества украинских прогрессистов (Товариства українських поступовців — ТУП), сплотившего ведущих представителей творческой интеллигенции Киева, а также других украинских культурно-общественных организаций. Кроме многочисленных статей в украинской и русской периодике на украинском языке выходят его литературоведческие книги «Шевченко и украинская литература» (1907), «Марко Вовчок» (1907), «Тарас Шевченко, его жизнь и дела» (1908), а также брошюры по общественно-политическим вопросам: «Еврейское дело на Украине» (1908), «Из общественной жизни на Украине» (1909) и другие.
В 1911 году в Киеве был издан фундаментальный труд С. А. Ефремова «История украинской литературы», в дальнейшем неоднократно переиздававшийся. В этом исследовании впервые был собран, упорядочен и обобщен колоссальный разноплановый материал, осмысленный, однако, уже в несколько старомодном для начала XX века народническом идейном контексте.
Основным содержанием украинского литературного процесса исследователь считал раскрытие национально-освободительных идей, основываясь на принципе народности. Этим обусловлена его недооценка самобытного значения украинской литературы эпохи барокко и модернистских течений рубежа XIX–XX веков. В целом эту книгу украинская общественность восприняла одобрительно, хотя не обошлось и без полемических откликов, один из которых принадлежал историку Д. И. Дорошенко.
За этой обобщающей работой последовали новые литературоведческие монографии, написанные в том же народническом духе: «Шевченко» (1914), «Борис Гринченко» (1913), посвященная И. Я. Франко книга «Певец борьбы и контрастов» (1913), литературоведческий обзор «За год 1912» (1913). Эти издания закрепили за С. А. Ефремовым позиции ведущего историка украинской литературы. Можно смело утверждать, что он разработал базовую концепцию развития истории украинской литературы, принципиально пересмотренную лишь три десятилетия спустя группой украинских ученых в эмиграции, прежде всего Д. И. Чижевским.
С началом Первой мировой войны публиковаться на украинском языке стало чрезвычайно трудно, поскольку большинство украинских журналов и газет были закрыты по подозрению в нелояльности. С. А. Ефремов оказался в затруднительном материальном положении. Войну он воспринимал как трагедию украинского народа, разделенного между двумя враждующими империями и не имеющего в ней собственных интересов. При этом литературовед остро и справедливо осуждал грубую украинофобскую, русификаторскую политику российской военной администрации на оккупированных западноукраинских землях. Эта бездумная политика борьбы со всем украинским и репрессий по отношению к греко-католическому духовенству имела далеко идущие негативные последствия, надолго восстановив против России широкие круги галицийской общественности, до того времени весьма дружественно настроенные по отношению к ней.