Изучение сообществ потребовало разработки методов количественного учета, оценки соотношений видов в биоценозах. Впервые это было сделано гидробиологами для планктона (Гензен, 1887), а затем – для донной фауны. В начале XX в. количественные методы учета стали применять и к наземной фауне.
Особое место в биоценотических исследованиях заняло изучение растительного покрова. Изучая вслед за А. Гумбольдтом закономерности распределения растений по климатическим зонам, ботаники стали более подробно связывать набор видов и их облик с условиями местообитаний. В 90-х годах появилась сводка датского ботаника Е. Варминга «Ойкологическая география растений», развивавшего представления о жизненных формах видов и типах растительного покрова. В то же время оформляется учение о растительных сообществах – фитоценозах, которое вскоре обособилось в отдельную область ботанической экологии. Большую роль в этом сыграли труды российских ученых С. И. Коржинского и И. К. Пачосского, назвавшего новую науку «фитосоциологией». Среди западных ботаников ее развитию способствовали работы А. Кернера, А. Гризебаха и др. Позднее учение о фитоценозах трансформировалось в фитоценологию и геоботанику. На примере растений были вскрыты многие принципы организации сообществ. Американский ботаник Ф. Клементс в 1910–1911 гг. разработал концепцию динамики фитоценозов, ставшую основой дальнейших представлений о законах формирования и развития сообществ.
Для развития идей общей биоценологии в первой половине XX в. большое значение имели в нашей стране фитоценологические исследования Г. Ф. Морозова, В. Н. Сукачева, Б. А. Келлера, Л. Г. Раменского, В. В. Алехина, А. П. Шенникова и др., за рубежом – К. Раункиера в Дании, Г. Дю Рие в Швеции, И. Браун-Бланке в Швейцарии. Были созданы разнообразные системы классификации растительности на основе морфологических (физиономических), эколого-морфологических, динамических и других особенностей сообществ, разработаны представления об экологических индикаторах, изучены структура, продуктивность, динамические связи фитоценозов.
В 20-е годы начала оформляться новая область экологической науки – популяционная экология. Истоки этого направления – в демографии, описаниях роста народонаселения (популюс– народ). Внимание к проблеме увеличения численности людей привлек еще в конце XVIII в. английский пастор Т. Мальтус, указавший на геометрический характер этого роста. Он считал, что со временем в связи с этим человечеству могут грозить различные беды. Бельгийский математик П. Ф. Ферхюльст в 1838 г. вывел так называемую логистическую формулу, демонстрирующую замедление роста народонаселения при высокой плотности. В 20-х годах XX в. ее переоткрыл американец Р. Перл. В этот период повысилось внимание к поиску закономерностей в изменениях численности видов. Во многом этому способствовали запросы практики – острая необходимость разработки основ борьбы с видами-вредителями и видами-конкурентами в сельском и лесном хозяйстве, истощение запасов ряда ценных промысловых животных, открытие роли некоторых диких животных в распространении паразитов и возбудителей болезней человека и домашнего скота. Представления о популяциях стали особенно энергично развиваться в экологии после того, как оформилась популяционная генетика, а в систематике вид стали рассматривать как сложную популяционную систему. Большую роль в развитии популяционной экологии сыграли работы английского ученого Ч. Элтона (1900–1991). В своей книге «Экология животных» (1927) Элтон рассматривает популяцию как единицу, которую следует изучать самостоятельно, так как на этом уровне выделяются свои особенности экологических адаптаций и регуляций. Центральными проблемами популяционной экологии стали проблемы внутривидовой организации и динамики численности видов.
Таким образом, в экологии началось исследование еще одного типа надорганизменных систем – популяций.
В дальнейшем в развитие популяционной экологии в нашей стране большой вклад внесли С. А. Северцов, Н. П. Наумов, С. С. Шварц, Г. А. Викторов, работы и школы которых во многом определяют современное состояние науки в этой области.
Начало исследований популяций у растений было положено трудами Е. Н. Синской (школа Н. И. Вавилова), много сделавшей по выяснению экологического и географического полиморфизма видов. Ряд вопросов популяционной экологии растений были разработаны в трудах Т. А. Работнова, А. А. Уранова и их последователей.
Изучение популяционных закономерностей по-новому помогло осознать роль видов в биоценозах, структурную организацию сообществ. Возникла плодотворная концепция «экологических ниш», тесно связывающая экологические и эволюционные вопросы. В ее разработке важная заслуга принадлежит западным ученым Дж. Гриннеллу, Ч. Т. Элтону, Р. Макартуру, Д. Хатчинсону и российскому исследователю Г. Ф. Гаузе.
Параллельно развиваются и другие области экологии, тесно связывающие эту науку с традиционными областями биологии. В развитие морфологической и эволюционной экологии животных большой вклад внес М.С.Гиляров, рассматривавший почву как особую среду обитания и ее роль в завоевании членистоногими суши. Проблемы эволюционной экологии позвоночных животных нашли отражение в трудах С. С. Шварца. Возникла палеоэкология, задачи которой – восстановление картины образа жизни вымерших форм и оценка экологических факторов эволюции.
С начала 40-х годов в экологии сложился принципиально новый подход к исследованию природы. Основы его были заложены еще ранее в трудах целого ряда ученых, среди которых следует особо отметить В. В. Докучаева. В конце XIX в. В. В. Докучаев обосновал представление о почве как о сложной природной системе, которая создана и поддерживается комплексом факторов. В ее формировании принимают участие горные породы, вода, атмосфера, климат и многочисленные и разнообразные живые организмы. С этих пор начинаются исследования природных систем с точки зрения единства живой и неживой природы. В гидробиологии для озер даже был предложен специальный термин «микрокосм». Геоботаники, изучая растительные сообщества, часто использовали термин «биоценоз» в расширительном смысле, подразумевая под этим не только живые организмы, но и их абиотическое окружение.
В 1935 г. английский ботаник А. Тенсли выдвинул понятие экосистемы, а в 1942 г. В. Н. Сукачев обосновал представление о биогеоценозе. В этих понятиях нашла отражение идея о единстве совокупности организмов с абиотическим окружением, о закономерностях, которые лежат в основе связи всего сообщества и окружающей неорганической среды – о круговороте веществ и превращениях энергии. Однако точные количественные методы для оценки этих процессов применить еще не удавалось. Основное внимание привлекали процессы создания биологической продукции. Пионерами изучения продуктивности экосистем выступили лимнологи (гидробиологи, изучающие озера). Уже в середине 30-х годов гидробиологи русской школы (С. В. Ивлев, С. А. Зернов, Г. Г. Винберг и др.) разрабатывали методы учета продуктивности планктона и бентоса и производили расчеты для целостных систем отдельных озер. Во многом опираясь на эти работы и достижения других исследователей, молодой американский ученый Р. Линдеман опубликовал в 1942 г. статью с изложением основных принципов расчета энергетического баланса экологических систем. С этого периода стали принципиально возможными расчеты и прогнозирование предельной продуктивности биоценозов в конкретных условиях среды.
В разработке теоретических основ биологической продуктивности начиная с 50-х годов принимают участие многие экологи, из которых особенно велики заслуги Г. Одума и Ю. Одума, Р. Уиттекера, Р. Маргалефа и других ученых. В нашей стране это направление наиболее успешно развивается в трудах гидробиологов и геоботаников.
Развитие экосистемного анализа привело к возрождению на новой экологической основе учения о биосфере, принадлежащего крупнейшему естествоиспытателю XX в. В. И. Вернадскому (1863–1945), который в своих идеях намного опередил современную ему науку. Биосфера предстала как глобальная экосистема, стабильность и функционирование которой основаны на экологических законах обеспечения баланса веществ и энергии.