Идеи Вернадского, далеко опередившие время, могли бы долго ещё оставаться невостребованными, если бы не стремительно развивавшаяся в те же годы экология. Эта новая отрасль знания сосредоточила внимание учёных на структуре и функционировании не отдельных организмов, а биологических комплексов. И хотя первым понятие «экология» ввёл известный немецкий естествоиспытатель Эрнст Геккель для определения области биологии, изучающей взаимоотношения организмов со средой, до начала 1900-х годов этот термин почти не использовался.
Существенный вклад в становление новой науки внесли гидробиологи, что объяснимо: ведь объектом их изучения были водные организмы, которые невозможно рассматривать в отрыве от окружающей их физической среды.
Одним из первых в этом ряду был немецкий зоолог Карл Мёбиус. Изучая воспроизводство моллюсков на устричных отмелях Северного моря, он обосновал представление о биоценозе — внутренне связанном сообществе организмов, населяющих тот или иной однородный участок морского дна. Он отметил эволюционно сложившуюся жёсткую привязку отдельных видов не только друг к другу, но и к специфическим условиям местной среды (биотопу). Впоследствии понятие биоценоза было распространено на пресноводные и наземные сообщества — биоценоз пруда, озера; биоценоз берёзового леса и т. д.
В начале XX века вклад в исследования надорганизменного уровня внесли биологи самых разных направлений — ботаники, зоологи, гидробиологи, лесоведы. Удалось выявить некоторые общие закономерности, характерные для развития самых разных комплексов организмов (сообществ, биоценозов) в ходе взаимодействия с окружающей средой. К таковым, например, относится процесс сукцессии — закономерной стадийности развития экосистем.
Открытие сукцессии — заслуга двух американских ботаников. Первый из них, Генри Коулс, занимался изучением растительности на побережье озера Мичиган, которое на протяжении длительного периода мелело и отступало от берега. При этом он предположил, что возраст сообщества должен увеличиваться пропорционально удалению от кромки воды, и, таким образом, смог реконструировать ход всего процесса. Самые молодые, только что образовавшиеся дюны были заселены многолетними травами, укреплявшими своими корнями зыбучие пески. Затем на их месте появлялись злаки, вслед за ними — кустарники. А уже потом, на более старых и закреплённых дюнах, начинали расти деревья, причём в определённой последовательности: сначала сосны, через поколение сменявшиеся дубами и клёнами, и, наконец, на наибольшем удалении от берега появлялись буковые деревья — самые тенелюбивые для этой климатической зоны.
В 1916 году последователь Коулса Фредерик Клементс опубликовал классический труд «Растительная сукцессия». Он показал способность биоценозов приспосабливаться и эволюционировать в ходе изменений окружающей среды. Причём если на начальных этапах разные сообщества одной и той же местности могут сильно отличаться друг от друга, то на более поздних стадиях они становятся всё более и более схожими. В конце концов оказывается, что для каждой области с определённым климатом и почвой характерно только одно зрелое, или так называемое климаксовое, сообщество.
А ещё десять лет спустя, в 1927 году, в Англии вышла книга английского зоолога Чарльза Элтона «Экология животных». Она способствовала переключению внимания зоологов с отдельного организма на популяцию в целом как на самостоятельную единицу. Автор книги побывал в двух арктических экспедициях, и его внимание привлекли колебания численности мелких грызунов, повторявшиеся с периодом в три-четыре года. А обработав многолетние данные о заготовке пушнины в Северной Америке, он пришёл к выводу, что зайцы и рыси также демонстрируют циклические колебания, хотя пики численности у них наблюдаются примерно раз в 10 лет. В этом ставшем классическим труде впервые описана структура и распределение сообществ животных, а кроме того, введено понятие экологической ниши и сформулировано правило экологических пирамид — последовательного уменьшения численности организмов по мере перехода от нижних трофических уровней к высшим (от растений к травоядным животным, от травоядных к хищникам и т.д.).
В 20—30-е годы ХХ века началось внедрение в экологию точных методов исследования, у истоков которых стояли американский биофизик Альфред Лотка и итальянский математик Вито Вольтерра. В вышедшей в 1925 году книге «Элементы физической биологии» Лотка впервые предпринял попытку преобразования биологии в строго количественную науку. В частности, он разработал математические модели и расчёты межвидовых взаимодействий (например, модель, описывающую сопряжённую динамику численности хищника и жертвы), а также биогеохимических циклов. А в 1926 году Вольтерра разработал математическую модель конкуренции двух видов за один ресурс и показал невозможность их устойчивого длительного сосуществования.
Теоретические исследования, которые выполнили Лотка и Вольтерра, привлекли внимание молодого советского биолога Георгия Гаузе. Он предложил свою, более понятную биологам модификацию уравнений, описывающих процессы межвидовой конкуренции. Экспериментальная проверка этих моделей на лабораторных культурах бактерий и простейших показала, что сосуществование видов возможно, если они занимают разные экологические ниши. В противном случае один из конкурирующих за ту же нишу видов неизбежно вытесняется другим (закон конкурентного исключения). Работы Гаузе вошли в опубликованную в 1934 году в США книгу «Борьба за существование» (в России она увидела свет лишь семь десятилетий спустя) и внесли весомый вклад в появление концепции экосистемы.
Виктор Данилов-Данильян, Игорь Рейф. Траектория экологической мысли. На пути к современному пониманию биосферы