В последние десятилетия развивается представление о том, что материи изначально присуща тенденция не только к разрушению упорядоченности и возврату к исходному хаосу, но и к образованию все более сложных и упорядоченных систем разного уровня. Представление о разрушительной тенденции материи сформировалось в результате развития двух отраслей классической физики – статистической механики и термодинамики, – которые описывают поведение изолированных (замкнутых) систем, т. е. систем не обменивающихся ни энергией, ни веществом с окружающей средой. При этом особая роль принадлежит второму началу термодинамики, определяющему необратимость процессов преобразования энергии в замкнутой системе.

Такие процессы рано или поздно приводят систему к ее самому простому состоянию – термодинамическому равновесию, которое эквивалентно хаосу, когда отсутствует какая-либо упорядоченность и все виды энергии переходят в тепловую, в среднем равномерно распределенную между всеми элементами системы. В прошлом обсуждалась возможность приложения второго начала термодинамики ко Вселенной, которая полагалась замкнутой системой. Из этого следовал вывод о деградации Вселенной – ее тепловой смерти.

Известно, что все реальные системы, от самых малых до самых больших, являются открытыми, т. е. Они обмениваются энергией и веществом с окружающей средой и не находятся в состоянии термодинамического равновесия. В таких системах возможно образование нарастающей упорядоченности. На данной основе возникло представление о самоорганизации вещественных систем.
Самоорганизацией принято называть природные скачкообразные процессы, переводящие открытую неравновесную систему, достигшую в своем развитии критического состояния, в новое устойчивое состояние с более высоким уровнем сложности и упорядоченности по сравнению с исходным. Критическое состояние характеризуется крайней неустойчивостью, которой завершается плавное эволюционное развитие открытой неравновесной системы.

В последние десятилетия исследования процессов самоорганизации производятся в трех направлениях: синергетика, термодинамика неравновесных процессов и математическая теория катастроф.

Синергетика изучает связи между элементами (подсистемами) структуры, которые образуются в открытых системах (биологических, физико-химических и др.) благодаря интенсивному обмену веществом и энергией с окружающей средой в неравновесных условиях. В таких системах наблюдается согласованное поведение подсистем, в результате чего возрастает степень упорядоченности, т. е. уменьшается энтропия. Основа синергетики – термодинамика неравновесных процессов, теория случайных процессов, теория нелинейных колебаний и волн. Объект изучения синергетики, независимо от его природы, должен удовлетворять трем условиям: открытость, существенная неравновесность и скачкообразный выход из критического состояния.

Открытость означает незамкнутость системы, для которой возможен обмен энергией и веществом с окружающей средой. Существенная неравновесность приводит к критическому состоянию, сопровождающемуся потерей устойчивости. В результате скачкообразного выхода из критического состояния образуется качественно новое состояние с более высоким уровнем упорядоченности. Примером самоорганизующейся системы может служить оптический квантовый генератор – лазер. При его работе соблюдаются три перечисленные условия: открытость системы, снабжаемой извне энергией, ее сугубая неравновесность, достижение критического уровня накачки, при котором возникает упорядоченное, монохроматическое излучение.

«Повсюду, куда ни посмотри, обнаруживается эволюция, разнообразие форм и неустойчивости. Интересно отметить что такая картина наблюдается на всех уровнях – в области элементарных частиц, в биологии, в астрофизике», – так считает один из основоположников термодинамики неравновесных процессов, лауреат Нобелевской премии 1977 г. бельгийский физик и физикохимик И.Л. Пригожий (р. 1917).

Сложная неравновесная система может перейти из неустойчивого в одно из нескольких дискретных устойчивых состояний. В какое именно из них совершится переход – дело случая. В системе, пребывающей в критическом состоянии, развиваются сильные флуктуации, при одной из которых инициируется скачок в конкретное устойчивое состояние. Процесс скачка однообразный и необратимый. Критическое значение параметров системы, при которых возможен переход в новое состояние, называется точкой бифуркации.

Самоорганизация систем в биологии и не только, включает случайное и закономерное в развитии любых систем, в котором можно выделить две фазы: плавную эволюцию, ход которой достаточно закономерен и детерминирован, и скачок в точке бифуркации, протекающий случайно и поэтому случайно определяющий последующий закономерный эволюционный этап вплоть до следующего скачка в точке бифуркации. Прямое отношение к концепции самоорганизации имеет математическая теория катастроф, описывающая различные скачкообразные переходы, спонтанные качественные изменения и т. п. В теории катастроф применяется довольно сложный математический аппарат – топологическая теория динамических систем.