В процессе эволюции закономерным является как возникновение новых структур, так и их исчезновение. В основе лежит принцип дифференциации, проявляющийся на фоне первичной полифункциональности и способности функций изменяться количественно. Любая структура при этом возникает на основе предшествующих структур вне зависимости от того, на каком уровне организации живого осуществляется процесс филогенеза. Так, известно, что около 1 млрд. лет назад исходный белок глобин вслед за дупликацией исходного гена дифференцировался на мио- и гемоглобин — белки, входящие в состав соответственно мышечных и кровяных клеток и дифференцировавшиеся в связи с этим по функциям. В филогенезе центральной нервной системы хордовых также можно видеть дифференцировку и смену функций структур: головной мозг формируется из переднего конца нервной трубки. Таким же образом новые биологические виды образуются в виде изолированных популяций исходных видов, а новые биогеоценозы — за счет дифференцировки предсуществующих.

В связи с тем что ниже будут рассмотрены филогенезы конкретных систем органов, подробнее остановимся на закономерностях возникновения и исчезновения органов. Примером возникновения органов служит происхождение матки плацентарных млекопитающих от парных яйцеводов. При удлинении эмбрионального развития млекопитающих возникает необходимость более длительной задержки зародыша в организме матери. Это может осуществляться только в каудальных отделах яйцеводов, полость которых при этом увеличивается, а стенка дифференцируется таким образом, что к ней прикрепляется плацента, обеспечивающая взаимосвязь организма матери и плода. В процессе естественного отбора сохранялись и успешно размножались в первую очередь те млекопитающие, в организмах самок которых потомство развивалось наиболее долго. В итоге возник новый орган — матка, обеспечивающий зародышу оптимальные условия внутриутробного развития и повышающий выживаемость соответствующих видов.

В возникновении такого более сложного и специализированного органа, как глаз, наблюдаются те же закономерности. В основе формирования органа зрения, как и всех органов чувств, лежат клетки кожного эпителия, среди которых дифференцируются и рецепторные, в частности светочувствительные. Объединение их в группы приводит к возникновению примитивных обособленных органов зрения, позволяющих животным лишь оценивать освещенность. Погружение такого светочувствительного органа под кожу обеспечивает сохранность нежных клеток, но при этом зрительная функция может осуществляться только благодаря возникновению прозрачности покровов. Чувствительность к свету примитивного органа зрения усиливается при утолщении прозрачных покровов и приобретении ими способностей преломлять свет и фокусировать его лучи на чувствительных клетках глаза. Сложный орган требует вспомогательного аппарата — защитных структур, мышц, приводящих его в движение, и т.д. Возросший уровень сложности организации глаза с необходимостью сопровождается усложнением регуляции его функций, что и выражается в усилении его интеграции как целостной системы.

Исчезновение, или редукция, органа в филогенезе может быть связана с тремя разными причинами и имеет различные механизмы. Во-первых, орган, выполнявший ранее важные функции, может оказаться в новых условиях вредным. Против него срабатывает естественный отбор, и орган довольно быстро может полностью исчезнуть. Примеров такого прямого исчезновения органов немного. Так, многие насекомые малых океанических островов бескрылы вследствие постоянной элиминации из их популяций летающих особей ветром. Чаще наблюдается исчезновение органов благодаря их субституции новыми структурами, выполняющими прежние функции с большей интенсивностью. Так исчезают, например, у пресмыкающихся и млекопитающих предпочки и первичные почки, заменяясь функционально вторичными почками. Таким же образом у рыб и земноводных происходит вытеснение хорды позвоночником.

Самый частый путь к исчезновению органов — через постепенное ослабление их функций. Такие ситуации возникают обычно при изменении условий существования. Орган, почти не выполняющий функций, выходит из-под контроля естественного отбора и проявляет обычно повышенную изменчивость. Возникающие изменения вызывают нарушение коррелятивных связей с другими частями организма. Благодаря этому такой орган зачастую становится вредным и против него начинает действовать естественный отбор.

В медицинской практике широко известно, что рудиментарные органы и у человека характеризуются широкой изменчивостью. Третьи большие коренные зубы, или «зубы мудрости», например, характеризуются не только значительной вариабельностью строения и размеров, но и разными сроками прорезывания, а также особой подверженностью кариесу. Иногда они вообще не прорезываются, а нередко, прорезавшись, в течение ближайших лет полностью разрушаются. То же касается и червеобразного отростка слепой кишки (аппендикса), который в норме может иметь длину от 2 до 20 см и быть расположенным по-разному (за брюшиной, на длинной брыжейке, позади слепой кишки и т.д.). Кроме того, воспаление аппендикса (аппендицит) встречается значительно чаще, чем воспалительные процессы в других отделах кишечника.

Процесс редукции органа противоположен по отношению к его нормальному морфогенезу. Прежде всего выпадают закладки таких частей органа, которые в норме формируются последними. При недоразвитии конечностей у человека обычно в первую очередь недоразвиваются фаланги I и V пальцев, закладывающиеся последними. У китообразных, совершенно лишенных задних конечностей благодаря ослаблению их функций в филогенезе, все же остаются закладки элементов тазового пояса, формирующиеся в процессе морфогенеза наиболее рано.

Исследования генетических основ редукции органов показали, что структурные гены, регулирующие морфогенез, не исчезают, в то время как существенным изменениям подвергаются гены, регулирующие время закладки рудиментарных органов, либо гены, ответственные за феномен индукционных взаимодействий в развивающемся зародыше. Действительно, при пересадках мезодермального материала дна ротовой полости зародыша ящерицы в ротовую полость развивающегося цыпленка возможно формирование у последнего зубов типичного строения, а пересадка кожной мезодермы ящерицы под эпидермис спины цыпленка приводит к формированию в нем типичных роговых чешуи вместо перьев.

Недоразвившиеся органы носят название рудиментарных или рудиментов. К рудиментам у человека относят, во-первых, структуры, потерявшие свои функции в постнатальном онтогенезе, но сохраняющиеся и после рождения (волосяной покров, мышцы ушной раковины, копчик, аппендикс как пищеварительный орган), и, во-вторых, органы, сохраняющиеся только в эмбриональном периоде онтогенеза (хорда, хрящевые жаберные дуги, правая дуга аорты, шейные ребра и др.).

Крайне редко редукция органов оказывается настолько полной, что от них не остается даже эмбриональных закладок. Примером такого полного исчезновения органов является редукция парных конечностей у большинства змей. Обычно же эмбриональные закладки органов, выполнявших серьезные функции даже у весьма отдаленных предков и давно утративших свое значение в постнатальном онтогенезе, продолжают развиваться у потомков в эмбриогенезе неопределенно долгое время. В первую очередь это относится к органам, связанным тесными морфогенетическими корреляциями с другими зачатками в зародышевом развитии. Так, хорда у всех позвоночных выполняет роль организационного центра, под контролем которого развиваются нервная трубка, позвоночник и дифференцируются сомиты. Нарушение развития даже участка хорды влечет за собой грубые пороки развития соответствующих структур.

Не менее тесными взаимными связями характеризуются элементы мочеполовой системы позвоночных. Так, мочеточники, связывающие нефроны предпочки с внешней средой у круглоротых, преобразуются у рыб и более высокоорганизованных классов позвоночных в два мочеполовых протока, выполняющих разные функции, а рудиментирующиеся нефроны первичной почки у пресмыкающихся и млекопитающих стимулируют развитие вторичной почки.