Архив создан во исполнение решения Исполкома Московского городского Совета депутатов трудящихся от 18.07.1966 № 26/42 «О создании объединенных архивов при главных управлениях и отделах Исполкома Московского Совета» и до 2015 года находился в ведомственном подчинении Московского городского отдела народного образования, Главного управления народного образования Мосгорисполкома, Комитета образования города Москвы, Департамента образования города Москвы.

В 2015 году в соответствии с распоряжением Правительства Москвы от 09.06.2015 № 214-РП «Об изменении ведомственного подчинения Государственного казенного учреждения города Москвы Центрального объединенного архива учреждений системы образования» архив передан в ведомственное подчинение Главного архивного управления города Москвы.

В 2017 году Государственное казенное учреждение города Москвы Центральный объединенный архив учреждений системы образования переименовано в Государственное казенное учреждение города Москвы «Центральный объединенный архив города Москвы» (приказ Главархива Москвы от 01.06.2017 № 102), в ходе реорганизации к нему присоединено Государственное казенное учреждение города Москвы «Объединенный архив ЖКХиБ» (приказ Главархива Москвы от 03.07.2017 № 115).

В соответствии с уставом учреждения, целями его деятельности являются осуществление мероприятий по хранению, учету, комплектованию, созданию справочно-поисковых систем и использованию относящихся к собственности субъекта Российской Федерации – города Москвы архивных документов по личному составу, образовавшимися в процессе деятельности государственных образовательных учреждений города Москвы, государственных учреждений жилищно-коммунального хозяйства города Москвы.