Крымская война разрушила миф о непобедимости русской армии. В июне 1855 г. главнокомандующий гвардейскими и гренадерскими корпусами генерал Ф. Ридигер в записке Александру II показывал причины слабости армии: слепое исполнение приказов, превращающие воинов в бездумных марионеток, что в конце концов привело к вырождению армейского офицерства. В другой записке он предлагал отказаться от чрезмерной централизации руководства армией, изменить всю систему обучения войск, переработав все уставы и предусмотрев одиночное обучение солдат, повысить уровень подготовки офицеров и т. д. Большим недостатком было сохранение устаревшей рекрутской системы с пожизненным сроком службы, что вынуждало Россию в мирное время держать многочисленную армию и в то же время не было возможности увеличения её численности в случае войны из-за отсутствия подготовленного резерва. Тогда как прусская армия могла увеличиться в 3,4 раза, австрийская – в 2,2 раза, французская – в 2 раза.
Проведению военной реформы противились старые николаевские кадры – военные министры В. Долгоруков и Н. Сухозанет. Помехой было и отсутствие нормальной транспортной системы (железных дорог, шоссе, парового флота), без которой нельзя было провести быструю мобилизацию подготовленного резерва и приходилось держать вблизи границы постоянную армию. В 1861 г. военным министром стал Д. Милютин, брат одного из главных деятелей освобождения крестьян и военная реформа сдвинулась с мёртвой точки.
К 1867 г. Д. Милютину удалось сократить численность армии с 1132 тысяч в 1864 г. до 742 тысяч. Запас обученных кадров к 1870 г. достиг 553 тысяч человек. Была проведена децентрализация управления армией, произошло сокращение штатов Военного министерства. В начале 1870-х гг. началась борьба за реорганизацию принципов комплектования армии. По новому Уставу о воинской повинности 1874 г. все лица мужского пола с 21 года до 40 лет состояли в одном из 4 разрядов (регулярная армия и флот, иррегулярные войска, запасные войска и ополчение). Зачисление на действительную службу или сразу в ополчение решалось жребием. Единственный сын или внук освобождался от жеребьёвки, студенты получали отсрочку, а после окончания вуза шли служить на сокращённый срок вольноопределяющимися с правом сдачи экзамена на офицерский чин. Срок службы устанавливался в 10 лет,