После Воронежа – Петербург. 1 сентября 1879 года Каледин зачислен юнкером во 2-е военное Константиновское училище. Два года учился там, потом прошел еще годичный курс в Михайловском артиллерийском училище. По окончании учебы 7 августа 1882 года определен сотником в конноартиллерийскую батарею Забайкальского казачьего войска (чин сотника в казачьих войсках соответствовал армейскому чину поручика). В Забайкалье прослужил несколько лет и был вновь направлен в Петербург на учебу. В подъесаулы (чин соответствует штабс-капитану) произведен в 1889 году, во время обучения в Николаевской академии Генерального штаба. В том же году, как окончивший Академию по первому разряду, причислен к Генштабу и отныне именуется армейским чином с прибавлением: Генерального штаба штабс-капитан (через два года уже капитан). Следующие шесть лет служил в Варшавском военном округе, по большей части в штабах. В 1895 году переведен на родину, на Дон: старшим адъютантом войскового штаба Войска Донского. Там же получил погоны подполковника, затем полковника. В 1900–1903 годах служил в управлении пехотной бригады. В 1903 году был назначен начальником Новочеркасского казачьего юнкерского училища – три года готовил офицеров для будущих войн, мировой и Гражданской… С 1906 по 1910 год снова на штабной работе: помощник начальника войскового штаба войска Донского – то есть ответственный за всю нудную канцелярскую рутину. Исполнительность и педантизм пригодились: в 1907 году произведен в генерал-майоры за отличие. В 1910 году, на пороге пятидесятилетия, – назначение в строй: получил бригаду. В декабре 1912 года назначен начальником 12-й кавалерийской дивизии. 14 апреля 1913 года произведен в генерал-лейтенанты.
Удачная карьера образцового службиста. Служба не боевая и в основном не строевая, а административно-штабная. В ней нет ничего интересного, ни одного яркого пятна. Молчаливый человек неспешно поднимается по ступеням чинов.
У него, правда, нет детей – для природного казака это, конечно, горе.
Личная и семейная жизнь Каледина – тайна за семью печатями. Известно только, что с будущей своей женой, Марией Гранжан (урожденной Ионер), гражданкой Швейцарии, он познакомился во время службы в Варшавском округе. Венчались они уже в Новочеркасске в 1895 году. На одной из немногих сохранившихся их совместных фотографий – пышнотелая дама скорее еврейского, нежели французского типа, в темном бархатном платье, в очках со шнурком; рядом с ней высокий молодцеватый темноусый офицер с погонами полковника. Стало быть, фотография сделана не ранее