Деятельность Константина Петровича не проходит мимо внимания императора Александра II.
В 1857 году Кауфману объявляется Монаршее благоволение за отличное исполнение обязанностей в комитете, учрежденном «для составления предположений о преобразовании заведений военных кантонистов в училища военного ведомства». А еще через год его можно видеть в свите Его Императорского Величества.
30 августа 1861 г. Кауфман становится директором канцелярии военного министерства, во главе которой прослужил четыре года. Это было время реформ. У руля Военного министерства стоял выдающийся сподвижник Александра II, горячий приверженец преобразования русской армии, военный историк и теоретик, учёный, писатель Дмитрий Алексеевич Милютин. В лице Кауфмана, военный министр нашёл активного сторонника своих идей.
Результаты реформы впечатляли: были созданы военные округа, началось перевооружение армии, была введена всеобщая воинская повинность и система призыва резервистов, изменена система боевой подготовки солдат. Срок воинской службы сократился с 25 до 16 лет, ввели обучение рядовых грамоте и ликвидировали существовавший порядок физического наказания нижних чинов. Началось перевооружение армии и флота современными образцами оружия и техники. Учреждены были и новые военные учебные заведения, заложены основы новых наук – военной статистики и военной географии. В результате через полтора десятка лет, новая русская армия блистательно показала себя в Русско-турецкой войне.
Этот славный период жизни Константина Петровича, принёс ему чин генерал-лейтенанта и звание генерал-адъютанта.
В 1865 году К. П. фон-Кауфман назначается виленским генерал-губернатором. Узнав о назначении своего товарища, Милютин, в письме к нему, пишет: «Приношу Вам глубокую, от всей души моей благодарность за те четыре года, которые мы прослужили вместе; за деятельное, смею сказать, дружеское содействие, которое я нашёл в Вас в продолжение этих многотрудных годов. Поверьте, что я во всю жизнь не забуду этой помощи, Вами оказанной…».
Однако, период виленского губернаторства оказался для Кауфмана, драматическим и чуть было не поставил крест на его карьере.
Константин Петрович принял край от графа М. Н. Муравьёва, который только недавно усмирил огнём и мечом польское восстание. На долю Кауфмана выпала роль умиротворителя в разорённой и ослабленной мятежом Виленщине.
Задачу эту Константин Петрович начал выполнять с присущем ему тактом, но и достаточно твёрдо. В результате ему удалось выявить одного из главных руководителей восстания, который преспокойно проживал в Петербурге, и даже занимал важный пост. Его имя было Иосафат Огрызко. Кауфман пытаясь привлечь его к суду, встретил ожесточённое сопротивление со стороны графа П. А. Шувалова – весьма могущественного шефа жандармов и главного начальника III-го отделения Собственной Его Императорского Величества Канцелярии. Объяснялось это тем, что шеф жандармов, будучи сам