Сталина его ближайшие соратники делят власть. Хрущёву достаётся партия, Маленкову – правительство Совет Министров СССР, Берии – министерство внутренних дел, а Булганину – вооружённые силы. Создаётся новое министерство Обороны, куда входят министерство Вооружённых Сил и министерство ВМФ, министром которого назначается Булганин, а его первым заместителем – Василевский. 15 марта 1956 года по просьбе Василевского он освобождается от этой должности. 14 августа 1956 Василевского назначают заместителем министра обороны по науке. 8 декабря 1958 уволен в отставку по болезни. Но в январе 1959 его назначают генеральным инспектором группы генеральных инспекторов. На этой должности Василевский находится до своей смерти 5-го декабря 1977 года. Высшие награды: две Золотые Звезды Героя Советского Союза, два ордена «Победа», восемь орденов Ленина (на два ордена больше, чем у Жукова), два ордена Красного Знамени, орден Суворова 1-ой степени.