В 1328 году ярлык на великое княжение получил сын московского князя Даниила Иван Калита. Сумев наладить мирные отношения с ханом, он добился права собирать дань со всех русских земель. На сорок лет прекратились татарские набеги на Русь. Московский князь обложил страну удвоенной данью, часть которой утаивал от хана. Видимо, отсюда его прозвище «калита», что означает «сумка, денежный мешок».
Для истории Москвы и Кремля особенно важен тот факт, что, получив ярлык, Иван Калита не переехал в стольный Владимир, как делали другие князья, а остался в Москве, расширял свое княжество, подчиняя и покупая другие земли и города. При нем из Владимира в Москву переехал глава русской церкви – митрополит Петр, авторитет которого был исключительно высок.
В связи с этим изменил свое значение и Московский Кремль. Из обычного укрепленного центра города он стал резиденцией великого князя и митрополита. На его территории стали возводить сооружения не только из дерева, но и из белого камня. На самой высокой точке Боровицкого холма в 1326–1327 годах был построен Успенский собор – главный храм княжества, в 1329 году – церковь-колокольня Иоанна Лествичника, в 1330 году – собор Спаса на Бору, а в 1333 году – собор Архангела Михаила, в котором был похоронен Иван Калита и его потомки. Эти первые белокаменные храмы Москвы определили пространственную композицию центра Кремля, которая в основных чертах сохраняется и сегодня. При Иване Калите Москва активно растет, а его резиденция на Боровицком холме начинает осознаваться как отдельная, главная часть города. И, видимо, неслучайно в Воскресенской летописи под 1331 годом впервые появляется ее собственное имя – Кремль.
В 1339–1340 годах Иван Калита возвел из дубовых бревен новую, более значительную по размеру крепость «в едином дубу», то есть только из дуба. Воскресенская летопись отмечает очень быстрое окончание строительства: в ноябре заложили и «кончаша тое же зимы на весну в великое говение». Известно, что Кремль был расширен в напольную сторону (в сторону современной Красной площади).
Умирая, Калита составил духовную грамоту (завещание). Он передавал своим сыновьям не только московские земли, но и символы власти Руси того времени – золотые цепи и пояса, а также драгоценную посуду и княжеские одежды. Среди них впервые упомянута и «шапка золотая», которую отождествляют со знаменитой шапкой Мономаха – главным венцом русских государей. Так в первой половине XIV века в Кремле начала формироваться сокровищница московских