Уже на закате жизни Ярослав созвал своих детей, чтобы отеческим внушением попытаться предотвратить возможные после его смерти раздоры. Старшего из живых на тот момент сыновей Изяслава Ярослав назначил своим наследником на киевском престоле. Святославу в качестве удела был определен Чернигов, Всеволоду – Переяславль, Вячеславу – Смоленск, а Игорю – Волынь. Всем младшим братьям было велено подчиняться старшему, Изяславу, и не предпринимать против него никаких действий, которые могли причинить вред русскому государству. Однако дети Ярослава не послушались отцовского наказа, и после его кончины междоусобные распри разгорелись с новой силой.
Ярослав скончался в Вышгороде в 1054 году. В момент смерти рядом с отцом находился его любимый сын Всеволод. Он затем возглавил траурное шествие из Вышгорода в Киев, доставившее покойного в Софийский собор. Там тело Ярослава было заключено в мраморную раку и погребено. В надписи на стене Святой Софии над саркофагом Ярослава великий князь упоминается как «цесарь» (в переводе с византийского «царь»). Илларион, говоря о Ярославе, употреблял титул «русский каган».
Спорным вопросом остается возраст Ярослава. Исчисление его возраста, как правило, очень противоречиво из-за тенденциозности источников в этом вопросе. Согласно «Повести временных лет», князь «живе же всех лет 70 и 6», т. е. умер в 76 лет. Указание на 76-летний возраст подчеркивало его старшинство в роду Владимировичей. На основании анализа останков князя, найденных в саркофаге Святой Софии, можно делать вывод о том, что скелет принадлежал мужчине 60–70 лет. Это подтверждает летописное «известие» 1016 года и «Пролог» XIII–XIV веков – там говорится, что Ярослав прожил 66 лет.
После находки скелета и черепа Ярослава Мудрого ученые многократно пытались воссоздать внешний вид великого князя. Досконально сделать это невозможно – многие говорят даже, что скелет в мраморном гробу Софиевского собора принадлежал женщине, а череп – мужчине. Всеми принятой является