На февральско-мартовском (1937) пленуме ЦК ВКП (б) при обсуждении вопроса о Н. И. Бухарине и А. И. Рыкове выступил за их исключение из партии, «предание суду и расстрел», в мае 1937 при опросе об исключении из партии М. Н. Тухачевского и Я. Э. Рудзутака написал: «Безусловно, за. Нужно этих мерзавцев казнить».
Хотя Будённый деятельно поддерживал Сталина в его грандиозной чистке армии, есть сведения, что он и сам едва не пал её жертвой. Чекисты уже приехали к Семёну Михайловичу с ордером на арест, но усатый кавалерист выхватил пистолет, пригрозил убить всякого, кто приблизится к нему, а сам тем временем срочно позвонил Хозяину. Сталин отменил арест. Однако вторая жена маршала, Ольга Михайлова, легкомысленная оперная певица, имевшая множество любовных приключений, была схвачена НКВД в 1937 и около 20 лет провела в лагерях и ссылке. Потеряв Ольгу, которая была на 20 лет моложе него, Будённый при посредничестве тёщи вскоре женился на её двоюродной сестре Марии. Разница в возрасте между ними составляла 33 года.
В июле-сентябре 1941 года, при начале немецкого вторжения в СССР, Будённый являлся главкомом советских вооруженных сил Юго-Западного направления (Юго-Западный и Южный фронты). Сталин тогда дотошно контролировал все действия своих командующих, и Будённый строго исполнял его приказ не отступать ни при каких обстоятельствах. Из-за этого войска Будённого попали в окружения во время битвы за Умань и битвы за Киев, потеряв 1, 5 миллиона человек убитыми и пленными. Эти окружения относятся к числу самых известных в военной истории.
Во время Великой Отечественной войны входил в состав Ставки верховного главнокомандования, участвовал в обороне Москвы.
В августе 1941 по приказу маршала Будённого в Запорожье сапёрами 157-го полка НКВД был взорван Днепрогэс. В потоках хлынувшей волны погибли солдаты как немецкой, так и Красной армий. Кроме войск и беженцев, в плавнях и береговой зоне погибло множество работавших там людей, местное гражданское население, сотни тысяч голов скота. Лавина воды стремительно залила огромные пространства Днепровской поймы. За один час была снесена вся нижняя часть Запорожья с огромными запасами промышленного оборудования. По другим данным, потери среди советских войск и мирного населения сильно преувеличены. В сентябре Будённый отправил телеграмму в Ставку с предложением отвести войска из-под угрозы окружения, в то же самое время командующий фронтом М. П. Кирпонос информировал Ставку о том, что у него нет намерений отводить войска. В результате Будённый был отстранен Сталиным от должности главнокомандующего Юго-Западным направлением и заменён С. К. Тимошенко.
После войны наряду с должностью командующего кавалерией в 1947–1953 гг. – заместитель министра сельского хозяйства СССР по коневодству.