Имевший два класса образования и компенсировавший нехватку знаний постоянным чтением («Книги и сама жизнь стали моими университетами, моей академией. И всем, что мне довелось познать и чего удалось достичь, я был обязан в основном книгам, чтению», – писал потом Ворошилов), нарком хорошо понимал пределы своей компетентности. Он не увлекался, в отличие от некоторых своих подчиненных, заведомо провальными идеями в сфере вооружений, отдавал предпочтение более реальным предложениям. Так, в бытность Ворошилова наркомом обороны Красная Армия получила на вооружение один из лучших в своем классе легкий танк Т-26 (принят на вооружение в 1931 году), быстроходные танки серии БТ (приняты на вооружение с 1931 по 1935), а в декабре 1939 года – легендарный Т-34. В тот же период модернизирована легендарная винтовка-трехлинейка, приняты на вооружение самозарядные винтовки Симонова и Токарева, ручной пулемет ДП-27 и его танковый и авиационный варианты. Тогда в небо поднялись истребитель И-16 и скоростной бомбардировщик СБ, началось создание воздушно-десантных частей. А советский подводный флот под руководством Ворошилова рос такими темпами, что стал самым большим по численности среди флотов всех держав, вступивших во Вторую мировую войну.
Во время Большого террора Ворошилов в числе других приближённых Сталина участвовал в рассмотрении так называемых «расстрельных списков» – перечней лиц, репрессированных с санкции членов Политбюро ЦК ВКП (б). Подписи на списках означали вынесение обвинительного приговора. Подпись Ворошилова присутствует на 185 списках, по которым были осуждены и расстреляны более 18 000 человек.
Как член Политбюро ЦК ВКП (б) утвердил большое количество т. н. «лимитов» (квоты на количество репрессированных согласно приказу НКВД № 00447 «Об операции по репрессированию бывших кулаков, уголовников и других антисоветских элементов»).
Как народный комиссар обороны Ворошилов принимал активное участие в репрессиях против командного состава РККА. На списке из 26 командиров Красной армии, направленном из НКВД в НКО 28.05.1937 г., он поставил резолюцию «Тов. Ежову. Берите всех подлецов. 28.V.1937 года. К. Ворошилов»; более краткая резолюция Ворошилова – «Арестовать. К. В.» – стоит на похожем списке из 142 командиров.
Дочь репрессированного военачальника Яна Гамарника Виктория вспоминала: «По возвращении из ссылки мне очень помог Анастас Иванович Микоян: деньгами, квартирой, заботой. Но не все помогали. Климент Ефремович Ворошилов отказался принять Светлану Тухачевскую. Не знаю уж, почему. Может, не хватило