С ноября 1946 по август 1951 года работал в органах прокуратуры: народным следователем, прокурором следственного отдела областной прокуратуры, районным прокурором.
В 1954–1959 гг. после окончания Высшей дипломатической школы находился на дипломатической работе, сначала в МИД СССР, затем третьим секретарем Посольства СССР в Венгрии.
С 1959 года в аппарате ЦК КПСС: референт, заведующий сектором, помощник секретаря ЦК.
С 1967 года на руководящих должностях в КГБ. С 1978 года заместитель председателя, а с 1988 года председатель КГБ СССР. Генерал армии. Личный номер Е-104577.
В 1989 году член Политбюро ЦК КПСС.
Награжден двумя орденами Ленина, Красного Знамени, орденами Октябрьской Революции, Трудового Красного Знамени, «Знак Почета» и многими советскими и зарубежными медалями.
Пожалуй, никто и никогда не говорил о перестройке так красиво и с таким пафосом, как Крючков на последнем, XXVIII съезде КПСС в июле 1990 года: «…Перестройка явилась неизбежным и единственно возможным выходом из тупиковой ситуации, в которой наша страна оказалась к середине восьмидесятых годов. <…> Несмотря на огромные трудности, которые мы сегодня переживаем, перестройка войдет в историю как начало очищения и самоочищения, как революция в революции. И какие бы сложности и испытания не возникали на избранном нами пути, они не должны умалять значение перестроечных процессов».
«Умалить» при всем желании было уже невозможно. «Перестроечные процессы» довели партию до утраты главного ее достояния – руководящей и направляющей роли. И, конечно, Крючков знал, что его панегирик перестройке не сорвет «бурных, переходящих в овацию», аплодисментов. Но он озвучивал его не для большинства делегатов, скорбевших вместе с ним по упраздненной 6-й статье, и не для Генерального секретаря ЦК партии, переживающей не лучшие дни. Председатель КГБ демонстрировал лояльность первому советскому президенту, являвшему собой наиболее реальную в создавшейся ситуации силу.
Бабушка Крючкова, Лидия Яковлевна, в девичестве Шрайнер, была из семьи поволжских немцев, но, выйдя замуж, «рассталась со всем немецким» и даже с подругами детства, приходившими в гости, общалась только на русском. На все просьбы внука выучить его немецкому бабушка отвечала отказом. Может быть, предчувствуя грядущие репрессии, берегла своего любимца, которого выделяла из всех своих внуков и которому прочила большое будущее. Наверное, от бабушки Крючков унаследовал чисто немецкую аккуратность во всем, а также исполнительность и трудолюбие. И, конечно, ее уроки осторожности тоже были им усвоены.
Насчет большого будущего бабушка не ошиблась. В 1951 году Сталинградский обком партии направил Крючкова в Высшую дипломатическую школу. Там он выучил наконец не чужой ему немецкий. А еще – венгерский. И это обстоятельство стало поистине судьбоносным. Венгерский язык с его двадцатью восемью падежами показался сокурсникам Крючкова слишком трудным, а Владимир Александрович не отступил и в итоге оказался единственным