Это стало возможным за счёт «умасливания» щедрыми подарками и богатыми приёмами Леонида Брежнева во время его трёх посещений Азербайджанской ССР. В одном из таких случаев Алиев подарил ему бриллиантовое кольцо с одним большим камнем в середине, – Брежнев, – окружённым 15 меньшими, символизирующими составляющие советские республики, стоимость которого составляла 226 000 рублей.
С приходом к власти Юрия Андропова, 24 ноября 1982 года Гейдар Алиев был назначен первым заместителем Председателя Совета Министров СССР. Сам Алиев об этом так рассказал в интервью газете «Новые Известия»: «У нас были близкие, даже дружеские отношения, и все же я сказал: «Юрий Владимирович, разрешите остаться в Баку. Андропов настоял, и я переехал, стал первым заместителем председателя Совета Министров СССР». На новом посту он курировал машиностроение, легкую промышленность и транспорт; в его ведении также находились культурная и образовательная сферы. Зампред оказался в ряду главных кураторов строительства Байкало-Амурской магистрали.
С 22 ноября 1982 по 21 октября 1987 годы – член Политбюро ЦК КПСС. В июне 1983 году Алиев возглавил государственную комиссию и организовал работы по ликвидации последствий катастрофы теплохода «Александр Суворов», который врезался в несудоходный восьмой пролёт моста через Волгу под Ульяновском, в результате чего погибли по разным оценкам от 176 до 600 человек. С 1984 года Алиев возглавлял комиссию по реформе советской школы. Позднее, 31 августа 1986 года, он возглавил правительственную комиссию, созданную для расследования катастрофы парохода «Адмирал Нахимов», затонувшего в Новороссийской бухте в результате столкновения с балкером «Пётр Васёв», жертвами которой стали 423 человека. В октябре того же года он занял пост председателя бюро Совета министров СССР по социальному развитию.
На заседании Политбюро 11 марта 1985 года, обсуждавшего вопрос об избрании нового генерального секретаря, Алиев высказался в поддержку Михаила Горбачёва. Однако с приходом к власти Горбачёва Гейдар Алиев попал в опалу. Помощник Горбачёва А. С. Черняев в своём дневнике за 9 октября 1987 года записал: «Потом напомнил о деле Алиева. Копаем, говорит, и дело вроде образуется почище рашидовского».
Алиев позднее рассказывал, что в кремлёвской больнице врачи внушали ему, что жить осталось недолго:
«Три месяца меня продержали на койке, потом ещё было полтора месяца реабилитации. Закончилось всё консилиумом, который взялся доказывать, будто я не могу продолжать