Последним фильмом с участием Парфенова стала комедия «Официант с золотым подносом», где он сыграл сторожа. На этом актерская карьера Парфенова завершилась. Вскоре после этого из жизни ушла его супруга Лариса Алексеевна. Последние годы она была частично парализована и практически не выходила из дома. Иной раз боли были настолько сильными, что Лариса Алексеевна молила Всевышнего, чтобы он поскорее ее забрал. И тот услышал ее молитвы. После ее смерти Парфенов прожил недолго – около двух лет.
Оставшись один, Парфенов затосковал. Очевидцы утверждают, что в последние месяцы перед своим уходом он сильно изменился. Отрастил бородку, так как ему было тяжело бриться, носил шапку даже в теплое время года. Говорят, он мечтал дожить свои последние дни в пансионате для престарелых при Доме актера имени Яблочкиной, где жили многие из его бывших коллег, но сделать это ему не позволили обстоятельства. Оказалось, что жена артиста перед смертью прописала в квартиру свою внучку (у Ларисы Алексеевны была дочь от первого брака), а в пансионат можно было попасть, только отдав свою квартиру государству. Когда Парфенов узнал о поступке жены, он совсем расстроился. И практически доживал свои дни. Ухаживала за ним его сестра Антонина Ивановна.
Парфенов скончался у себя на квартире на улице Гарибальди 7 января 1999 года. Врачи констатировали у него разрыв сосудов головного мозга. По словам сестры, перед смертью Парфенов вдруг громко задышал и с улыбкой выдохнул: «Перекрести меня!» Сестра удивилась, поскольку прежде ее брат о вере ни слова не говорил, но просьбу выполнила. После этого Парфенов затих навсегда.
Стоит отметить, что смерть популярного артиста осталась практически не замеченной широкой общественностью. Об этом не знали не только в Театре имени Моссовета, где много лет проработал Парфенов, но даже его соседи по дому. Одна из них вспоминает: «Мы догадывались: что-то произошло. Кто-то видел труповозку около нашего дома. Я в это время шла на обед и подумала, что это „Скорая помощь“. А когда поднялась, то в дверях квартиры, в которой жил Николай Иванович, увидела его сестру, которая впускала двоих мужчин, одетых в униформу. Никто тогда так и не понял, умер Николай Иванович или его отвезли в тяжелом состоянии в больницу. В похоронах из нас никто не участвовал. Тело сюда даже не привозили, чтобы мы могли попрощаться. Все было сделано тайно и тихо…»
Парфенова кремировали в крематории Хованского кладбища. В течение нескольких месяцев урна с его прахом находилась там, после чего сестра забрала ее домой. Почему забрала так поздно? По ее же словам, она думала, что, может, культурные деятели вспомнят о Парфенове, захотят попрощаться. Но никто о нем не вспомнил. В итоге поздней осенью урна оказалась в доме сестры. «Потребность с ним побыть одолела, – говорит она. – Привезла домой урну, поставила, и как-то легче стало: не с родными в земле, так хоть со мной рядом. Весной схороню Колю около маминой могилки, мы с ним там уже трех сестер