Сергій Федорович Грушевський почав шукати служби на Кавказі (його приваблював клімат), і йому запропонували місце учителя гімназії в Кутаїсі. Зі своїм легким характером і вмінням скоро і легко обживатись скрізь, він скоро звик до Кавказу, здоров’я його в теплім кліматі швидко поправилось, а місцеві звичаї не дуже лякали. Він рішив залишитись на Кавказі, коли йому запропонували місце інспектора народних шкіл в новоорганізованій Ставропольській губернії. Він поїхав по сім’ю і перевіз її до Ставрополя.
Життя на новому місті було взагалі нелегким. Батька часто не було дома, бо він багато працював. А потім з ним сталось нещастя: почтові коні понесли, розбили тарантас, батько випав і зламав ногу. Михайло відчував до хворого батька велику ніжність. Саме з того часу в нього з’явилося особливе відчуття родини і почав формуватися культ сім’ї.
Мати вчила Михайла читати по російській «Граматиці» Блінова, котра довго потім зберігалась між родинними реліквіями, заяложена, потріпана і зшита нитками. «Процес вчення не лишив в мені особливих споминів, мабуть, не був прикрий, – писав Грушевський. – Пригадую, як я копіював букви на обгортці від гербати. І ще – споминаю себе в виді воєнного чоловіка – з старим попсованим величезним пістолем, який я носив на перев’язі через плече замість рушниці, з великим задоволенням парадуючи в такім виді перед своїми й чужими».
Батько теж зіграв велику роль у становленні Михайла як особистості, він був щирим патріотом і виховував в дитині національну свідомість. Як згадує І. Крип’якевич, «свою приязнь до українства зумів він передати своїм дітям. Отак Михайло не тільки не відчужився від України, а дуже рано цілим серцем і душею приляг до свого народу».
В автобіографії Михайло Сергійович Грушевський згадує: «Виростав на Кавказі, куди батько перейшов в 1869 р.: в Ставрополі (1870—1880), потім Владикавказі, зрідка звідуючи Україну. Одначе, під впливом оповідань батька, що заховав тепле прив’язання до всього українського – мови, пісні, традиції, в мені рано збудилося й усвідомилося національне українське почуття, піддержуване книжками, тими рідкими поїздками на Україну, що малювалася тому в ореолі далекої “вітчини” і контрастом чужеплеменної й чужомовної “чужини”».
Хлопчик рано навчився читати, і книжки замінювали йому дитяче товариство. Михайло виріс мрійником і фантазером та рано почав пробувати свої сили у написанні прози та віршів. З великою охотою він читав праці з історії літератури та етнографії України.
Неабияку роль у становленні таких рис характеру малого Михайла, як амбітність та самолюбство, відіграв батько. С. Ф. Грушевський дуже пильно стежив за розвитком та успіхами свого сина. Саме тому, коли Михайло склав іспит до четвертого класу Тифліської