«Записки старика» – произведение, разделенное на шесть частей, в которых автор вспоминает свою жизнь в родном Витебске (1821–1840), позднее работу в Смоленске (1841–1860) и Москве (1861–1864), дорогу в Сибирь (1866–1867) и, наконец, жизнь в ссылке: село Кежма (1867–1868) и Енисейск (1869–1888). Каждая часть разбита на несколько глав, которые образуют связную композицию, но в то же время могут быть проанализированы и опубликованы как отдельные фрагменты, касающиеся конкретных событий. Хотя Маркс родился в 1816 году, в первой части он описывает перемены, происходящие на белорусских землях с 1772 года, т. е. со времени первого раздела Польши и присоединения этих земель к Российской империи. Автор подчеркивает, что на протяжении всего правления Александра I на белорусских землях сохранялись отличные от других частей Российской империи законы, здесь царские приказы сочетались с литовским статутом и магдебургским правом. Согласно Марксу, Белоруссия состояла из украинских земель и исторической Литвы – к сожалению, он не уточнил, как выглядели ее границы. Вместо этого он сосредоточился на описании Витебска, в котором провел свое детство и юность, но часто подчеркивал, что описывал явления и события, характерные для всей Белоруссии.
Маркс описал все сословные слои: от царской семьи, которая побывала в Витебске проездом, до аристократии, шляхты (в т. ч. обедневшей), горожан, еврейского меньшинства и крестьян.
Судьбе последних он уделил особое внимание. Он считал, что под влиянием провозглашенных в конституционную эпоху лозунгов крестьяне начали понимать, что возможна иная жизнь, чем крепостной