У 1821–1823 роках Рилєєв опублікував збірку віршів під назвою «Думи». Джерелом натхнення послужили «Історичні думи» Юліана Урсин-Немцевича, польського поета й історика, палкого поборника Конституції 1791 року і секретаря Тадеуша Костюшка, лідера польського повстання проти російської влади в 1794 році. Рилєєв з дитинства знав польську мову, а декабристські кола, до яких він належав, дуже приязно ставилися до польських патріотів, зокрема до Адама Міцкевича. Втім історичні пісні цього польського автора не єдине і не головне джерело натхнення Рилєєва. У вступі до видання «Дум» 1825 року він писав: «Дума, старинное наследие от южных братьев наших, наше руское, родное изобретение. Поляки заняли ее от нас. Еще до сих пор украинцы поют думы о героях своих – Дорошенке, Нечае, Сагайдашном, Палее, и самому Мазепе приписывается сочинение одной из них». Рилєєв ймовірно знав перше видання українських народних пісень, яке 1819 року надрукував у Петербурзі Микола Цертелєв, і перший твір модерної української літератури «Енеїду» Котляревського, стилізовану під фольклор пародію на Вергілія, вперше опубліковану в Петербурзі в 1798-му.[30]
Є підстави вважати, що ще 1824 року Рилєєв ознайомився з новим захопливим джерелом про козацьку історію. Цей твір був відомий поету і деяким його друзям як «Історія Кониського». Його авторство приписували Георгію Кониському, архієпископу могильовському. Цілого тексту рукопису Рилєєв не мав. Повний список припадав пилом у бібліотеках нащадків козацької старшини десь на Чернігівщині, далеко на південь від імперської столиці. Однак Рилєєву трапилися уривки загадкового рукопису, і вони розпалили його романтичну уяву. Йому відкрився цілий світ козацьких героїв. Один з таких героїв, Северин Наливайко, до 1820-х років майже не фігурував не те що в західних, а й у російських та українських історичних творах. У двотомнику Дмитра Бантиша-Каменського, першій науковій спробі історії України, надрукованій 1822 року, Северину Наливайку приділено аж два речення. Лише «Історія Кониського» задовольнила інтерес читачів до подробиць Наливайкового життя. Докладна розповідь про його вчинки супроводжувалася текстами Наливайкових листів до польських королів. Мало який образ борців (читай – мучеників) за свободу Русі промовляв до сердець освіченої публіки початку ХІХ століття так, як Наливайків. Рилєєв зробить Наливайка символом козацької свободи, завзяття і патріотизму.[31]
Северин (Семерій) Наливайко, який став героєм козацьких літописців ХVІІІ століття і зробив приголомшливу кар’єру у романтиків ХІХ століття, у свої часи був досить суперечливою постаттю. У 1593 році, перебуваючи на службі у князя Костянтина Острозького, Наливайко брав участь у придушенні повстання ще одного козацького ватажка Кшиштофа Косинського. Наступного року за домовленістю з Острозьким Наливайко очолив бунт козаків і селян, намагаючись відвести їх від маєтків свого патрона і спрямувати