Тема России неразрывно сплетается у Федорова с темой местной истории: «Ввести в историю каждый городок и село, как бы незначительны они ни были», восстановить судьбу каждого уголка земли в лицах и событиях, не потеряв из памяти ни одного из живших и живущих, дать им место во «всемирно-священной истории», – в этом состоит, по Федорову, назначение краеведения, занятия которым, как и занятия генеалогией, философ считал необходимыми для каждого человека, дающими ему возможность глубже понять себя, осознать свое место в родовой цепи и истории.
Философ много сделал для развития краеведческих исследований в тех городах, с которыми связывала его судьба: Богородск, Керенск, Воронеж, Асхабад – это далеко не весь перечень. В первой половине 1874 г. он несколько месяцев живет в Керенске, где Н. П. Петерсон взял на себя попечительство о Керенской публичной библиотеке. Вместе с учеником изучает Керенский край, создает при библиотеке хранилище местных исторических документов, куда свои родословные несут даже крестьяне. И в Москву поначалу возвращается с целью собрать по местным библиотекам и архивам новые сведения о Керенском крае. Однако вскоре древняя столица окончательно берет над ним власть: в конце ноября философ поступает на службу в библиотеку Московского публичного и Румянцевского музеев, под одну крышу с которой перекочевала и подаренная городу Чертковская библиотека. Работает дежурным чиновником при читальном зале, а позднее становится заведующим Каталожной комнатой библиотеки.
В этой комнате, где на больших столах располагались каталожные ящики с книжными карточками – своего рода мозг библиотеки, ее ДНК – на протяжении двух десятилетий царил гений философа-библиотекаря. По свидетельству современников, он обладал энциклопедическими познаниями, знал содержание всех книг московского книгохранилища и мог проконсультировать занимающихся в библиотеке буквально по любому вопросу. Федоров создал целую философию библиотеки как центра самообразования, познания и общего дела, подчеркивая, что в будущем она сможет заменить даже университет и именно в ее умном пространстве во всей полноте действует принцип: «Все должны быть познающими». Под руководством «идеального библиотекаря» в 1874–1876 гг. в Румянцевской библиотеке занимался юный К. Э. Циолковский. «Федорова я считаю необыкновенным человеком, а встречу с ним – счастьем. Он мне заменил университетских профессоров, с которыми я не общался», – признавался будущий теоретик