Он решил на время отойти от политики на уровне города и штата и выйти на национальную арену. В 1889 году он принимает назначение в комиссию по гражданской службе. Эта должность его привлекала, поскольку давала возможность единолично реформировать коррупционную систему назначений. Рузвельт начал настоящий крестовый поход за создание системы административных назначений, основанных исключительно на компетентности и реальных заслугах. Этой работой он занимался следующие шесть лет – по крайней мере, днем. Вечера были посвящены писательской деятельности. В 1889 году он опубликовал первые два тома монументального труда «Завоевание Запада» (третий и четвертый тома увидели свет в 1894 и 1896 годах). Эта книга стала самой популярной из всех его исторических трудов. В 1891 году Рузвельт выпустил «Историю Нью-Йорка», в 1893-м – «Охотника в прерии», а спустя два года – «Героические сюжеты американской истории». В 1891 году у него родилась вторая дочь, Этель Кэроу Рузвельт, а в 1894 году – второй сын, Арчибальд Буллок Рузвельт. В том же году покончил с собой брат Теодора, Эллиот Рузвельт. Он сильно пил, и в семье его считали паршивой овцой.
Работа в комиссии по гражданской службе приносила удовлетворение, но чаще обманывала надежды. 5 мая 1895 года Рузвельт вышел в отставку и на следующий же день был назначен президентом совета нью-йоркских комиссаров полиции. Он намеревался провести здесь реформы, которые считал необходимыми. Это была работа на муниципальном уровне, но нью-йоркская полиция на всю страну славилась колоссальным уровнем коррупции. Рузвельт считал, что любые позитивные сдвиги окажут влияние не только на город, но и на страну в целом.
В Нью-Йорке новый комиссар сделал то, чего не удалось в Вашингтоне. Он решительно приступил к проблемам департамента полиции. Днем он занимался административной работой в кабинете. А по ночам лично патрулировал самые неблагополучные районы города, проводил аресты вместе с обычными полицейскими, кого-то ругал, кого-то хвалил, а кого-то безжалостно увольнял. По ночам он подвергался реальной физической опасности. Каждый день в его адрес поступали политические угрозы. Но остановить Рузвельта было невозможно. Он решительно реформировал полицейский департамент, чем снискал уважение жителей города. Рузвельт установил самые тесные связи с большим количеством прогрессивных журналистов и писателей, которых позже назвал «разгребателями грязи». Например, Линкольн Стеффенс в книге «Позор городов» поднял проблему коррупции в системе городского управления. Ида Тарбелл написала «Историю компании Standard Oil» – исследование хищнической природы самой печально известной монополии США. А Джейкоб Риис создал журналистский и фотографический портрет обитателей трущоб Нью-Йорка «Как живет другая половина», который оказал огромное влияние на правительство и способствовал принятию ряда