Как неисчислимое множество молодых людей до него, Рокфеллер обратился к церкви за всеобъемлющими ответами на неразрешимые семейные проблемы. Он обладал призванием и в религии, и в бизнесе, христианство и капитализм сформировали два равных столпа его жизни. После публикации в 1859 году труда Чарльза Дарвина «О происхождении видов», вера многих людей начала ослабевать, но воззрения Рокфеллера остались простыми и постоянными. Когда в последующие десятилетия традиционные религиозные взгляды начали оспаривать, он остался верен духовным реалиям своего детства. Из-за часто непорядочного поведения отца молодой клерк был готов к жаркому осуждению греха и разговору о личном спасении и моральной реформации, вокруг которых тогда строились беседы баптистов. С самого начала его баптистская вера служила мощным инструментом контроля запретных чувств и сдерживала необузданную природу отца внутри него. После постоянных переездов в детстве, он стремился обосноваться в церкви, которая заменила бы ему семью, но без постыдных проявлений настоящей семьи.
Пока Джон и Уильям жили у миссис Вудин и ее дочери Марты, они вчетвером начали посещать бедную, переживающую не лучшие времена Церковь баптистской миссии на Эри-стрит неподалеку. Организованная за три года до процветающей Первой баптистской церкви, церковь миссии стояла на пустом месте без деревьев и представляла собой скромное белое здание с колокольней и высокими узкими окнами. В 1850-х годах по Кливленду прокатилось несколько религиозных возрождений, и Церковь баптистской миссии на Эри-стрит была создана после религиозного бдения, длившегося сто пятьдесят ночей подряд.
Церковь дала Рокфеллеру общество друзей, о которых он мечтал, и уважение и расположение, в которых он нуждался. Рокфеллер посещал Библейский класс диакона Александра Скеда, а привел его в церковь сам Скед, цветочник по роду занятий, поэтичный шотландец, любивший декламировать псалмы и пророчества и, казалось, знавший всю Библию наизусть. Скед родился в Шотландии в 1780 году, приехал в Америку в 1831-м и четыре года спустя перебрался в Кливленд. Во время службы он поднимал руки в молитве Богу, его лицо светилось воодушевлением. Этот набожный пожилой человек служил наставником Рокфеллеру, и тот пришел к нему, когда нашел работу в «Хьюитт энд Таттл», чтобы сообщить хорошие новости. Встреча дала неожиданную отповедь, которую Рокфеллер так и не смог забыть. «Прежде чем я ушел, он заметил, что я ему очень нравился, но что он всегда гораздо больше любил моего брата Уильяма. Я так и не мог понять, почему он это сказал. Я не обиделся, но меня это удивило»56.
Осенью 1854 года Джон принял решение о вероисповедании, диакон Скед погрузил его