25 октября 1907 года в Красноярске, в помещении губернского Общественного собрания, состоялись выборы депутата III Государственной думы от Енисейской губернии (в соответствии с «третьеиюньским» избирательным законом квота от губернии была сокращена до одного человека). Участвовали двадцать восемь ранее избранных выборщиков, но в первом туре ни один кандидат не набрал большинства голосов. Лидер черносотенцев, о. Варсонофий, вообще получил всего один голос и отказался от дальнейшей борьбы. На следующий день прошла повторная баллотировка, которая принесла победу В.А. Караулову (18 голосов из 27). 29 октября он выехал из Красноярска в Петербург для участия в открытии III Думы: проводы на железнодорожном вокзале и напутственные речи стали заметным событием в жизни города.
В Петербурге товарищи по партии помогли Василию Андреевичу снять небольшую квартиру в знаменитом «кадетском доме» № 7 на Потемкинской улице. Здесь, совсем рядом с Таврическим дворцом, он проживет три года со второй женой, Ольгой Ивановной, вплоть до своей смерти в декабре 1910 года.
В III Думе В.А. Караулов вошел во фракцию конституционных демократов и – одновременно – в «Сибирскую парламентскую группу», которая также находилась под кадетским влиянием. Он активно работает в комиссиях по вопросам вероисповедания (председатель – правый епископ Евлогий, затем октябрист П.В. Каменский), по делам Православной церкви (председатель – октябрист, затем член фракции националистов В.Н. Львов) и местному самоуправлению (председатель – лидер умеренно правых, затем националистов П.Н. Балашов). Однако наибольшую известность, как в стенах Думы, так и в обществе, принесло ему председательство в комиссии по старообрядчеству. В нее вошли также известные политические деятели различных направлений: лидеры октябристов А.И. Гучков и М.Я. Капустин, влиятельный кадет В.А. Маклаков, епископ Евлогий (Георгиевский), ультраправый Г.А. ГЦечков и др.
Отдавая много времени работе в комиссиях, конституционалист Караулов твердо придерживался линии на конструктивную работу с другими думскими фракциями и правительством, на так называемую органическую работу, часто повторяя: «Лучше маленькая рыбка, чем большой таракан». И эти усилия принесли успех: он фактически стал основным экспертом и оратором либеральной части Думы по вероисповедным вопросам, оказавшимся в 1907–1910 годах в центре внимания народного представительства.
Уже в ходе первой сессии III Думы, в конце 1907 – начале 1908 года, сибирский депутат показал себя влиятельным парламентарием, органично соединившим в себе глубокую христианскую религиозность с неменьшей верой в либеральные права и свободы человека. Для молодого российского парламента это было необычно: религиозную тематику всегда активно эксплуатировали правые,