Внедрение в ОКХ представителей оппозиции из абвера было лишь одним из направлений деятельности Остера в сентябре 1939 года. С началом войны Остер возобновил свои усилия по расширению и укреплению боевой группы внутри абвера, способной в случае необходимости предпринять силовые действия против нацистского режима. К счастью, Гроскурт уже нашел прекрасную кандидатуру для замены себя на посту руководителя 2–го отдела абвера. После присоединения Австрии (аншлюса) в марте 1938 года Гроскурт приехал в Вену, чтобы привлечь для работы в абвере подходящих людей из австрийской армии. Особенно его заинтересовал руководитель австрийской разведки Эрвин фон Лахузен, политические взгляды которого вполне говорили за то, что он может быть принят в ряды оппозиции. Фактически Лахузен стал участником группы Бека– Остера—Канариса еще до своего отъезда из Вены. Когда он впервые прибыл на Тирпиц–Уфер, чтобы официально представиться в штаб–квартире абвера, он еще не до конца знал, с какого рода людьми ему придется иметь дело. Памятуя об официальных правилах, принятых в Третьем рейхе, представляясь Канарису, Лахузен выбросил вверх руку в нацистском приветствии и не опускал ее, пока продолжал говорить. Не пропуская ни единого слова из того, что говорил Лахузен, Канарис аккуратно опустил его руку. Но это еще до конца не убедило Лахузена, и он таким же образом начал свой разговор, когда пришел представляться Остеру. Остер бросил на него ироничный взгляд и сразу же расставил все по своим местам: «Вы что, таким образом показываете готовность верно служить величайшему преступнику всех времен?»
Гроскурт очень хотел, чтобы была сохранена преемственность в деятельности оппозиции в абвере; поэтому он и рекомендовал Лахузена Канарису как своего сменщика на посту руководителя 2–го отдела. Важность этого отдела заключалась в том, что он владел как методикой, так и техническими средствами для уничтожения материальных ресурсов и живой силы. Таким образом, Остер и Гроскурт сумели втайне накапливать и хранить взрывчатые вещества (причем не только в прямом смысле этого слова: в абвере образовался настоящий «взрывоопасный» для нацистского режима «арсенал»), которые могли отправить на тот свет ряд нацистских лидеров.
Остер также попытался исправить ошибку Канариса, который не воспользовался в свое время предоставившейся возможностью включить в функции абвера проведение непосредственных оперативных действий, включая силовые операции. Именно в значительной степени под влиянием Остера Канарис согласился значительно усилить уже существовавшую в абвере небольшую боевую оперативную группу, которая была замаскирована под скромным названием «строительно–тренировочная рота»; впоследствии на ее основе был создан сначала полк, а затем и дивизия «Бранденбург». Возглавить эту группу было предложено капитану Гинцу; он уже был командиром специального отряда, который должен был еще перед Мюнхеном, в сентябре 1938 года, ворваться в рейхсканцелярию и схватить Гитлера.