Так бы Клеберу и трудиться до конца дней своих, создавая и совершенствуя здания и парки, если бы не началась Революция, которую он с готовностью поддержал. В 1789 г. он вступил в национальную гвардию Бельфора, а в 1791 г. – в Общество друзей Конституции – местный аналог парижского Клуба якобинцев. Какое-то время ему удавалось совмещать работу архитектора и общественную деятельность, пока правительство революционной Франции не взяло курс на развязывание войны с империей Габсбургов. С объявлением в январе 1792 г. дополнительного набора в армию Клебер стал заместителем командира 4-го добровольческого батальона Верхнего Рейна. Месяц спустя, после того как Франция 20 апреля 1792 г. объявила войну императору, Клебер получил чин подполковника и со своим батальоном влился в состав Вогезской армии генерала А. Ф. де Кюстина.
В октябре 1792 г. войска Кюстина двинулись на восток, пересекли границу и, не встречая сопротивления, захватили Майнц. Однако очень быстро подошедшая австро-прусская армия вынудила французов перейти к обороне на левом берегу Рейна. 23 марта 1793 г. союзники форсировали Рейн, и Кюстин, опасаясь окружения, увел свои основные силы в Эльзас. Для защиты Майнца был оставлен 22-тысячный гарнизон, который немедленно блокировала 50-тысяч-ная армия неприятеля. Началась знаменитая оборона Майнца.
Здесь-то Клебер и получил свое боевое крещение, когда в ночь на 6 апреля во главе крупного отряда предпринял удачную вылазку, захватив у неприятеля большое количество скота и тем самым существенно пополнив запасы провианта у осажденных. За этот успех он получил повышение в звании, став шефом бригады. В ночь на 11 апреля французы предприняли новую вылазку, на сей раз закончившуюся неудачно из-за слабой дисциплины солдат-волонтеров. Но Клебер и в этой ситуации проявил себя с лучшей стороны, лично возглавив контратаку гренадеров и отбросив неприятеля, пытавшегося преследовать отступающие французские части.
30 мая он организовал дерзкую ночную вылазку, попытавшись – ни больше ни меньше – захватить в плен прусского короля Фридриха-Вильгельма II. Вместе с добровольцами он под покровом темноты проник в тыл неприятеля и атаковал вражескую штаб-квартиру. Король едва успел спастись бегством. Французы же сражались с пруссаками всю ночь, а под утро растворились в темноте, вернувшись в город. В ночь на 25 июня осажденные вновь предприняли вылазку под командованием Клебера, уничтожив батарею тяжелой артиллерии.
И все же положение осажденных продолжало неуклонно ухудшаться. В городе начался голод. Более 200 прусских орудий денно и нощно бомбардировали Майнц, а помощь всё не приходила. 23 июля 1793 г. французское командование было вынуждено подписать капитуляцию, правда, на самых почетных условиях: французские войска уходили со всем своим оружием и снаряжением, лишь дав обещание не воевать против австро-прусской коалиции в течение года. 25 июля гарнизон в боевом строю и с развернутыми