Еще до Крестового похода в Иерусалиме существовал госпиталь Святого Иоанна Милостивого для паломников, недалеко от храма Гроба Господня; это была одновременно и больница, и странноприимный дом. Его основали около 1070 года купцы из Амальфи. В 1100 году некий брат Жерар, о котором мало что известно, был избран магистром. Вероятно, он прибыл туда еще до крестоносцев. После возникновения королевства количество пилигримов возросло и понадобилась реорганизация; Жерар изменил бенедиктинский устав ордена на августинский, а его покровителем стал другой, более значительный святой Иоанн – сам Иоанн Креститель. Новый орден стал пользоваться глубоким уважением, приобрел имения во многих европейских государствах, и в 1113 году папа Пасхалий II взял его под свою особую защиту. Вероятно, Жерар использовал Бедных Рыцарей для защиты своих больниц, которые открывались по всему Утремеру.
Король Балдуин, очевидно, потерял много людей в кровавой битве в Тель-Шакабе 1126 года, в которой одержал победу. Казалось, эту проблему можно решить еще одним Крестовым походом. Не только Гуго де Пейн был связан со святым Бернаром, но и Гуго, граф Шампанский, основатель аббатства Клерво, присоединился к Бедным Рыцарям; кроме того, новобранцем мог быть и дядя святого Бернара по материнской линии. В 1126 году оба брата прибыли во Францию с письмами от короля Балдуина к святому Бернару, и на следующий день Гуго де Пейн сам пришел к аббату просить о новом Крестовом походе.
За советом к Бернару обращались и другие основатели религиозных орденов – святой Норберт Ксантенский из ордена каноников-премонстрантов и англичанин Гильберт Семпрингхемский. В тот период случилось настоящее поветрие на новые ордена: появились картезианцы, гранмонтинцы и тиронцы, а также общины Савиньи и Фонтевро. Цистерцианцы и тамплиеры возникли на той же волне аскетизма. Однако Гуго и его спутники не представляли свой союз религиозным орденом, пока не встретились с великим аббатом. Документ 1123 года называет Гуго «магистром рыцарей Храма», но его маленький отряд был всего лишь добровольным братством; исследования последнего времени показывают, что они испытывали трудности с привлечением новобранцев и они были на грани роспуска. Гуго пришел говорить о новом Крестовом походе, а не просить устава для ордена.
Гуго очень понравился святому Бернару, и он пообещал составить для него устав и найти новобранцев. «Они могут сражаться за Господа и быть истинными солдатами Христа». В 1128 году в Труа собрался совет, и по настоянию Бернара Гуго посетил его. Хотя сам аббат там не присутствовал, он прислал устав, который совет обсудил и поддержал. До нас дошли копии устава тамплиеров XIII века, и они гласят,