Свою службу Баярд начал, поступив пажом к графу Филиппу де Бож (впоследствии герцогу Сардинскому), а потом к королю Франции Карлу VIII.
На военное поприще Баярд вступил в то время, когда сохранились лишь звание рыцаря и многие из рыцарских обычаев, но прежнее рыцарское ополчение заменили постоянные войска, частью свои, частью наемные. Рыцарское ополчение набиралось только на случай войны. Именно тогда Франция начала череду войн с Италией, и Баярд до самой смерти «не сходил с коня».
При Людовике XII Баярд, преследуя разбитого противника, ворвался в Милан, где был взят в плен, но сразу освобожден Людовиком Сфорцой без выкупа в знак уважения к его военным заслугам. Затем Баярд принимал участие в сражение при Наваре и в 1503 году в военных действиях против испанцев в Неаполе. В Италии французам не повезло – Гонзальв Кордуанский заставил их отступать. Они расположились на отдых на берегу речки Гарильяно, через которую был перекинут деревянный мост. Их противники, испанцы, решили наказать французов за такую беспечность. Отряд, двести кавалеристов, бросился к мосту, чтобы атаковать французов. Первым их заметил Баярд и бросился навстречу противнику. Испанцы шли по трое. Баярд защищал мост в одиночку до тех пор, пока не подоспела помощь. Испанцы никак не могли поверить, что им противостоял всего лишь один человек, а король Франции дал в награду храброму рыцарю надпись на герб: «Один имеет силу целого войска». Такую же славу принесла ему оборона города Венозы.
В 1514 году Баярд был назначен правителем родной провинции Дофинэ, а на следующий год он сопровождал в военном походе в Италию французского короля Франциска I.
Баярд подготовил смелый переход Савильяно через Альпы и в Виллафранке взял в плен Проспера Колонну. В бою при Мариньяно Баярд проявил такое бесстрашие, что сам король, которому исполнился 21 год, пожелал быть посвященным в рыцари рукою Баярда. Тот сначала отказывался от такой чести, но король настоял. После посвящения Баярд сказал королю: «Дай Бог, чтобы вы не знали бегства».
В 1521 году за отражение войск Карла V, осаждавших Мезьер, Баярд получил от Франциска I командование ротой телохранителей в сотню человек. Ранее такое отличие предоставлялось только принцам крови.
В 1524 году Баярд был снова отправлен в Италию для завоевания Милана. Поход возглавил адмирал Бонниве, но успеха он не имел. Французы вынуждены были отступить к Альпийским горам через реку Сезию. Баярд командовал арьергардом, когда раненый адмирал передал ему командование над всей армией. Баярд отдал приказ удерживать мост через реку и сам бросился на испанцев, но был ранен в бок мушкетной пулей, раздробившей ему поясницу. Понимая, что скоро он умрет, Баярд приказал положить себя под дерево лицом к противнику. «Я всегда смотрел им в лицо и, умирая, не хочу показывать спину», – сказал он. Он отдал еще несколько приказаний, исповедовался и приложил к губам крест, который был у него на рукоятке меча. В таком положении