В 1760 году П.В. Завадовский поступил на службу в Малороссийскую коллегию в городе Глухове и был назначен «повытчиком» (делопроизводителем) в администрацию последнего гетмана Украины графа К.Г. Разумовского. В 1764 году Екатерина II упразднила гетманскую власть на Украине и восстановила Малороссийскую коллегию, президентом которой стал назначенный генерал-губернатором Малороссии граф П.А. Румянцев. Со своей канцелярией он обосновался в Глухове; ее правителем был назначен будущий канцлер Российской империи А.А. Безбородко, а молодой П.В. Завадовский стал в 1767 году секретарем Малороссийской коллегии. Его и А.А. Безбородко долгие годы связывала затем крепкая дружба.
Когда П.А. Румянцев был назначен главнокомандующим русской армией в войне против Турции (1768–1774), Завадовский, ставший управляющим его «секретной канцелярии», отправился с ним на войну. Этому назначению предшествовала любопытная история: главнокомандующему потребовалось подготовить записку по одному «секретному делу», и Завадовский взял на себя смелость ее составить. Румянцеву записка понравилась, и он отправил ее императрице. Результат превзошел ожидания: Екатерина II написала Румянцеву, что это первая деловая записка, которую она читала с удовольствием. После этого случая Завадовский и получил место управляющего секретной канцелярии.
П.В. Завадовский активно участвовал в русско-турецкой кампании 1769 года. В задачу его отряда входило охранять берега Днепра; 12 октября он участвовал во взятии Бендер, отразил вылазку турок, за что получил звание премьер-майора. Участвовал Завадовский и в сражениях
1770 года при Ларге и Кагуле. В 1771–1772 годах находился при графе Румянцеве в Молдавии, а в 1773-м участвовал в осаде Силистрии, за что получил звание полковника. До конца войны П.В. Завадовский командовал Старооскольским полком, в составе которого участвовал в сражении под Гирсовым, а затем преследовал с казаками неприятеля.
Генерал-фельдмаршал Румянцев высоко ценил боевые и служебные качества Завадовского и поручил ему подготовку редакции мирного договора с Оттоманской Портой. Для этой работы Завадовский привлек начальника штаба армии графа С.Р. Воронцова, совместно с которым составил текст будущего документа, ставшего основой Кючук-Кайнарджий-ского мирного договора в июле 1774 года.
В 1775 году жизнь Завадовского неожиданно резко изменилась. Граф П.А. Румянцев рекомендовал его императрице Екатерине II, которая вскоре назначила его своим кабинет-секретарем. Молодой полковник приглянулся Екатерине II: тот оказался, как тогда говорили, «в случае», заменив отсутствовавшего Григория Потемкина. В январе 1776 года Завадовский был пожалован в генерал-адъютанты, а уже в июне – в генерал-майоры. В то же время он, вместе со статс-секретарями Г.В. Козицким, Г.Н. Тепловым и А.А. Безбородко, принял участие в составлении Уложения о губерниях, утвержденного 7 ноября 1775 года.
Не слишком опытный в любовных делах, Завадовский, как свидетельствуют его переписка с