В Харькове Судоплатов встретился со своей будущей женой Эммой Карловной Кагановой (в девичестве – Суламифь Соломоновна Кримкер), также служившей в органах государственной безопасности. Павлу было 20 лет, ей на два года больше. В свое время она приехала на Украину из белорусского города Гомеля.
Рассказывая о своей жене, Павел Анатольевич писал в своих мемуарах: «Эмма была способной, и ей удалось поступить в гимназию, где для евреев существовала ограничительная норма. Она окончила несколько классов гимназии и позднее стала работать секретарем-машинисткой у Менделя Хатаевича, секретаря гомельской губернской организации большевиков. Когда ее начальника перевели в Одессу, где он возглавил партийную организацию города, она последовала за ним. Именно в Одессе Эмма и перешла в местное ГПУ. Ей поручили вести работу среди проживавших в городе немецких колонистов. Голубоглазая блондинка, она говорила на близком к немецкому идише и вполне могла сойти за немку.
В Харьков ее перевели за год до того, как я туда перебрался. Эмма занимала в ГПУ УССР более весомое положение, чем такой новичок, каким я тогда был. Как образованной и привлекательной женщине, к тому же начитанной и чувствовавшей себя вполне свободно в обществе писателей и поэтов, ей доверили руководить деятельностью осведомителей в среде украинской творческой интеллигенции – писателей и театральных деятелей. Мы встретились с ней на службе, и меня поразили ее красота и ум. Отец Эммы, сплавщик леса, умер, когда ей было всего десять лет. Она начала работать и одна содержала всю семью, где было восемь детей. Так что у нас с Эммой было много общего: и я, и она являлись опорой для семьи и должны были в силу обстоятельств рано повзрослеть».
Несмотря на то что вся жизнь молодых людей была заполнена работой, Эмма побудила Судоплатова заняться изучением права в Харьковском университете. Но в университете ему удалось побывать всего на десяти лекциях и сдать один экзамен – по экономической географии. На большее у Павла просто не хватило времени. Его рабочий день начинался в десять часов утра и заканчивался в шесть вечера с коротким перерывом на обед. После этого начинались встречи с осведомителями на явочных квартирах. Встречаться со своими осведомителями в дневное время было не положено. Было известно, что Сталин засиживается допоздна, и сотрудники ГПУ Украины работали в таком же режиме. Вот почему встречи с осведомителями проходили по вечерам и продолжались до одиннадцати вечера. Затем Судоплатов возвращался на службу, чтобы доложить начальству о полученных оперативных материалах.
Из характеристики на Судоплатова того периода, подготовленной Аттестационной комиссией ГПУ УССР:
«Судоплатов П. А. работает уполномоченным информационно-осведомительного