В этом ему охотно помогала машинистка Фаня, с которой он познакомился в редакции и влюбился в нее «навечно, навсегда», как признался ей в записке. Ясное дело, они вскоре оформили брак. В 1922 году у них родился первый сын, Анатолий.
Работая в харьковской газете «Коммунист», Абрам Давыдович одновременно посылал свои материалы в «Правду». Его приметили там и вскоре вызвали в Москву. Журналистов тогда – толковых и расторопных, работающих на совесть, – не хватало. И Абрама Давыдовича взяли в редакцию первой газеты страны, предоставили хорошую квартиру в центре столицы.
В 1929 году в семье Аграновских родился второй сын, Валерий. На его «обмывку» Абрам Давыдович пригласил самых именитых, влиятельных журналистов Москвы, в числе которых были главный редактор газеты «Известия» и журнала «Новый мир» Иван Михайлович Гронский, писатель Илья Эренбург… Они сердечно поддерживали Абрама Давыдовича в его творческих устремлениях, давали одобрительные рецензии на его книги. В тридцатые годы у него вышло восемь книг публицистики. Казалось бы, жить да радоваться!
Но наступил жестокий 1937 год. По указанию Сталина Берия создает новое дело на контрреволюционный центр в Москве. Арестовывают и Абрама Давыдовича Аграновского. В обвинительном заключении констатируют, что он «изобличается как член троцкистской организации». Приговор жестокий, несправедливый: десять лет лагерей плюс пять лет поражения в правах. Новое дело было, как говорится, шито белыми нитками.
Во главе этой организации чекисты поставили Ивана Михайловича Гронского, которого невзлюбил Сталин за смелую самостоятельность, самобытность мышления и действий. Гронский никогда, как Бухарин, не согласовывал с Иосифом Сталиным необходимость публикации той или иной статьи, критику, за что и поплатился. А вместе с ним поплатились и его друзья-публицисты. Избежал ареста лишь Илья Эренбург, ибо Сталин понимал: не будет хотя бы одного ведущего талантливого писателя-публициста, на кого же равняться остальной пишущей братии?
В июле 1937 года была арестована как ЧСИР и жена Абрама Давыдовича – любимая Фаня Абрамовна Аграновская-Раппопорт. Ее выслали вначале в Сегежу (Карело-Финская ССР), где она работала на бумажном комбинате, а затем, посчитав, что это ей «слабо», чекисты перекинули ее в Карлаг в Долинское отделение.
Двое сыновей остались в Москве одни, без родительского ока. В своей книге «Последний долг» (Москва, Academia, 1994 год) Валерий Аграновский вспоминает, как вместе с братом Анатолием пытались вызволить из неволи ни в чем не повинного отца. Они записались на прием к председателю Верховного Совета СССР М.И. Калинину. И их, как ни странно, пропустили к нему.
Они вошли в кабинет Михаила Ивановича