Не все гладко складывалось у Давтяна и с НКИД. Китай, как уже отмечалось, занимал видное место во внешнеполитических планах советского руководства, а это требовало от Давтяна напряженной работы по линии наркомата. Москва высказывала пожелания улучшить работу полпредства, что также вызывало у него болезненную реакцию. В личных письмах на Лубянку он жаловался на НКИД и замечал, что «Пекин, по-видимому, будет моей последней работой в этом милом учреждении».
Однако в Москве решили по-иному. В апреле 1924 года Яков Давтян заменяется на посту главного резидента в Китае и отзывается из Пекина. В Москве он окончательно переводится в НКИД СССР, где по-прежнему ощущается острая нехватка квалифицированных кадров. Летом 1924 года Яков Христофорович назначается полпредом СССР в Тувинской Республике и одновременно становится председателем полномочной комиссии ЦИК СССР по урегулированию двусторонних отношений и инспекции советских учреждений. Решив задачи, поставленные перед ним в Кызыле, осенью того же года Давтян возвращается в Москву.
Вскоре Давтян получает новое назначение: полпредом СССР в Венгрии. Однако режим адмирала Хорти не ратифицировал уже подписанный советско-венгерский договор об урегулировании спорных вопросов, и дипломатические отношения между двумя странами так и не были установлены.
В 1924–1925 годах Давтян находился на партийно-хозяйственной работе в Москве. В течение двух месяцев он трудился заместителем председателя треста Чаеуправления, затем занимался партийной работой на фабрике «Большевичка», к партийной ячейке которой был прикреплен.
В начале 1925 года Яков Давтян вновь возвращается в НКИД и в мае назначается советником полпредства СССР во Франции, которое в то время возглавлял известный революционер и активный сторонник Льва Троцкого Христиан Раковский. В Париже Давтян принимает участие в работе различного рода международных конференций, неоднократно замещает полпреда, которому в Москве не очень доверяли из-за его близости к Троцкому, и по-прежнему оказывает помощь резидентуре ИНО ОГПУ.
Осенью 1927 года Давтян назначается полномочным представителем СССР в Персии (Иран) и работает на этой должности до декабря 1929 года.
По возвращении в СССР Яков Христофорович был переведен на административную работу. С 3 февраля по 30 июня 1930 года он являлся директором Ленинградского политехнического института и провел его реорганизацию. Под его руководством ЛПИ был разделен на ряд профильных институтов. 1 июля того же года Давтян назначается директором Ленинградского машиностроительного института Высшего совета народного хозяйства (ВСНХ). 23 января 1931 года переводится на работу в ВСНХ СССР – начальником сектора проверки исполнения.
С 1932 года Давтян вновь на дипломатической работе. Он назначается полпредом СССР в Греции, а в апреле 1934 года