Ярдлі не зміг підшукати собі роботу і повернувся додому, в рідний Уортінгтон. Там він написав книгу «Американський чорний кабінет» на 375 сторінках, яка була надрукована 1 червня 1931 року. У книзі була викладена історія американської радіотехнічної розвідки та діяльності «МІ-8» під час Першої світової війни, а також АЧК у 1920-х роках і проілюстровані основні принципи радіорозвідки. Ця книга відразу ж стала популярною.
Критики прийшли до висновку, що це був «найсенсаційніший внесок в таємну історію війни, а також післявоєнного періоду, який до цих пір не написана американцем». У США відразу ж було продано 17 931 примірників книги, 5480 – у Великобританії, вона була перекладена на французьку, шведську, японську і китайську мови. Японське видання вийшло безпрецедентним тиражем у 33119 примірників. Ця книга була неприємним сюрпризом для уряду США і скомпрометувала ряд джерел, використаних Ярдлі. Завдяки цій роботі 19 країн було попереджено, що їхні коди були «зламані».
«Батько» американської криптології Уільям Фрідмен, прочитавши книгу, «ошаленів», оскільки визнав, що Ярдлі розкрив джерела і методи роботи криптологів і непомірно прикрасив свої заслуги. Ярдлі, можливо, вважав, що публікація цієї книги змусить уряд відновити програми радіорозвідки, але добився прямо протилежного ефекту. Уряд США намагався почати судове переслідування Ярдлі, але він формально не порушив чинне законодавство відносно захисту урядових документів. До 1933 року були внесені поправки в Закон про шпигунство 1917 року, відповідно до яких було заборонено розкриття іноземних шифрів і шифрованих повідомлень. Друга книга Ярдлі «Японські дипломатичні коди, 1921—1922» була арештована та ніколи не публікувалася, а рукопис був розсекречений тільки у 1979 році.
Пізніше Ярдлі вступив на службу до китайського диктатора Чан Кайши з окладом 10 000 доларів у рік, щоб займатися дешифруванням японських криптограм. У 1940 році він повернувся з Китаю, щоб відправитися до Канади. Там Ярдлі організував дешифрувальне бюро. Однак незабаром його вислали назад до США, де у 1958 році він помер від серцевого нападу. Ще одна книга його мемуарів «Китайський чорний кабінет» (англ. The Chinese Black Chamber) була розсекречена та опублікована тільки у 1983 році.
За значний вклад у криптологію ім'я Герберта Ярдлі увічнене в Залі слави АНБ (англ. NSA Hall of Honor) та військової розвідки США (англ. Military Intelligence Hall of Fame). У бібліотеці Національного музею криптології США (англ. National Cryptologic Museum) зберігається 16 шаф із його особистими документами.
4. Армійська криптослужба
До початку Першої світової війни завдання забезпечення криптозахисту військових повідомлень у Армії США були покладені на три військові відомства:
1) Управління військової інформації «MID» Генштабу Військового департаменту відповідало за розробку армійських кодів і шифрів;
2) Генерал-ад'ютантський департамент