Интерес к Хара-Хото постепенно исчезал, но П.К. Козлов продолжал верить в сообщение Г.Н. Потанина. В свою первую экспедицию он мало что нового мог узнать о таинственном городе, но русский ученый твердо решил побывать там и упорно шел к своей цели. Более того, он был уверен, что именно ему удастся обнаружить древний Хара-Хото.
В 1907 году при поддержке Географического общества снаряжается экспедиция в Монголию. Отправляясь в свою вторую экспедицию, П.К. Козлов писал: «Таинственный голос дали будит душу, властно зовет ее снова к себе». В середине февраля путешественники достигли хребта Гурбун-сойхан («Три прекрасных»), за которым лежало урочище Уголцзин-тологой, где находилась ставка местного князя Балдын-цзасака. Экспедиция простояла в урочище 10 дней, и П.К. Козлов ежедневно навещал князя, который оказался человеком радушным и общительным. Сначала Балдын-цзасак отговаривал его идти к реке Эдзин-гол, так как, мол, дорога туда трудная. Наконец, взяв с П.К. Козлова слово никому не говорить об этом, старый князь указал дорогу в Хара-Хото. И даже согласился дать проводников и вьючных животных.
Путь туда действительно был трудным и опасным. П.К. Козлов писал впоследствии: «По сторонам ни зверя, ни птички – все абсолютно тихо, только ветер свободно гуляет на просторе, поднимая порою пыльные вихри». Однажды путешественники попали в такую пыльную бурю, что сбились с пути и пять суток блуждали в пустыне. Наконец с одного из увалов они увидели древнюю дорогу, на которой уже попадались полузасыпанные песками развалины глинобитных построек, свидетельствовавшие о былой оседлой культуре.
В своем дневнике П.К. Козлов записывал: «По мере приближения к заветной цели наше волнение все увеличивалось… Мы пересекли древнее сухое русло с валявшимися по нему сухими, обточенными песком и ветром стволами деревьев». А дальше, на возвышенном берегу, показались стены самого города. «Мы поднялись на террасу, и нашим глазам представился Хара-Хото во всей внешней прелести».
Мечта русского путешественника исполнилась: он ступил на улицы Хара-Хото – «азиатской Помпеи», погребенной песками пустыни Гоби. Одни здания были совсем разрушены и сровнялись с землей, другие еще держались. Когда-то здесь жили люди, работали, молились, страдали, веселились; теперь здесь не было ни одного человека, и даже имя города было забыто, ведь «Хара-Хото» означает «Мертвый город», а это не название.
Город-крепость представлял собой прямоугольник площадью 380х450 метров, длинной стороной ориентированный (как многие китайские крепости) в направлении «запад – восток». Высота глинобитных стен достигала 6–8 метров при толщине у основания 4–6 метров. Вся внутренняя часть крепости была разбита на правильные кварталы; от ворот, устроенных в западной