Вторую чеченскую войну Бараев встретил в Грозном, правда, защищал окруженную столицу недолго. Поняв, что сопротивление бесполезно, со своим отрядом, в который входило, по разным данным, от 300 до одной тысячи человек, он вырвался из кольца и вернулся в родную Алхан-Калу. Террорист по-прежнему отличался особой жестокостью и коварством. Скажем, он публично расстрелял нескольких своих боевиков, обвинив их в краже 500 тыс. долларов, полученных из-за рубежа, которые сам же и прикарманил. В своем селе, как говорят соседи, Бараев спокойно жил, ни от кого не скрываясь. Слухи о связях Арби с высокими чинами неких спецслужб вовсю гуляли по Чечне: слишком уж наглым и неуловимым был этот тип, спокойно проезжавший на своих шикарных джипах через любой российский блокпост. Благодаря связям Бараева с российскими спецслужбами ему удавалось всегда уходить от облав федеральных сил. А потом с помпой отпраздновать свою очередную свадьбу. Его шестой женой стала Зура, которая в октябре 2002 года отправилась мстить за мужа и командовала женщинами-камикадзе во время захвата заложников в театральном центре в Москве на Дубровке.
В июне 2000 года Арби снова объявил войну федералам, создав террористическую группу «Джихад-3». Его двоюродная сестра Хава в начиненном взрывчаткой грузовике въехала на базу российских омоновцев в Алхан-Юрте. От мощного взрыва, помимо самой женщины, погибли 17 военнослужащих, десятки были ранены. Она стала первой чеченской женщиной-камикадзе. Затем последовала целая череда терактов против чеченских чиновников, сотрудничающих с федеральными спецслужбами. Последней акцией Арби Бараева стала серия взрывов в Гудермесе, повлекшая человеческие жертвы. Это и переполнило чашу терпения российских войск – неуловимого экстремиста решили ликвидировать.
Обладая поистине звериным чутьем, террорист довольно умело скрывался, используя около сорока схронов в разных районах и населенных пунктах Чечни. Он не верил никому, даже женщинам, с которыми спал. Часть своих друзей и сподвижников Эмир-Тарзан казнил лично, по одному только подозрению или по навету. Именно из-за того, что его боялись и ненавидели практически все жители, информация о появлении экстремиста в том или ином селе контрразведчикам поступала регулярно.
Однако несколько операций по его захвату ничего не дали, у боевиков был четкий план перемещения из еще не «зачищенных» районов села в те, где «зачистка» уже была закончена. Передвигаясь таким образом, Бараев абсолютно уверовал в свою неуловимость.
Последняя охота на бандита шла с 19 по 24 июня 2001 года. В боевых действиях принимали участие спецподразделения ФСБ и МВД, в частности элитная группа «Витязь» и отряд специального назначения Внутренних войск МВД РФ «Русь». Были уничтожены вплоть до подвалов 23 дома, из которых 20 принадлежали