Весь период развития ушу неразрывно связан с изменением политической обстановки в стране. Во времена, когда у власти находились китайские правители, развитие ушу поддерживалось ими и этот вид боевого искусства вводился в качестве обязательной дисциплины в программу обучения солдат китайской армии. Однако довольно длительный период в истории этого государства власть принадлежала иноземцам (монголам и др.), которые стремились к искоренению китайских традиций, в том числе и ушу.
Легенда называет основателем ушу индийского миссионера Бодхидхарму. В VI веке он пришел в Китай и начал проповедовать в монастыре Шаолинь, неподалеку от Лояна. Здесь он создал шаолиньский стиль ушу. Через некоторое время монахи монастыря, используя свое искусство, помогли второму императору династии Тан – Ли Шиминю – вернуть себе трон, а правитель в благодарность за это разрешил им вести подготовку воинов в монастырских стенах.
Начальный уровень системы ушу существовал, по всей видимости, начиная с глубокой древности. Однако до III–IV веков н. э. вся методика ушу представляла собой лишь способ подготовки воинов, так называемое воинское ремесло. Приемы ушу в то время имели вид танцевально-боевых упражнений, а спустя некоторое время превратились в учебную дисциплину, которая преподавалась в специальных учебных заведениях.
Об этом раннем периоде развития ушу сохранились некоторые исторические сведения. Например, известно, что в конце II столетия н. э. все способы воинской подготовки (цзюэди, или борьба; шоубо, или рукопашный бой; техники работы с оружием) были объединены в систему уи. Этот термин был в ходу в течение многих веков и являлся синонимом ушу.
В течение нескольких веков боевое искусство ушу развивалось только в стенах монастыря Шаолинь. Так продолжалось до сунской эпохи (960-1279), когда многие усэны (монахи-бойцы) начали слагать с себя монашеские обязанности и уходить в мир. В то же время в стране отмечались гонения на буддизм. В связи с этим к началу XIII века шаолиньское ушу пришло в упадок.
В 1220-х годах один из монахов Шаолиня по имени Цзюэюань постарался возродить древние традиции ушу, которые считались утраченными. Но в действительности он создал новый стиль, который существует и сегодня.
Однако в связи со сложной политической обстановкой в стране (власть в ней захватили монголы) и преследованиями китайцев традиции ушу здесь не были популярны. Только после того, как к власти вновь пришла китайская династия, это единоборство снова стало развиваться. Во второй половине 1500-х годов генералом Ци Цзигуаном была написана книга «Цзисяо синьшу» («Новая книга записей о достижениях (в военном деле)»). В ней подробно описывались все наиболее популярные системы военной подготовки.