В 1861 году Веселаго, уже в чине действительного статского советника, был назначен членом совета главного управления по делам печати; позднее исправлял должность начальника главного управления, в 1869 г. был назначен членом комитета морских учебных заведений; в 1881 г. – директором гидрографического департамента и председателем учебного отделения морского технического комитета и комитета морских учебных заведений, с переименованием в генерал-лейтенанта корпуса флотских штурманов.
Еще раньше Веселаго был приглашен преподавать высшие математические и морские науки великому князю, генерал-адмиралу, Алексею Александровичу, которого и сопровождал в нескольких морских и сухопутных путешествиях.
Во время своей продолжительной и разнообразной деятельности Веселаго получил множество орденов до святого Александра Невского включительно и высочайшие награды, кроме того несколько иностранных орденов. 28 января 1877 г. Веселаго удостоился звания почетного члена николаевской морской академии, 29 декабря 1879 г. – члена-корреспондента Императорской Академии наук, а в 1884 г. – почетного члена той же академии. 1 января 1885 г. назначен членом Адмиралтейского совета, а 15 февраля 1886 г. – почетным членом морского учебного комитета. 1 января 1892 г. произведен в полные генералы.
С 1881 года директор гидрографического департамента морского министерства, председатель ученого отделения морского технического комитета и комитета морских учебных заведений, с 1892 года – генерал корпуса флотских штурманов.
Член правления Императорского российского общества спасания на водах. Действительный член Русского географического общества с 1845 года.
Веселаго написал руководства для морского кадетского корпуса: «Начальные основания динамики и гидростатики» (1842), «Начальная геометрия» (1853). Но преимущественно Веселаго работал над историей русского флота.
В 1852 г. вышел в свет «Очерк истории морского кадетского корпуса с приложением списка воспитанников за 100 лет». За это сочинение Веселаго удостоился демидовской премии и Высочайшего назначения заняться обрабатыванием собранных им материалов по предметам истории русского флота. Но случившееся в том же году служебное