7 марта 1907 г. Аршинов стреляет в начальника главных железнодорожных мастерских г. Александровска Василенко. Вина последнего перед рабочим классом состояла в том, что он отдал под военный суд за александровское вооруженное восстание в декабре 1905 г. свыше 100 человек рабочих, из которых многие на основании показаний Василенко были осуждены на казнь или на долгосрочную каторгу. Кроме того, и до этого случая и после него Василенко проявлял себя как активный и безжалостный угнетатель рабочих. Аршинов по собственной инициативе, но в соответствии с общим настроением рабочих масс, сурово расправился с этим врагом трудящихся, застрелив его близ мастерских на глазах многочисленных рабочих. На этом акте Аршинов был схвачен полицией, жестоко избит и через два дня, в порядке военно-полевого суда, приговорен к казни через повешение. Однако в центре приведение приговора в исполнение приостановили, найдя, что дело Аршинова по закону должно разбираться не военно-полевым, а военно-окружным судом. Эта отсрочка казни дала Аршинову возможность бежать. Побег был совершен из Александровской тюрьмы в ночь на 22 апреля 1907 г., во время пасхальной заутрени, когда заключенных вывели в тюремную церковь. Смелым набегом нескольких товарищей с воли тюремная стража, охранявшая заключенных в церкви, была застигнута врасплох и перебита. Всем заключенным предоставлена была возможность бежать. Вместе с Аршиновым тогда бежало свыше 15 человек. После этого Аршинов проводит около двух лет за границей, главным образом во Франции, но в 1909 г. возвращается в Россию, где в течение 1,5 года в нелегальных условиях ведет пропагандистскую и организационную работу по анархизму среди рабочих.
В 1910 г. он, переправляя из Австрии в Россию транспорт оружия и анархической литературы, был арестован на границе австрийскими властями и заключен в тюрьму в гор. Тарнополе. Просидев здесь около года, он, по требованию русского правительства, за совершенные террористические акты передается русским властям в Москву и приговаривается Московской судебной палатой к 20 годам каторжных работ. Каторгу Аршинов отбывал в Москве, в Бутырках. Здесь он впервые (в 1911 г.) встретился с юным Нестором Махно, который был, за террористические же акты, осужден (в 1910 г.) на бессрочную каторгу и который заочно знал Аршинова еще раньше по работе на юге. Оставаясь во время пребывания в тюрьме в товарищеских отношениях, они оба вышли из заключения в дни революции, в первых числах марта 1917 г.
Махно по освобождении уехал для революционной работы на Украину, в родное Гуляй-Поле. Аршинов остался в Москве, приняв энергичное участие в работе Московской Федерации Анархистских Групп.
Когда после оккупации Украины австро-германцами Махно летом 1918 г. приехал на время в Москву посоветоваться с товарищами о положении дел, он жил вместе с Аршиновым. Здесь они познакомились ближе и горячо обсуждали вопросы революции