Манкировать учебой Иосиф стал после того, как с осени 1896 года начал посещать нелегальный ученический кружок, где читали легальную, но светскую литературу, что семинаристам было категорически запрещено. В 1897–1898 годах Сосо установил контакты с тифлисскими социал-демократами. Он так увлекся марксизмом, что собирался выучить немецкий, но дальше чтения со словарем ни в немецком, ни в других иностранных языках, кроме русского, не продвинулся.
В августе 1898 года Джугашвили приняли в члены тифлисской организации грузинской социал-демократической организации «Месаме-даси», позднее влившейся в РСДРП. В «Месаме-даси» он принадлежал к радикальному меньшинству и резко критиковал лидера организации Ноя Жорданию и других будущих меньшевиков за отказ от решительных методов борьбы вроде демонстраций и политических забастовок.
В мае 1898 года прежний руководитель семинарского кружка Сеид Девдориани закончил семинарию и поступил в Юрьевский университет. Теперь кружок возглавил Джугашвили, быстро переориентировавший его с просветительских на общественно-политические цели.
С осени 1898 года Иосиф сделался завсегдатаем карцера. Его наказывали за отсутствие или неподобающее поведение на молитве, дерзость преподавателям, самовольный уход со всенощной и т. п. 29 мая 1899 года Иосиф Джугашвили был исключен из пятого класса семинарии «за неявку на экзамены при неизвестной причине». За несдачу экзамена семинарист лишался казенного содержания, поэтому можно предположить, что начальство решило таким образом избавиться от строптивого семинариста. Было заранее известно, что платить за обучение Джугашвили не в состоянии и потому вынужден будет уйти.
После исключения Иосиф вернулся в Гори. Мать была потрясена, что сына исключили из семинарии. Она надеялась, что он станет священником, получит почет, уважение и верный кусок хлеба. По воспоминаниям соседей, Кеке так разгневалась, что ему пришлось несколько дней прятаться в садах селения Гамбареули, куда товарищи приносили ему пищу. Затем некоторое время Иосиф провел в Цроми у товарища по кружку Михи Давиташвили и усиленно занимался самообразованием, а потом возвратился в Гори. Мать его уже простила. В конце сентября он приехал в Тифлис, где 2 октября 1899 года получил свидетельство об окончании 4 классов семинарии. Характерно, что в свидетельстве, выданном на руки исключенному семинаристу, об окончании четырех классов семинарии (полный курс состоял из шести классов) по поведению фигурирует пятерка, хотя в последние два года пребывания в семинарии Джугашвили имел по поведению только тройки. Но эта тройка в тогдашних условиях была равносильна «волчьему билету» и закрывала пути для продолжения образования. Семинарские начальники тоже были не звери. Ректор смилостивился и пошел на небольшую подтасовку в пользу ученика, от которого