Советская власть, закрепившись в Закавказье всерьез и надолго, принялась зачищать эти южные республики от ушедших в подполье контрреволюционеров и агентов иностранных спецслужб. В 1926 году антисоветская деятельность К. Гамсахурдиа, как говорится, вышла ему боком. Он был арестован органами ОГПУ, осужден на десять лет и направлен на «перековку» в Соловецкий лагерь особого назначения (СЛОН). Спустя всего год на основании постановления ЦИК СССР «германский шпион и антисоветчик» К. Гамсахурдиа вышел на свободу. Но вряд ли с чистой совестью. Такую милость большевистских вождей, не замеченных в сентиментальности, не так-то просто было заслужить. Они оценили по достоинству услуги теперь уже агента-осведомителя ОГПУ. Мастер слова и искусный лицедей К. Гамсахурдиа вывел на чистую воду многих так и «не перековавшихся» врагов советского режима. Этим он заслужил не только право безнаказанно хулить советскую власть в кругу диссидентов, но и покровительство высших чинов органов госбезопасности – самого Л. Берии и его подручных Б. Кобулова и С. Гоглидзе.
Летом 1942 года во время тяжелейших боев Красной армии против немецко-фашистских войск на Северном Кавказе, когда решалась судьба этого региона, советские органы госбезопасности, готовясь к худшему, создавали нелегальную сеть в Грузии. По предложению наркома НКВД Л. Берии на роль резидента был выдвинут К. Гамсахурдиа. При всех действительных и мнимых грехах, которые приписывались Лаврентию Павловичу, те, кто рядом с ним служил, отдавали должное его железной хватке и высокому профессионализму. Предложив К. Гамсахурдиа на роль резидента, он исходил из того, что у него имелось несколько явных преимуществ перед другими кандидатами. К. Гамсахурдиа был хорошо известен германской разведке по своим прошлым делам, за что и пострадал от НКВД. А это был серьезный аргумент в его пользу для гитлеровского абвера. Другим фактором, который на Кавказе имел и имеет существенное значение и сегодня и определил этот выбор наркома, состоял в том, что он и К. Гамсахурдиа являлись земляками – оба по национальности были мингрелами.
Однако назначение К. Гамсахурдиа на должность резидента не состоялось. Основная причина заключалась в том, что руководитель легендарного разведывательно-диверсионного управления (4-го) НКВД – НКГБ СССР генерал-лейтенант Павел Судоплатов, непосредственно занимавшийся созданием нелегальных резидентур в Закавказье, заподозрил его в возможном двурушничестве. После изучения материалов дела осведомителя К. Гамсахурдиа и личной встречи с ним Павел Анатольевич убедил Л. Берию сделать выбор в пользу