Selline poliitika peegeldus uue riigi administratiivstruktuuris. Ehkki tegelik võim kontsentreerus Kremlisse, valitseva Kommunistliku Partei Poliitbüroosse, oli Nõukogude Liit formaalselt jaotatud selliselt, et igal etnilisel vähemusel oli oma rahvuslik territoorium. Peamised ehitusplokid olid liiduvabariigid, mida lõpuks oli kokku viisteist: need loodi aastatel 1917–1940, neil olid konstitutsioonipõhiselt võrdsed õigused ja võrdne võim, hoolimata erinevustest suuruses, elanikkonnas ja majanduslikus võimsuses.
Igal riigil oli oma Kommunistliku Partei haruorganisatsioon, parlament ja teised rahvusriigi tunnused, nagu lipp, vapp ja hümn.2 Nende kultuurilise identiteedi tunnetust tugevdasid kirjanike liidud, teatrid, ooperiteatrid ja riiklikud akadeemiad, mis spetsialiseerusid vastavate riikide ajaloole, keelele ja kultuurile. Ukrainal ja Valgevenel oli isegi oma esindus ÜRO-s. Igal liiduvabariigi õigust „liidust vabatahtlikult välja astuda“, mille tagas 1924. aasta konstitutsioon, kinnitati ka nende poolt, kes konstitutsiooni 1936. ja 1977. aastal uuega asendasid. Kuidas väljaastumine praktikas välja pidi nägema, selle kohta juhised puudusid, aga nende järele polnud ka vajadust: õigus välja astuda oli samasugune fiktsioon nagu paljud teisedki konstitutsioonis välja toodud õigused.
Vene Föderatsioon – ehk siis oma täieliku nimega Vene Nõukogude Föderatiivne Sotsialistlik Vabariik – jaotati 1920. aastate alguses umbes kolmekümneks autonoomseks vabariigiks ja oblastiks, mis jaotusid ise veel suureks hulgaks rahvusüksusteks, suisa regiooni tasemeni välja. Sama lugu oli ka paljude liiduvabariikide puhul. Ühe asjatundja sõnul meenutas Nõukogude Liidu struktuur „hämmastavat ja näiliselt lõppematult üksteise sisse mahtuvate rahvuslike nukkude matrjoškade kollektsiooni“.1
Aastate jooksul võttis poliitika hoopis teise suuna. 1930. aastatel, Stalini võimuloleku ajal, loobuti eraldi rahvusrühmade esiletoomisest, see asendati vene kultuuri ja ajaloo ülistamisega. Venelastest said „sotsialistlike rahvaste peres“ „vanemad vennad“. Kuna silmapiirile kerkis ähvardav sõda Saksamaa vastu, tõsteti rohkem esile nõukogude patriotismi ja valmidust võidelda sotsialistliku isamaa eest. Samal ajal deporteeriti etnilise puhastuse käigus terveid rahvaid ühest maa otsast teise, ning protsess kiirenes pärast Teise maailmasõja puhkemist. Ajavahemikus 1941–1949 saadeti ligikaudu 3,3 miljonit inimest, keda süüdistati koostöös sakslastega või nõukogudevastases tegevuses, Siberisse ja Kesk-Aasia vabariikidesse. Tingimused olid kohutavad: mõnede hinnangute põhjal suri kümnest inimesest enam kui neli haigustesse või nälga. Stalini surmale järgnenud aastatel need „kollaboratsionistid“ küll rehabiliteeriti, kuid paljudel lubati oma esivanemate maale tagasi pöörduda alles aastakümneid hiljem.
1924. aastal võrdles Turkestani Kommunistliku Partei keskkomitee sekretär I. Vareikis Nõukogude Liitu hiiglasliku ühiskorteri kommunalka’ga, mida tuli jagada paljudel nõukogude perekondadel. Igal rahvusrühmal – või siis tema analoogia kohaselt perekonnal – oli õigus eraldi toale. „Ainult vaba rahvusliku enesemääramise kaudu saame sellise korterini jõuda,“ väitis Vareikis, „sest ainult sellise enesemääramise tõttu saab varem rõhutud rahvas lahti oma õigustatud usaldamatusest suuremate rahvaste vastu.“2
Vene teadlane Yuri Slezkine lähtus sellest analoogiast ühes artiklis, mis avaldati 80 aastat hiljem, pärast Nõukogude Liidu lõppu, kus ta võttis luubi alla kommunistide rahvuspoliitika. Selline poliitika kestis aastakümneid, kirjutas ta, isegi kui 1930ndate lõpuks hakkasid venelased, kes asustasid „tohutut saali, koridori ja kööki, kus tehti kõik suuremad otsused, oma naabreid kiusama ja kaunistama endile kuuluvaid kommunaalkorteri osi.“ Ent isegi siis nad „ei väitnud, et terve korter kuulub neile või et teised (suured) perekonnad ei oma õigust omaette tubadele. Üürilised olid üha enam ebavõrdsed, ent asusid kindlalt eraldi.“3
Hoolimata komplitseeritud rahvustepõhise jaotuse süsteemist, mille Lenin oma järeltulijatele pärandas, oli ta eeldanud, et nõukogude rahvaste rahvuslik eneseteadvus kaob lõpuks ära ja asendub ühtse klassiteadlikkusega. Stalin ja tema vahetud järglased surusid igasugused rahvusluse ilmingud brutaalselt maha. Ent kui Gorbatšov hakkas 1980ndate keskel lõdvendama kontrolli poliitilise süsteemi üle, hakkas rahvuslik eneseteadvus ennast taas ilmutama ning segunes üleskutsetega, mis nõudsid poliitilisi ja majanduslikke reforme. Paljude mittevene liiduvabariikide jaoks oli demokraatia nõudmine sünonüümiks autonoomia või isegi iseseisvuse nõudmisele.
Esimene avalik rahvuslusepuhang leidis aset 1986. aasta detsembris, kui Kasahhi kommunistliku partei veteranliider Dinmuhhamed Konajev vahetati välja Gennadi Kolbini vastu. Viimane oli aga venelane, kel puudus vabariigiga igasugune side. Gorbatšov oli sel moel püüdnud võidelda kohapealse korruptsiooniga. Ent kasahhid nägid selles traditsiooni lõhkumist: selle kohaselt oli mittevene liiduvabariikide eesotsas alati olnud üks nende rahva seast. Protestide vaigistamiseks kutsuti kohale julgeolekujõud, vähemalt kaks inimest sai surma ja sajad vigastada. Kaks aastat hiljem muutus sajanditevanune tüliküsimus Armeenia ja Aserbaidžaani vahel Mägi-Karabahhia vaidlusaluse territooriumi üle avalikuks sõjapidamiseks, mis kestab edasi praegugi. Ka Gruusias ja osas Kesk-Aasia riikides lahvatas etnosepõhiseid vägivallapuhanguid, mille põhjuseks olid igipõlised vastuolud erinevate rahvusrühmade vahel.
See aeg tõi kaasa ka organiseeritud rahvuslike liikumiste esile kerkimise, esmalt Balti liiduvabariikides Eestis, Lätis ja Leedus, seejärel Kaukaasias, Moldovas ja mujalgi. Eesti sammus eesotsas: 1988. aasta aprillis kuulutas endine Eesti valitsuse plaanikomitee ametnik Edgar Savisaar ETV saates „Mõtleme veel“ välja Rahvarinde moodustamise uutmise toetuseks. Ehkki ametlikult oli tegu laiapõhjalise rahvaliikumise ja mitte poliitilise parteiga, hakkas Rahvarinne kiiresti nõudma ühiskonna demokratiseerimist ning Nõukogude Eesti juhtkonna tagurlike tegelaste väljavahetamist reformaatorite vastu. Oma nõudmised tehti teatavaks tervel real massiüritustel: suurim neist oli Balti kett 23. augustil 1989. aastal, mis organiseeriti ühiselt Läti ja Leedu vastavate rinnetega. Selles osales hinnanguliselt kaks miljonit inimest, kes kõik ühendasid käed katkematuks inimketiks 675,5 kilomeetril läbi kolme Balti riigi, tähistamaks Molotov-Ribbentropi pakti 50. aastapäeva; pakti salajased protokollid olid sillutanud teed Balti riikide annekteerimisele Stalini poolt.
Selle asemel, et rahvuslased purustada, hakkasid liiduvabariikide juhid nendega koostööd tegema. Mõju oli kõige märgatavam Balti riikides, kus reformimeelsed kompartei ametnikud sulandusid tõhusalt äsja moodustatud iseseisvuspüüdlusi juhtivate rahvarinnetega. Näiteks Eestis läks Savisaar 1989. aastal valitsusse ning 1990. aastal sai temast ENSV valitsuse juht ehk siis peaminister.
Iroonilisel moel panid Nõukogude Liidu asutajad paika piirid võimalikuks lahususeks tulevikus, kuna olid valinud föderatsioonile struktuuri, mis jaotas riigi rahvuste põhjal: iseseisvuse eest seisjate käsutuses olid ametlikud struktuurid ja valmis piirid eeldatavate iseseisvate riikide jaoks. Tänu esimestele sammudele demokraatia suunas, mis said alguse esimese rahvasaadikute kongressi saadikute valimisega 1989. aasta märtsis, sai liiduvabariikide liidrite legitiimsus tuleneda pigem omaenda valijaskonnast kui Moskvast. Liiduvabariikide parlamendid, kes aastakümneid polnud palju muud kui kummitemplid, hakkasid ise tõeliste seadusandlike organitena käituma. Eestlased näitasid teed: 1988. aasta novembris võttis vabariigi parlament vastu suveräänsusdeklaratsiooni, teatades, et riigi territooriumil kehtestatakse vaid need seadused, mis on nende parlamendi poolt heaks kiidetud. Järgnevatel kuudel toimetas enamik liiduvabariike samamoodi.
Erilist muret valmistas Kremlile olukord Ukrainas. Oma 52 miljoni elanikuga oli Ukrainal nii nõukogude tööstusele kui ka põllumajandusele märkimisväärne tähtsus. Riigi rahvas oli olnud venelastega alati lähedalt seotud: keeled on väga sarnased ja paljudes perekondades leidub mõlema rahvuse esindajaid, suurel määral samamoodi nagu šotlastel inglastega. Ukraina hoiakuid dikteeris olulisel määral nende maa ajalugu: soov iseseisvuda oli eriti tugev lääneosas, mis oli kuulunud Nõukogude Liitu alles Teise maailmasõja