W 1937 roku środowisko „Pieriewału” zostało zlikwidowane w dosłownym sensie, fizycznie. Aresztowano Borisa, a w ślad za nim – Olgę Huber, która nie miała z nim formalnego rozwodu. Wówczas Grossman wziął do siebie dwóch synów państwa Huberów (gdyby tego nie zrobił, zabrano by ich do domu dziecka) i napisał do krwiożerczego Jeżowa, szefa GPU, że Olga w rzeczywistości jest jego żoną, nie zaś aresztowanego wroga ludu. Według ówczesnych kryteriów oznaczało to donos na samego siebie, zwłaszcza w przypadku Grossmana, dla którego sama znajomość z uwięzionymi pisarzami stanowiła okoliczność obciążającą. Stał się jednak cud: Olgę zwolniono. Z jej synów jeden, Fiodor, przeżył wojnę, nie udało się to natomiast starszemu, Michaiłowi, który zginął podczas ćwiczeń wojskowych.
W roku 1940 Grossman ukończył powieść Stiepan Kolczugin, w której opisał drogę młodego robotnika z Zagłębia Donieckiego do uczestnictwa w ruchu rewolucyjnym. Powieść zyskała aprobatę, była przedstawiona do nagrody noszącej imię samego Stalina, ten ostatni jednak trafnie wyczuł „obcość” klasową i polityczną autora i osobiście wykreślił jego kandydaturę.
Po napaści Niemiec na ZSRR Grossman zgłasza się natychmiast do wojska, ale ku rozczarowaniu pisarza komisja lekarska uznaje go za niezdolnego do walki. Znalazła się natomiast dla niego posada korespondenta wojennego w gazecie „Krasnaja Zwiezda”, centralnym organie wojskowym. Grossman dotarł na front w pierwszych dniach sierpnia 1941 roku. Uczestniczył w odwrocie, był świadkiem zasadniczych bitew II wojny światowej – stalingradzkiej, kurskiej; towarzyszył Armii Czerwonej aż do końcowych walk o Berlin[1].
Okazał się znakomitym, chętnie czytanym korespondentem. Wszyscy świadkowie mówią o jego umiejętności zdobywania zaufania żołnierzy, przede wszystkim jednak podkreślają męstwo pisarza. Jego przyjaciel, poeta Siemion Lipkin, pisał we wspomnieniach, że chociaż dzielnych korespondentów nie brakowało, odwaga Grossmana nie przejawiała się w pojedynczych zrywach, ale w codziennym, rzec można, wytrwałym narażaniu się na niebezpieczeństwo. Korespondencje z broniącego się Stalingradu przyniosły autorowi uznanie zarówno czytelników, jak i władz. Stalin docenił jego szkic Kierunek głównego uderzenia (1942) i kazał go przedrukować w „Prawdzie”. W tym samym roku „Krasnaja Zwiezda” opublikowała powieść Grossmana Naród jest nieśmiertelny, opartą na wydarzeniach pierwszego roku wojny.
Wkrótce, wraz z powrotem wojsk radzieckich na tereny Ukrainy, w polu uwagi pisarza znalazł się temat, który dotykał go osobiście – zagłada Żydów. Wstrząs przeżył już w wyzwolonym Kijowie, kiedy usiłował odszukać swoich żydowskich znajomych i nie znalazł nikogo. Od dawna zresztą był pełen najgorszych przeczuć co do losu pozostawionej w Berdyczowie matki. Nie zdecydował się sprowadzić jej do siebie, biorąc pod uwagę zrozumiałą skądinąd niechęć żony do wspólnego mieszkania w jednym – więcej nie było – pokoju z teściową. Po wybuchu wojny, mimo starań, nie udało mu się dotrzeć do Berdyczowa. Ostatni list od matki nosił datę 1 lipca 1941 roku. Obawy pisarza miały się potwierdzić – Jekatierina Grossman zginęła dwa miesiące po wkroczeniu Niemców, rozstrzelana w jednej z pierwszych masowych egzekucji. Syn do końca życia będzie wyrzucał sobie, że matki nie uratował.
Wasilij Grossman nie miał wiele wspólnego z tradycją żydowską, nie znał jidysz. Rosyjski inteligent, był przekonanym internacjonalistą, co wynikało nie tyle z marksistowskiej ortodoksji (ortodoksem nie był nigdy), ile z wrodzonego humanizmu oraz ze świadomości, że w wielonarodowym państwie nacjonalizm do niczego dobrego nie może doprowadzić. To jednak, czego był świadkiem, sprawiło, że poczuł więź z mordowanym narodem. Pisze szkice Zabicie narodu (tytuł zmieniony później na Ukraina bez Żydów) oraz Mord na Żydach w Berdyczowie. Metody zbrodni na Ukrainie wydadzą się jednak chałupnicze w porównaniu z działalnością fabryk śmierci w Majdanku i Treblince, które miał wkrótce zobaczyć. Powstał więc kolejny reportaż Piekło Treblinki (1944), który posłuży jako jeden z dowodów podczas procesu norymberskiego.
Tym większą gorycz musiał odczuć, kiedy „Krasnaja Zwiezda” odmówiła publikacji tekstu o zagładzie Żydów berdyczowskich; zamieściła go jedynie gazeta „Ejnikajt”, wychodząca w języku jidisz. Wkrótce zorientował się, że nie był to przypadek – najwyraźniej akcentowanie narodowości mordowanych nie zgadzało się z polityką władz. Cenzurze podlegał zarówno liczny udział obywateli radzieckich w tych zbrodniach, jak też rozmiary kolaboracji na terenach zajętych przez Niemców. Fakt ów uderzył również Grossmana, który jednak zaczął dociekać jego przyczyn i uświadomił sobie jedną z nich. Żydzi na Ukrainie w dużej mierze padli ofiarą zemsty; cóż z tego, że niesprawiedliwej i inspirowanej przez hitlerowców. Holokaust czasu wojny poprzedzony był ludobójczą kolektywizacją, Hołodomorem, wymierzoną w chłopstwo przede wszystkim ukraińskie. To właśnie Grossman da później najbardziej wstrząsający literacki obraz jego zagłady.
Jeszcze w czasie wojny wybitni przedstawiciele społeczności żydowskiej w Ameryce, z Albertem Einsteinem i Szalomem Aszem na czele, zaproponowali Żydowskiemu Komitetowi Antyfaszystowskiemu w ZSRR udział w pracach nad Czarną księgą, mającą udokumentować eksterminację Żydów. Przewodniczącym specjalnej radzieckiej komisji został Ilja Erenburg, ale w 1945 r. złożył dymisję, wyczuwając zapewne dezaprobatę władz. Główną część pracy zresztą wykonywał, z właściwą sobie sumiennością i energią, Wasilij Grossman; on też zastąpił Erenburga. Starania o wydanie Czarnej księgi w ZSRR nie przyniosły jednak skutku, w 1948 roku cały skład książki został rozsypany, a sami autorzy będą mogli mówić o szczęściu, że nie padli ofiarą prześladowań tym razem ze strony własnego państwa. Tego samego, którego armia wyzwalała Auschwitz! To jednak tylko pozorny paradoks.
Któż bowiem miałby się oburzyć wymordowaniem kilku milionów ludzi? Stalin? Jego niechęć do wyodrębnienia zbrodni na Żydach była jedną z konsekwencji polityki przekształcenia Związku Radzieckiego w państwo narodowe, nie zaś z komunistycznego internacjonalizmu. Nie chodziło o jedność „narodu radzieckiego” wobec agresji, ale o podział na narody gorsze i lepsze, którym przewodzić winien najlepszy – rosyjski, „kierownicza siła Związku Radzieckiego”, jak powie później wódz na bankiecie z okazji zwycięstwa. Internacjonaliści, stara gwardia leninowska, stanowiący zawadę na drodze do tego celu, zostali zlikwidowani już w 1937 roku. Pakt Ribbentrop-Mołotow, zawarty dwa lata później, nie był chwilowym manewrem taktycznym; przeciwnie, Niemcy zostały wybrane, mówiąc językiem biznesu, na partnera strategicznego. Już to dwa totalitarne państwa powinny znaleźć wspólny język, jak się wydawało Stalinowi. Wiarołomstwo Hitlera pomieszało mu szyki, i długo jeszcze nie mógł przeboleć, że nie doszło do niemiecko-rosyjskiej dominacji w Europie. Wybuch wojny skorygował jego plany, ale zasadniczo ich nie zmienił; umożliwił zaś odwołanie się do zwalczanych przedtem narodowych tradycji, nie wyłączając antysemickiej, czarnosecinnej.
W chwili zagrożenia kraju, kiedy potrzebna była pomoc w sprzęcie i żywności, Stalin nie tyle popierał, ile tolerował propagandowe zabiegi Żydów radzieckich. Kiedy minął pierwszy strach, istnienie Komitetu, jak zresztą wszelka samorzutna działalność, stało się niepożądane, a międzynarodowe kontakty – podejrzane, tak jak każdy kontakt obywatela radzieckiego z zagranicą. Po wojnie należało to zdławić, i te, i inne przejawy wolności. Rozbudzone nadzieje twórców kultury rozwiać miała tzw. żdanowszczyzna, ostrzejszą rozprawę z Żydami rozpoczęto później, kiedy nowo powstałe (z poparciem Związku Radzieckiego) państwo Izrael nie spełniło oczekiwań Stalina. Kampania przeciw „kosmopolitom”, jak ją oficjalnie nazywano, wynikała zarówno z logiki zimnej wojny, jak też z represyjnego charakteru państwa,