Musikalsk set er Den flyvende Hollænder et for Wagner usædvanligt broget værk. Den mest avancerede musik står side om side med ganske konventionelle passager. Værket kan opfattes som en bro mellem den egentlige romantiske opera, med Weber og Marschner som de førende eksponenter, og Wagners eget spirende musikdrama. Men sammenlignet med de kun få år yngre Tannhäuser og Lohengrin står det nye og det gamle i usædvanlig skarp kontrast. Den voldsomme ekspressivitet i specielt Hollænderens monolog og Sentas parti, foruden visse krasse orkestereffekter (tilbagevendende, heftige strygertremoloer, de fremtrædende messingblæsere) og den allerede fremherskende hang til vedvarende harmonisk modulation (bevægelse fra toneart til toneart), kan have været svært at kapere for datidens publikum. Selv en avantgardist som Hector Berlioz følte sig bevæget til at komme med kritiske indvendinger efter at have overværet premieren.
For en nutidig lytter er det snarere de konventionelle passager, der generer, det er, som om værket her mister lidt af sin musikalske og dramatiske koncentration. Et eksempel er overgangen fra Eriks fortvivlede ”Senta, o Senta, leugnest du!” til den efterfølgende cantilena, ”Willst jenes Tags du nicht dich mehr entsinnen” (tredje akt, anden scene). Her befinder der sig en solopassage for obo, der i ren udtryksfuldhed peger frem mod en lignende passage i Valkyrien, nemlig ved Brünnhildes ”War es so schmählich” (tredje akt, tredje scene) og den efterfølgende duet mellem obo og engelskhorn (fra ”O sag, Vater! Sieh mir ins Auge” og frem). Men her i Hollænderen kan overgangen til cantilenaens ordinære melodik ikke andet end virke som en skuffelse, et fald tilbage i det musikalsk banale.
Det, der alligevel holder sammen på helheden, er den klare disponering af de forskellige udtrykssfærer. Styrmandens vise, spindepigernes sang og matrosernes kor er holdt i den folketone, der er velkendt fra Jægerbruden. Daland bevæger sig i en jovial stil, der vækker mindelser om Roccos i Beethovens Fidelio (endelig version 1814). Erik har, som Daland, en del ordinær operamusik, men med en langt mere udtryksfuld og lejlighedsvis avanceret tone, for eksempel i anden akts ”Drømmefortælling”. I Hollænderens store monolog i første akt nærmer den recitative dels musikalske niveau sig ariedelens, således at skellet udviskes. Monologen er da heller ikke kendt efter sidstnævntes indledende tekstlinje (”Wie oft in Meeres tiefsten Schlund”), men førstnævntes (”Die Frist ist um”). Sentas melos vokser ud af folketonen. Balladen præsenteres som en traditionel vise, men er naturligvis langt mere kompleks, end nogen folkesang nogensinde har været. Det musikalske rum er for trangt, Senta stræber udad, og hendes musikalske kendemærke er netop udbruddet, råbet, skriget, bogstavelig talt i anden akt, da Hollænderen træder ind som portrættets levendegørelse.
Den konventionelle musik klinger altså omkring de i social og dramatisk forstand mest konventionelle figurer (Styrmanden, Daland, spindepigerne, til dels Erik), mens udbryderne (Hollænderen og Senta) bestandigt søger, og til tider finder, det nye udtryk. I øvrigt afveksler og kontrasterer Wagner stilsfærerne så virkningsfuldt, at det paradoksalt nok ender med at give værket et eget helhedspræg: som kollage. Det er en teknik, han aldrig benytter sig af igen, og han har sandsynligvis selv fornemmet den som en kunstnerisk svaghed. Til tider har den en næsten fremmedgørende effekt. I første akts tredje scene er det således lidt af et chok at høre Hollænderen istemme en bel canto-duet med Daland. ”Wie? Hör’ ich recht? Meine Tochter sein Weib?” synger Daland i spændstigt, punkteret unisono med orkestret. Hertil føjer sig Hollænderens følelsesfuldt melodiske ”Ach, ohne Weib, ohne Kind bin ich” over et dæmpet, men umiskendeligt um-ba-ba-um-ba-ba, der er som taget fra de italienske mestre, Bellini, Donizetti eller den tidlige Verdi. Andre steder har stilsfærernes sammenstød en åbenlys pointe, for eksempel i tredje akts første scene, hvor de norske matroser og piger fører en slags ”korenes kamp” med spøgelsesskibets besætning for til sidst at bukke under. Det er en ganske virtuos passage og en beskeden, men ikke desto mindre tydelig forsmag på den hyperkomplekse ”Pryglscene” i slutningen af Mestersangernes anden akt.
Monolog
Hollænderens monolog i første akt er af en hidtil uhørt følelsesmæssig drastik og musikalsk voldsomhed. Vi finder ikke noget lignende, hverken hos Weber eller Marschner, slet ikke hos de italienske forgængere. Allerede overgangen fra den foregående scene, en passage, vi tidligere har hørt i ouverturen, er foruroligende: En uvirkelig, skæbnesvanger sekvens med holdte, tonalt vidtstrejfende akkorder i basuner og strygere og derover et lille, gentaget vippemotiv i horn og fagotter, det hele spillet ganske svagt, mens det ”spøgelsesagtige mandskab” reber sejlene. Til sidst lyder Hollændersignalet i trompet og dernæst horn, og det føles, som om musikken trækker mod H (dur eller mol). Hvad der derimod kommer, er et dybt eis (tritonus i forhold til det underforståede h, skalaens mest dissonerende interval) i fagotter, tuba og kontrabasser og en søgende motivisk gestus i bratscher og celloer [
Monologen bevæger sig gennem fire mægtige buer, hver med et lidenskabeligt klimaks og et fald tilbage i spændingsfuld, skæbnesvanger rugen. Hollænderen beskriver sin stormfulde færd på havet, hvileløsheden og den fortvivlede dødslængsel. Faktisk er det først senere, i Sentas ballade, at vi specifikt hører om den forjættede forløsning ved en tro kvinde. Her, i monologen, forbliver ”frelsens betingelse” ubestemt, og Hollænderen hengiver sig fuldkommen til det ene håb, han mener at have tilbage: ”den evige tilintetgørelse”. Den sidste bue kulminerer på ”Ihr Welten, endet euren Lauf! | Ew’ge Vernichtung, nimm mich auf!” og en dyster bortrullen i hele orkestret. Vi tror, vi er i C-dur, men skrider via a-mol til E-dur, der dog straks mørknes til e-mol af det spøgelsesagtige kor, der høres fra skibets indre. Ganske svagt gentager det Hollænderens sidste linje, afsluttende i E-dur og med en overraskende, klanglig foregribelse af gralsriddernes kor i Parsifal. Med et nyt skred, ført af et sørgmodigt faldende motiv i violinerne, ender vi så i c-mol, monologens hovedtoneart. Hollændermotivet høres en sidste gang i solohornet, før scenen skifter, og Dalands joviale motiv klinger i violinerne [
Paul Bekker har beskrevet Hollænderens musikalske handling som mødet mellem, og foreningen af, to slags musik: Hollænderens og Sentas. Hans er rytmisk stærk, har signalkarakter og, hvad der er vigtigst, intet tonekøn: Den er ”tom” naturlyd, forbilledet er angiveligt begyndelsen af Beethovens niende symfoni [
Dette er handlingens clou: Hollænderens potente, men tomme intervaller (underkvart, prim, kvint) er en urklang, et voldsomt natursymbol. Forløsningsmotivet (durskala, tertsdominans) er ren, følelsesoverstrømmende melodi. Målet er foreningen af de to udtrykssfærer, med Bekkers ord, ”forløsningen af den tertsløse harmonik gennem den udfyldende durmelodik, naturelementets befrielse til menneskelig følen og dermed besjæling og forklarelse”. At Wagner endnu ikke rådede over midlerne til en fuldkommen musikalsk realisering af handlingen, vidner revisionen af ouverturens og tredjeaktens slutninger om: De Tristan-inspirerede takter, han tilføjede i 1860, er musikdramaturgisk set korrekte, men klinger alligevel påhæftede. Alt i alt er handlingen i Den flyvende Hollænder dog så enkel og basal, og samtidig så overbevisende gestaltet, at musikken for første gang i Wagners værk får mere end illustrativ eller ornamental karakter: Den bliver i egentlig forstand handlingsbærende.