Джорджиана, как всегда безразличная к мнению общества, появлялась в обществе Чарльза на публике, а во время отсутствия герцога Грей наведывался к ней домой. Об их связи, равно как и о последовавшей беременности, знали мать и сестра Джорджианы и, конечно же, верная Бесс. Они изо всех сил старались скрыть правду от Уильяма. Но один из его друзей донес герцогу, что у Джорджианы роман и она ведет себя совершенно бесстыдно. Кавендиш вернулся, чтобы разобраться в ситуации, и обнаружил, что жена беременна – и не от него.
Во время их встречи в Бате произошла ужасная сцена: герцог кричал, хотя прежде никогда не повышал голос, сорвал со стены портрет Джорджианы и швырнул в камин. Его вопли слышали дети и прислуга, и все затаились в ужасе: никто не ожидал подобных сцен от флегматичного герцога. Кавендиша вполне устраивал любовный треугольник с Бесс, но он не собирался превращать его в квадрат! Измена мужа – одно дело, а жены – совсем другое, тем более что теперь Джорджиана носила ребенка от другого мужчины.
В конце концов, Уильям вынес вердикт: Джорджиана должна срочно уехать из Бата в Саусгемптон, даже не попрощавшись с детьми, а оттуда на Континент, где втайне родит бастарда. Уильям не допускал даже мысли о том, чтобы незаконнорожденный ребенок Джорджианы рос в его доме – рядом с его законными и незаконными детьми. Герцог Девонширский опасался, что родится мальчик. И что при несчастливом стечении обстоятельств – если его родной сын умрет – может случиться так, что наследовать древнейшему роду Кавендишей будет ребенок Чарльза Грея. Этого Уильям Кавендиш не мог допустить.
В изгнание с герцогиней отправилась ее мать, сестра Харриэт вместе с дочерью Каролиной и… Бесс Фостер! В данной ситуации Бесс полностью поддерживала Джорджиану: она даже заявила Уильяму, что не намерена больше рожать от него бастардов, и назвала его «зверем и негодяем».
Во Франции, в старинном городке Монпелье, Джорджиана родила дочку от Чарльза Грея. Ее назвали Элизой Кортни. Но хотя она была всего лишь девочкой и не могла стать наследницей, оставить ее в семье герцог Девонширский все же не пожелал. Элиза Кортни росла у своего родного отца. Вернее, у дедушки с бабушкой по отцовской линии, которых считала родителями, а Чарльза Грея – своим братом. Джорджиана регулярно ее посещала и даже познакомила с ней других дочерей.
Если Джорджиана все же убивалась по оставленным дома детям, путешествие по Европе развеяло ее печаль. Она часто писала домой, описывая живописные виды Италии, и дети с нетерпением ждали новых рассказов. Уильям тоже получал весточки – правда, не от жены, а от ее кредиторов. В Италии Джорджиана вновь наделала долгов, а платить по счетам должен был герцог. Он уже не рад был, что отправил жену в изгнание. Суровое наказание больно било его по карману.
В сентябре 1793 года Джорджиана и Бесс вернулись в Англию.