В 1636 году Ферма писал Мерсенну: «Святой отец! Я Вам чрезвычайно признателен за честь, которую Вы мне оказали, подав надежду на то, что мы сможем беседовать письменно…Я буду очень рад узнать от Вас о всех новых трактатах и книгах по математике, которые появились за последние пять-шесть лет…Я нашел также много аналитических методов для различных проблем, как числовых, так и геометрических, для решения которых анализ Виета недостаточен. Всем этим я поделюсь с Вами, когда Вы захотите, и притом без всякого высокомерия, от которого я более свободен и более далек, чем любой другой человек на свете».
Здесь следует сказать, что корреспонденты Мерсенна не слишком благосклонно встретили нового участника переписки. Многие идеи Ферма показались его коллегам спорными, а многочисленные задачи, которые он излагал в своих письмах, часто казались им неразрешимыми. Иногда так и было на самом деле: решения самого Ферма оказывались ошибочными. Особо конфронтационной была переписка Ферма с Рене Декартом. «Выскочка из Тулузы» осмеливался оспаривать некоторые суждения «великого координатора». Свой ответ на одно из писем Ферма Декарт даже назвал «Малый процесс Математики против господина Ферма», возможно, намекая на основной род занятий оппонента.
Как и большинство ученых-современников, Ферма интересовался самым широким кругом математических проблем. Его не без основания считают одним из основоположников теории чисел. Ферма создал универсальный метод нахождения делителей произвольного числа, открыл теорему, согласно которой произвольное число можно представить суммой не более четырех квадратов. Также ему принадлежит честь открытия двух «именных» теорем: «малой» и «большой». Эти теоремы сыграли большую роль в развитии теории чисел. «Малая» теорема гласит: для любого простого p и любого a > = 1, которое не делится на p, разность ap–1–1 делится на p. Несколько видоизмененная «малая теорема» Ферма стала самым простым и эффективным способом нахождения простых чисел. Интересно, что изложив эту теорему в одном из писем, Ферма сделал приписку: «Я бы Вам прислал доказательство, если бы не опасался быть слишком длинным». Доказательств этой теоремы Ферма не оставил, возможно, потому, что не имел их. «Малая теорема» Ферма была доказана Лейбницем.
Об истории «большой теоремы» Ферма следует рассказать поподробнее. Как мы уже писали в начале статьи, сам Ферма на полях «Арифметики» Диофанта изложил теорему и сообщил, что нашел ее доказательство. Но записи самого доказательства Ферма не оставил. По мнению современных ученых, Ферма и не доказал свою знаменитую теорему, а либо создал ошибочное доказательство, либо сознательно ввел в заблуждение своих коллег. В пользу такой точки зрения, например, свидетельствует тот факт, что позднее сам Ферма вывел доказательства своей теоремы только для частных случаев: