Когда Джону было пять лет, его отец попал в тюрьму за мошенничество, что, по словам ле Карре, повлияло на его склонность к детективам.

Учился в школе сначала в Беркшире, в школе Сент-Эндрю, потом в Дорсете.

В 1948 году ле Карре уехал в Швейцарию, где учился в Бернском университете, там он год изучал немецкую литературу, затем проходил военную службу в Австрии в составе Британского разведывательного корпуса.

После военной службы учился в Оксфорде — с 1952 года в его Линкольн-колледже, который окончил в 1956 году с первоклассной степенью с отличием по современным языкам. Там он сотрудничал с контрразведкой МИ-5 для слежки за левыми, внедрившись в их сообщество, для чего Джон вступил в Оксфордский университетский коммунистический клуб и другие их организации.

Два года (1956/58) ле Карре преподавал французский и немецкий языки в Итонском колледже, а в 1958 году начал работу в качестве штатного сотрудника МИ-5.

В 1959 году он перешёл на работу в разведслужбу МИ-6, где работал последующие пять лет под дипломатическим прикрытием в ФРГ. Вначале он занимал должность второго секретаря посольства Великобритании в Бонне, затем — консула в Гамбурге.

Ле Карре опубликовал свой первый роман «Звонок мертвецу» в 1961 году. В это время он работал на государственной службе, поэтому был вынужден взять псевдоним. Бестселлером стала третья книга — «Шпион, пришедший с холода», после выхода которой ле Карре уволился из Министерства иностранных дел и посвятил себя литературному творчеству. Большое внимание критиков и публики привлёк роман «Маленькая барабанщица» (1983), также ставший бестселлером.

В 1954 году он женился на Анне Веронике Шарп. Через год после развода, последовавшего в 1971 году, женился на Валерии Джейн Юстас. У писателя 4 сына (Саймон, Стивен и Тимоти от первого брака и Николас — от второго) и 12 внуков. После выхода в отставку он жил на греческих островах, затем вернулся на родину.

В 1987 году Ле Карре приезжал в СССР. Работая над книгой «Сингл и Сингл», в 1998 году дважды посетил Грузию, в частности западные области — Мегрелию (Сенаки, Накалакеви, Бетлеми и так далее).

В обществе Джона ле Карре находился Иосиф Бродский в момент объявления о присуждении ему Нобелевской премии по литературе.

Ле Карре умер 12 декабря 2020 года в Королевском Корнуоллском госпитале в городе Труро, Корнуолл. Ранее причиной смерти сообщалась пневмония, однако коронерское дознание установило причиной смерти травмы, полученные ле Карре при падении в своём доме. По заявлению старшего сына писателя, Саймона, «папа встал ночью, что не редкость, и поскользнулся или споткнулся в ванной»; кроме того, он также уточнил, что мобильность его отца была «ограниченной, но амбициозной».

Вдова ле Карре, Валери, скончалась 27 февраля 2021 года, в возрасте 82 лет.