Родился 8 августа 1927 года в Москве в семье рабочего, выходца из крестьян Смоленской губернии. В автобиографии (1965) писал: «В роду нашем, насколько мне известно, не было ни одного образованного человека, хотя талантливы были многие».

Впечатления военного времени нашли отражение в неоконченной повести «Две ночи» («Разлучение душ»). Когда Юрий был подростком, началась война. Казаков вместе с другими мальчишками лазил по крышам, тушил зажигалки, помогал старикам. Был контужен при взрыве бомбы, упавшей в соседнем квартале. С тех пор всю жизнь заикался.

Окончил Московский архитектурно-строительный техникум (1946). Когда Юрию было 15 лет, он начал заниматься музыкой. Сначала овладел игрой на виолончели, а потом на контрабасе. Затем поступил в музыкальное училище имени Гнесиных (1946). Был принят в состав оркестра Московском академическом Музыкальном театре имени К. С. Станиславского и Вл. И. Немировича-Данченко. Однако уже в 1952 году он понял, что музыка не является его призванием, так как он хочет заниматься литературой. В учебные годы он любил заниматься альпинизмом, охотиться, ловить рыбу, много ходить пешком и ночевать, где застанет ночь.

Первые произведения Казакова появились в печати в 1951—1953 годах (пьеса «Новый станок», рассказ «Обиженный полисмен»). Быстро обратили на себя внимание рассказы молодого автора. Учился в Литературном институте им. М. Горького (1953—1958).

Первая поездка писателя на Беломорье состоялась в 1956 году по заданию журнала «Знамя», когда он был студентом Литинститута.

Русский Север притягивал писателя своим магнитом: непокорностью природы и самобытностью культуры коренного поселения (язык, обычаи, быт и хозяйство). На протяжении многих лет заполнял он «Северный дневник» — собрание путевой прозы, исторических экскурсов, портретов поморов. Одно из последних произведений — повесть «Мальчик из снежной ямы» — повествует о неординарной судьбе ненецкого самородка Тыко Вылки.

В 1964 году принял участие в написании коллективного детективного романа «Смеётся тот, кто смеётся», опубликованного в газете «Неделя». Весной 1967 года Казаков ездил в Париж собирать материалы для задуманной книги о своём любимом писателе — Иване Бунине. Он встречался с литераторами Б. К. Зайцевым, Г. В. Адамовичем и другими людьми, которые близко знали Бунина. Книга в итоге не была написана.

В 1967 году издательство «Галлимар» издало сборник рассказов писателя и присудило Казакову свою премию за лучшую книгу на французском языке. Лучшие рассказы Казакова были переведены на основные языки Европы, а в Италии ему была присуждена Дантовская премия (1970) за вклад в мировую прозу.

В 1969 году вышел сборник рассказов «Осень в дубовых лесах», в 1970-е — знаменитые рассказы «Свечечка» и «Во сне ты горько плакал» (последнее законченное Казаковым произведение). Оба рассказа построены в качестве лирического монолога отца, обращённого к маленькому сынишке.

Умер 29 ноября 1982 года в военном госпитале от кровоизлияния в мозг. Похоронен в Москве на Ваганьковском кладбище (уч. № 40). Там же похоронена вдова писателя Тамара Михайловна Судник (1939—2021), которая принимала активное участие в редактировании всех книг мужа.