Родился в семье инженера-конструктора Московского электролампового завода Леонида Михайловича Анчарова (у. 1968) и его жены, преподавателя немецкого языка Евгении Исаевны Анчаровой (у. 1959), в Москве. Посещал музыкальную школу и детскую изостудию при ВЦСПС. В 1940 г. поступил в Архитектурный институт. В июле 1941 ушел из института и вместе с Юрием Ракино, соучеником по изостудии, подал заявление в райвоенкомат с просьбой зачислить добровольцем на фронт. По направлению райвоенкомата сдал экзамены и поступил в Военный институт иностранных языков Красной Армии (ВИИЯКА), где изучал китайский язык. В том же году женился на однокласснице Наталье Суриковой. По окончании института в 1945 году в качестве военного переводчика с китайского языка был направлен на Дальневосточный фронт, участвовал в боевых действиях Советской армии в Маньчжурии. В декабре 1946 откомандирован в Москву. Демобилизовавшись в 1947 г., жил на случайные заработки. В 1948 году подал документы на живописное отделение ВГИКа. Знакомство с Т.И. Сельвинской, студенткой МГХИ, изменило его планы: он забрал документы из ВГИКа и поступил в Московский государственный художественный институт им. Сурикова на факультет живописи. В 1949 развелся с первой женой. В 1950 вступил в КПСС. В 1953 женился на Джое Афингеновой. В 1954 закончил МГХИ, в том же году была задумана и написана пьеса о Леонардо да Винчи, позднее включенная в роман "Дорога через хаос".

Ещё в 1937 Анчаров начал сочинять песни на стихи Александра Грина, Бориса Корнилова, Веры Инбер. Во время войны (уже с конца 1941) стал писать песни на собственные стихи, исполняя их под собственный аккомпанемент на семиструнной гитаре. Считается основателем жанра авторской песни («первым бардом»); Владимир Высоцкий называл Анчарова своим учителем. В 1974 у него вышла первая грампластинка.

В 1955-1958 учился на курсах киносценаристов, в 1956 принят на работу референтом-сценаристом в сценарную мастерскую при Сценарной студии Управления по производству фильмов Министерства культуры СССР. В 1959-61 снова жил на случайные заработки. В 1962 вместе с В. Аксеновым и А. Зархи создан сценарий художественного фильма "Мой младший брат", в 1963 вместе с Ю. Вышинским и Д. Афиногеновой создан сценарий телефильма "Апассионата". В 1963 разорвал отношения с Джоей Афиногеновой.

В 1964 наряду с сочинением песен и стихов начал писать прозу. 27 декабря 1966 становится членом Союза писателей СССР.

В 1969 женился на Н.Г. Поповой, в 1975 на Ирине Биктеевой. В 1981 у них родился сын Артем.

Наиболее известные прозаические произведения — повести «Как птица Гаруда», «Самшитовый лес», «Сода-Солнце» и «Записки странствующего энтузиаста». Анчаров также был сценаристом в фильмах «День за днём», «Мой младший брат» и «Аппассионата». Автор нескольких десятков авторских песен, в том числе таких популярных, как «Песенка про психа» («Балалаечка»), «МАЗы», «Большая апрельская баллада», «Баллада о парашютах», «Песня про органиста, который в концерте Аллы Соленковой заполнял паузы, пока певица отдыхала», «Антимещанская песня», «Песня про низкорослого человека, который остановил ночью девушку возле метро „Электрозаводская“», «Сорок первый».

Анчаров скончался 11 июля 1990 г. Урна с прахом захоронена в колумбарии Нового Донского кладбища в Москве.