Игорь Губерман родился 7 июля 1936 года в Харькове, в семье Мирона Давидовича Губермана (1900—1974) и Эмилии Абрамовны Губерман (1903—1968). После школы поступил в Московский институт инженеров железнодорожного транспорта (МИИТ). В 1958 году окончил МИИТ, получив диплом инженера-электрика. Несколько лет работал по специальности, параллельно занимаясь литературой.

В конце 1950-х познакомился с А. Гинзбургом, издававшим один из первых самиздатских журналов «Синтаксис», а также с рядом других философов, деятелей литературы, изобразительного искусства. Писал научно-популярные книги, но всё активнее проявлял себя как поэт-диссидент. В своём «неофициальном» творчестве использовал псевдонимы, например И. Миронов. Также признался в том, что был настоящим автором («литературным негром») двух книг других авторов: «С того берега. Повесть о Николае Огарёве» Л. Либединской (М.: Политиздат, 1985) и «Побежденное время. Повесть о Николае Морозове» М. Поповского (М.: Политиздат, 1975) обвинению (о покупке краденых икон) и приговорён к пяти годам лишения свободы. Не желая лишнего политического процесса, власти судили Губермана как уголовника по статье за спекуляцию.

Попал в исправительно-трудовой лагерь, где вёл дневники. Затем, уже в период ссылки, на базе этих дневников была написана книга «Прогулки вокруг барака» (в 1980 году написана, опубликована в 1988 году). По окончании срока заключения, в 1984 году, по существующему в то время законодательству, не мог прописаться в Москве. Жил и работал за 101-м километром, в Малоярославце. Игорь Губерман разделил судьбу многих вынужденных обитателей Малоярославца, которым было отказано в прописке в столице, и жил в городе несколько лет. Жизнь в Малоярославце оставила след в творчестве Игоря Губермана. В книге «Десятый дневник» (изд-во «Эксмо», М, 2018) автор уделил городу и его обитателям целую главу.

В 1988 году Губерман эмигрировал из СССР в Израиль, живёт в Иерусалиме.

В 1990 году был удостоен премии «Золотой телёнок» «Литературной Газеты» («Клуба 12 стульев»).

Ведёт гастрольную деятельность, выступает на поэтических вечерах в русскоговорящих странах и перед западной аудиторией.