Родился в семье польских евреев. Перед войной родители Йозефа изменили фамилию Левинкопф на Косински и укрылись в селе Дамбров-Жечицки от наступающих нацистов.

После войны Йозеф окончил Университет Лодзи, работал ассистентом в Институте истории и социологии Польской академии наук, учился в Москве.

20 декабря 1957 года эмигрировал в США. Учился в Колумбийском университете. В 1964 опубликовал первый роман «Раскрашенная птица». Был дважды женат.

2 мая 1991 года покончил с собой, отравившись барбитуратами.