Детство Джона прошло в Милуоки. Окончив колледж Carroll, он стал лётчиком. В годы Второй мировой войны служил в авиации. После войны Болл работал радиокомментатором, помощником куратора планетария, музыкальным редактором на радиостанции «Бруклинский орёл». Много лет прослужил лётчиком. Написал более 10 романов. Наиболее известен его антирасистский роман 1965 года «Душной ночью в Каролине» с участием чернокожего детектива Вирджила Тиббса. За этот роман он получил премию Эдгара Аллана По за лучший первый роман американского писателя. Произведение было экранизировано. Роман вошёл в список «100 самых лучших романов XX века по версии Независимой ассоциации торговцев детективной литературой»