Родился в семье ссыльного поселенца Филиппа Семёновича Данилина и его жены Марии Александровны, у которых был ещё один сын, Семён. Образования Павел не получил, сын Нилина — Александр — предполагал, что отец вообще не ходил в школу, а грамоте был обучен своей матерью, воспитательницей в детском доме. Заболевание в детстве полиомиелитом привело к хромоте.

Служил в уголовном розыске в Тулуне под Иркутском. С 1924 сотрудничает в иркутской газете «Власть труда». С 1927 года работает журналистом. В 1928 Павел Нилин отправляется повидать «остальной» мир. В Самаре сотрудничает в «Средневолжской коммуне», на Донбассе, в Шахтах заведует отделом и пишет фельетоны в «Красном шахтёре». В 1929 году Нилин переезжает в Москву. Сначала сотрудничает в «Гудке», затем — в «Известиях», а с 1933 года — в журнале «Наши достижения». В 1936 году в журнале «Новый мир» опубликован его роман о шахтёрах Донбасса «Человек идёт в гору». Там же в 1937 году напечатаны первые рассказы. Роман «Человек идёт в гору» Нилин в 1939 году переработал в сценарий фильма «Большая жизнь». Тем не менее 2-я серия фильма, снятая после войны, была запрещена к показу и вышла на экраны только в 1958 году в переработанном виде.

Всеобщее признание пришло к Нилину главным образом благодаря повести «Жестокость» , переработанной из рассказа 1946 года; речь в ней идёт о борьбе с преступностью, становлении и судьбах молодых людей в 1920-е годы.

Выступал на расширенном заседании президиума правления Союза писателей СССР 27 октября 1958 года, осудившем Б. Пастернака, сказал, что надо помнить: у баррикады есть только две стороны.

Член правления СП СССР с 1971 года.

Похоронен в Москве на Ваганьковском кладбище.