Павел Ковалевский родился 4 августа 1843 года в Казани.

С 1862 по 1871 год Павел Ковалевский учился в Императорской Академии художеств в батальном классе Виллевальде Богдана Павловича. В период своего обучения в стенах Академии П. О. Ковалевский был награждён множеством ученических медалей, в том числе и большой золотой, даровавшей ему право на оплачиваемую заграничную поездку для оттачивания художественных навыков.

В течение трёх лет художник путешествовал по Австрии, Германии и Италии, а затем, практически сразу после завершения своего путешествия, отправился в сопровождение русской армии, выступившей против турков (Русско-турецкая война 1877-1888 гг.) - в это время Ковалевский создал большое количество эскизов и зарисовок, которые в будущем использовал в своей работе.

Живописец Ковалевский Павел Осипович был участником "Общества выставок художественных произведений".

В 1881 году Ковалевскому Павлу Осиповичу было присвоено звание профессора, а в 1897 году он возглавил батальную мастерскую Императорской Академии художеств.

Павел Осипович Ковалевский умер 7 марта 1903 года в Санкт-Петербурге.