Родился в семье портного и прачки. В семье было трое детей. Отец умер, когда Петровскому было три года. Проучился два с половиной года в Харьковской семинарии. С 11 лет работал в мостовых мастерских железной дороги, в 15 лет поступил на Брянский металлургический завод в Екатеринославе.

В 1897 г. примкнул к Екатеринославскому «Союзу борьбы за освобождение рабочего класса», с 1898 г. член РСДРП. В 1905 г. секретарь Екатеринославского Совета рабочих депутатов и член стачечного комитета.

Попадал в тюрьму в 1900, 1903 гг. В длительной эмиграции не был (только несколько месяцев в Германии, 1906 г.).

В 1912 г. токарь с мариупольского завода «Провиданс» Петровский был избран депутатом VI Государственной Думы от рабочей курии Екатеринославской губернии. В январе 1913 г. кооптирован в члены ЦК РСДРП. В октябре 1913 г. стал председателем образованой 6-ю большевиками Социал-демократической рабочей фракции Думы. Официальный издатель газеты «Правда».

В ноябре 1914 г. арестован и в феврале 1915 г. осуждён к лишению всех прав состояния и высылке на вечное поселение в Туруханский край. Освобожден Революцией. Комиссар Якутии и председатель местного Комитета гражданской безопасности. В июле 1917 г. направлен руководством партии в Донбасс, член Екатеринославского губернского комитета РСДРП(б), гласный городской думы и председатель её большевистской фракции. Член Предпарламента.

Петровский был вторым советским наркомом внутренних дел (17(30).11.1917 — 30.03.1919 гг.). В 1918 г. участвовал в переговорах с немцами по поводу Брестского мира.

Кандидат в члены ЦК РКП(б) в 1918—1919, 1920—1921 гг.. Член ЦК РКП(б) — ВКП(б) в 1921—1939 гг.. В 1926—1939 гг. кандидат в члены Политбюро ЦК. Председатель Всеукраинского ЦИК с 10.03.1919 по 25.07.1938 гг.

Председатель Всеукраинского революционного комитета (11.12.1919 — 19.02.1920 гг.). Со стороны УССР подписал Договор об образовании СССР и являлся одним из сопредседателей ЦИК СССР. А так же был председателем Всеукраинского ЦК «незаможних селян» (неимущих крестьян) в 1920—1923 гг, занимал важные посты в Коминтерне.

После принятия новой Конституции 1936 г., утвердившей новую систему Советов избран депутатом Верховного Совета СССР 1 созыва (1937—1946 гг.) и переместился на пост заместитель председателя Президиума Верховного Совета СССР с 17.01.1938 по 31.05.1939 гг.). В 1939 г. подвергся критике за попустительство «врагам народа» из числа руководителей Украины и снят со всех постов, еще ранее были арестованы несколько членов семьи Петровского. Более полугода оставался без работы, пока в 1940 г. директор Музея Революции Самойлов А. Ф. (в прошлом так же депутат-большевик VI Думы) не устроил его своим заместителем по административно-хозяйственной и научной части. В Музее Петровский и трудился до смерти.

После смерти прах Петровского был помещён в урне в Кремлёвскую стену на Красной площади в Москве.