A origem da Procuradoria Geral do Estado remonta à antiga Procuradoria dos Feitos da Fazenda Municipal, regulada pelo Decreto n.º 4.710, de 4 de abril de 1934. Este ato normativo determinou que a instituição fosse constituída pelo Procurador-Geral e quatro Procuradores, além de um adjunto-secretário, seis adjuntos de Procurador, cinco avaliadores, cinco escreventes, cinco datilógrafos, dois fiéis e dois serventes.
Em 1938, o Decreto nº 6.344, de 9 de novembro, transformou a instituição na Procuradoria da Fazenda do Distrito Federal e ampliou os seus quadros, que passaram a contar com um Procurador-Geral, nove Procuradores, um secretário, oito adjuntos de procurador, seis avaliadores e uma secretaria composta por nove auxiliares de Procuradoria, um protocolista, seis datilógrafos, três fiéis e cinco serventes.
Após a criação do Estado da Guanabara, em 1960, a Lei nº 134, de 1961, foi responsável pela criação da carreira de Procurador do Estado da Guanabara, com 120 cargos, cuja única forma de provimento seria, desde então, o concurso público.
Esta lei também determinou a organização da Procuradoria em sete especializadas – Procuradoria Fiscal, Procuradoria de Desapropriações, Procuradoria de Assuntos de Pessoal, Procuradoria de Sucessões, Procuradoria de Serviços Públicos, Procuradoria Judicial e Procuradoria Administrativa –, além da criação de uma “Revista de Direito”. Em 1962 e 1963 realizou-se o primeiro concurso para a carreira de Procurador do Estado.
A fusão entre o Estado da Guanabara e o antigo Estado do Rio de Janeiro, em 1975, juntou as Procuradorias dos respectivos estados na atual Procuradoria Geral do Estado do Rio de Janeiro. Em 1980, foi editada a Lei Complementar nº 15 – Lei Orgânica da Procuradoria Geral do Estado, que conferiu à instituição a estrutura atual, contando com 300 cargos de Procurador do Estado do Rio de Janeiro.
Ao longo da história, passaram pelos quadros da PGE Procuradores que, além de contribuírem para o fortalecimento da instituição, conseguiram projeção no cenário da vida nacional. Entre estes, destacam-se Genolino Amado, Francisco Assis Barbosa, Otto Lara Resende, Barbosa Lima Sobrinho, Raimundo Faoro e Luis Roberto Barroso.