José Maria Pereira nasceu em 2 de março de 1958, em Senhora dos Remédios (MG). Realizou sua formação em Filosofia no Seminário Diocesano Nossa Senhora do Amor Divino, em Petrópolis, e em Teologia na Escola Teológica da Congregação Beneditina do Brasil, no Mosteiro de São Bento, no Rio de Janeiro. É também formado em Pedagogia pela Universidade Católica de Petrópolis e mestre em Direito Canônico pelo Instituto Superior de Direito Canônico do Rio de Janeiro. Foi ordenado sacerdote em 7 de dezembro de 1986, sendo incardinado na Diocese de Petrópolis.

Desde o início de seu ministério, destacou-se na área da formação sacerdotal e acadêmica. Atuou por décadas no Seminário Diocesano Nossa Senhora do Amor Divino como professor de Latim e de Metodologia de Ensino e Pesquisa, além de vice-reitor, diretor espiritual, diretor geral e reitor. Foi professor de Teologia e de Direito Canônico na Universidade Católica de Petrópolis, da qual também foi reitor entre 2004 e 2007, além de presidir a associação mantenedora da universidade. Participa da vida intelectual da cidade como membro da Academia Petropolitana de Educação e atua como pregador de retiros, articulista e organizador de conteúdos pastorais.

No campo pastoral, exerceu numerosos encargos paroquiais em diversas comunidades da Diocese de Petrópolis, como vigário, administrador paroquial e pároco, com destaque para a Paróquia São José do Itamarati e a Paróquia São José de Itaipava. Foi também decano, assistente espiritual de movimentos e responsável por múltiplas iniciativas de formação leiga e juvenil. Na diocese, desempenhou funções relevantes como coordenador da Pastoral Vocacional, da Pastoral da Juventude, diretor de cursos teológicos e membro de conselhos diocesanos.

Recebeu em 2008 o título de monsenhor concedido pelo Papa Bento XVI. Exerceu cargos de grande responsabilidade eclesial, como juiz do Tribunal Eclesiástico, vigário-geral e moderador da Cúria Diocesana, além de administrador diocesano entre 2023 e 2024. Em 25 de fevereiro de 2025, foi nomeado pelo Papa Francisco bispo auxiliar da Arquidiocese de São Sebastião do Rio de Janeiro, com sede titular de Sigus, sendo ordenado bispo em 12 de abril do mesmo ano, na Catedral de Petrópolis.