Родился 11 октября 1826 года в селе Михайлов Погост Великолукского уезда. Окончил Псковскую духовную семинарию.
В 1848 году стал священником Успенской церкви и оставался им до самой смерти. 37 лет своей жизни он посвятил служению в церкви и Великим Лукам.
В 1860 году при Успенской (Коломенской) церкви им на собственные средства была открыта двухлетняя школа для крестьянских девочек, просуществовавшая 14 лет и преобразованная в женское городское училище. В 1862 году создал бесплатную библиотеку для крестьянских детей. Несколько лет отец Иоанн был законоучителем великолукских учебных заведений.
Протоиерей Иоанн Михайлович Пульхеров - один из первых великолукских краеведов. Издал книги «Великолуцкий Троице-Сергиев мужеский третьеклассный монастырь» (Псков, 1870 год) и «Великолуцкая Успенская церковь» (Псков, 1879 год).
Скончался протоиерей Иоанн Пульхеров 23 ноября 1885 года. Похоронен в Великих Луках.