Сначала все шло как обычно: 19 октября (1 ноября) 1829 года в селе Сура Пинежского уезда Архангельской губернии в семье бедного сельского дьяка Ильи Сергиева и его жены Феодоры родился мальчик.

Поскольку младенец появился на свет очень слабеньким, родители поспешили окрестить его, чтобы не умер нехристем. И с именем для ребенка родители особо не мудрствовали: как раз в день его рождения был праздник в честь преподобного Иоанна Рыльского. Так что малыша назвали тоже Иоанном.

Умирать он не спешил и вскоре после крещения стал набирать вес. Благочестивые родители сочли это чудом и с раннего детства стали готовить мальчика к участи священнослужителя.

Жизнь тем временем не баловала ни самого Иоанна, ни его родителей своими благами. Приход был бедным, и семья все время жила на грани нищеты. Видимо, из-за недоедания мальчик развивался плохо, никак не мог запомнить буквы, которым учил его отец. Но дьякон надеялся на чудо, и в 1839 году, когда сыну шел десятый год, отвез его в Архангельское приходское училище.

Иоанн чувствовал себя там очень одиноко; занятия превратились для него в кошмар. Мальчик плохо усваивал материал, едва мог читать, да и память у него оказалась плохой. Естественно, над таким учеником его сверстники вскоре стали весьма зло подтрунивать. Иоанн искал утешение в молитве.

И вот однажды ночью, по его воспоминаниям, случилось невероятное: мальчик ощутил, будто его что-то встряхнуло, а на душе вдруг стало очень легко и радостно. Будто «завеса спала с глаз, как будто раскрылся ум в голове». Иоанн вдруг ясно представил себе учителя, последний урок, словно заново услышал каждое слово педагога и учеников.