Будущий святитель Иоанн (Максимович) родился 4/17 июня 1896 года в селе Адамовка Харьковской губернии, на юге Российской империи. Младенец был крещен с именем Михаил в честь Архистратига Михаила.
Его родители Борис и Глафира Максимовичи принадлежали к малороссийскому дворянству. В их роду было множество благочестивых верующих людей. Одним из них был святитель Иоанн Тобольский († 1715), прославленный в лике святых.
Мальчик рос необыкновенно послушным, – родители не испытывали трудностей с его воспитанием. Особое почтение к родителям осталось у него на всю жизнь, он всегда считался с их мнением.
Он любил молитву, часто молился по ночам, любил духовные книги, особенно жития святых. Также Михаил очень почитал иконы и покупал их в таком количестве, что вскоре в доме Максимовичей не осталось места, куда можно было бы поставить новую икону. Когда отец запретил отроку приобретать новые иконы, тот попросил разрешения купить последнюю. Ею оказалась икона «Всех святых, в земле Российской просиявших».
Святитель вспоминал впоследствии: «С самых первых дней, как я стал осознавать себя, я захотел служить праведности и истине. Мои родители зажгли во мне усердие непоколебимо стоять за правду, и душа моя была пленена примером тех, кто предал за нее жизнь».
Вера мальчика и его благочестие так сильно повлияли на его бывшую гувернантку-католичку, что она перешла в Православие. Михаил, которому на тот момент исполнилось пятнадцать, помогал ей подготовиться к этому шагу, учил ее молитвам.
Недалеко от родительского имения, на лесистом берегу реки, находился прославленный Святогорский монастырь с чудесными храмами, пещерами, скитами, многочисленной братией и афонским уставом. Этот монастырь произвел неизгладимое впечатление на отрока.
В Харькове служили пастыри высокой духовной жизни: протоиерей Николай Загоровский, владыка Антоний (Храповицкий), в те годы архиепископ Харьковский, которые оказали большое влияние на будущего архипастыря. А владыка Антоний, по словам святителя Иоанна, «сделался навсегда руководителем его духовной жизни».
Отец Иоанн писал позднее о владыке Антонии: «К каждому приходившему к нему за духовным советом он относился как к своему духовному сроднику, телесное родство перестало для него существовать после принятия им монашества. Всякому обращающемуся к нему за поддержкой и помощью он себя считал обязанным помочь как своему ближнему, отдавая нередко последнее, что имел, а сам испытывая подчас лишения».