Nasceu na Palestina e recebeu dos pais exemplar formação literária e cristã. Seguiu uma vida de oração, jejum e estudos. Muitos peregrinos iam procurá-lo para aprender com seus ensinamentos e conselhos. Aos sessenta anos João foi eleito por unanimidade abade geral de todos os eremitas da serra do Monte Sinai.