Несмотря на создание «Дома трудолюбия» со всеми его отделениями, нищие, казалось, со всей страны в огромном количестве продолжали с утра поджидать отца Иоанна. В ожидании милостыни они выстраивались в одну, две и даже в три шеренги перед домом батюшки или перед кронштадтским собором. Эти шеренги получили прозвище «строй отца Иоанна». Поначалу он лично обходил свой «строй», в котором собиралось порой до тысячи человек, и раздавал по рублю на двадцать нищих. Позже это стали делать доверенные лица.

Еще большее восхищение и удивление вызывает церковное строительство отца Иоанна. Он сооружал храмы Божии и целые монастыри — миллионные сооружения. Тот самый Иоанновский монастырь, где по завещанию похоронен праведник, стоил около полутора миллионов рублей. Но, как всегда, начиналось строительство буквально с нескольких рублей. И только сила молитвы и любви основателя привлекали нужные капиталы.

Идея о постройке Иоанновского монастыря в Санкт-Петербурге на речке Карповке появилась после того, как в 1900 году отец Иоанн отстроил в своем родном селе Суре Архангельской губернии Сурскую женскую общину.

В обширных архангельских лесах в изобилии встречались скиты раскольников беспоповцев поморского типа. Счет им шел на сотни — а женских монастырей насчитывалось только два. Монастыри были необходимы в том краю для миссионерской деятельности и мирной борьбы с расколом. Отец Иоанн всегда выступал с обличением фанатиков, но без всякой тени личной вражды, причем даже оказывал нуждающимся раскольникам помощь.

Отец Иоанн начал с того, в чем более всего нуждалось православное население, — с церкви. В Суре, правда, стояли две ветхие церкви, которым было двести и триста лет. Они уже покосились, что давало беспоповцам основание для обличения православных и повод называть храмы «кривыми». Действительно, и та и другая скорее походили на простые крестьянские избы.

Отец Иоанн обратился к своим почитателям, и вскоре на руках у него оказалось 55 500 рублей. Помимо денежной помощи, от жертвователей привозились иконы, хоругви, церковная утварь, облачения, богослужебные книги. В 1891 году храм был готов и 27 июня освящен.

Окончив первое святое дело, кронштадтский батюшка задумал осуществить и другое — построить на родине женскую общину, которая могла бы стать приютом для вдов, сирот, престарелых и безродных девиц. В 1899 году было начато строительство, а через год к приезду на родину отца Иоанна уже возвели церковь и корпус для сестер.

Устроив и освятив Сурскую женскую общину, основатель решил упрочить ее существование. Для этого было задумано построить два подворья в Архангельске и Петербурге. Постройка в Архангельске была не особо затруднительной — дешевизна земли, лесного материала и рабочих рук облегчала задачу. Что же касается постройки подворья в Петербурге, то батюшке немало пришлось похлопотать.

Самым трудным оказалось найти удобное место для строительства в столице, поскольку земля стоила очень дорого. Но неожиданно нашелся благотворитель — купец Симеон Раменский, который пожертвовал свой участок земли в 500 квадратных саженей на доброе дело. Участок оказался очень удобным. Он находился на Аптекарском острове, на берегу реки Карповки, и хоть и был удален от шумного центра, но находился вблизи Каменноостровского проспекта, по которому ходил трамвай, связывающий с центром города.

Получив разрешение от епархиального начальства, отец Иоанн решил поначалу вести дело в скромных размерах. Но сразу же явилось несколько крупных благотворителей, в том числе и талантливый архитектор Н. Н. Никонов, который очень быстро составил проект всех архитектурных работ. С той же быстротой начались сами работы. В короткий двухлетний срок появилось грандиозное сооружение, которое по обширности и красоте не уступает лучшим архитектурным памятникам столицы.

Осенью 1902 года отец Иоанн обратился к петербургскому митрополиту Антонию: «...Я нашел, что это сооружение в столице слишком художественно и обширно, чтобы ему быть подворьем... и что ему лучше быть петербургским самостоятельным женским монастырем в ведении одного митрополита Санкт-Петербургского, с тем неизменным всегда условием, чтобы третья часть доходов обители (только не от доходов каменного пятиэтажного дома при обители) поступала ежегодно в разные сроки года в Сурскую женскую обитель и чтобы на первых порах не облагать эту новую обитель разными обязательствами и налогами, требующими больших денежных расходов». Просьба основателя монастыря была уважена, и Сурское подворье превратилось в Иоанновский женский монастырь, названный так в честь небесного покровителя отца Иоанна — св. Иоанна Рыльского.

17 декабря 1902 года состоялось торжественное освящение главного монастырского храма в честь св. Двенадцати Апостолов с приделами Казанской Божией Матери и св. Андрея Критского. К тому времени в монастыре уже жили монахини, большинство перешло из Сурской общины; тридцать бедных девиц подготовлено к монастырской жизни в Аеушинском монастыре игуменьей Таисией. В подвальном помещении храма находилась еще одна церковь, в честь пророка Илии и преподобной Феодоры, чьи имена носили родители отца Иоанна.

В январе 1909 года определением Святейшего Синода Иоанновский монастырь получил статус первоклассного. Еще при жизни батюшки его молитвами и трудами монастырь стал вполне благоустроенным и находился на полном самообеспечении. В обители проживало более 350 насельниц. В монастыре работали золотошвейная и белошвейная мастерские, типография, большая иконописная мастерская, лазарет на десять коек, просфорня с двумя печами. Перед монастырем с восточной стороны был разбит небольшой сад, а с западной находился образцовый огород, с которого сестры ежегодно снимали богатый урожай, несмотря на его небольшие размеры.