Испытав неудачу с изданием первой книги, Гиляровский решил выступить как поэт. Он собрал стихи разных лет и в 1894 году издал сборник «Забытая тетрадь», со страниц которого опять-таки вставал образ поэта-бродяги. В стихотворении «Бродяга» Гиляровский пишет:

Поэт мечтает о скором приходе солнца и счастья на его землю, верит, что настанет желанное время и «разгонит мрак нависших туч». Но вместе с тем чувства усталости и неверия берут иногда верх. Былые мечтания, по его словам, «разбились в прах», он разучился мечтать о счастье. Стихи Гиляровского к тому же не обнаруживали самобытного поэтического дарования. Горький дал отрицательную оценку одному из изданий «Забытой тетради», да и сам Гиляровский вряд ли был удовлетворен своей поэтической работой. Не она определяла его творческое лицо, его возможности.

Отдавшись с новой силой репортерству, он метался в поисках живого жизненного материала: то слал с берегов Дона в «Русские ведомости» корреспонденции о свирепствовавшей там холере, то объезжал гоголевские места на Украине и, собрав интересный материал, издал книгу «На родине Гоголя» (1902), то отправлялся в поездку на Балканы и выпустил потом книгу «Шипка прежде и теперь», то, поехав в Албанию, оказался вдруг в Белграде и едва, по словам Н. Телешова, унес оттуда свою голову (там в это время свирепствовал террор), то писал гневные статьи о русскояпонской войне, разоблачая царских интендантов, нажившихся на бедствиях народа. Работа журналиста требовала колоссальной энергии и почти не составляла времени для беллетристики. Лишь в 1900 году Гиляровский выпустил книгу своих рассказов— «Негативы», а затем в 1909 году другой сборик — «Были». Посылая «Негативы» одному из вологодских знакомых, Гиляровский писал:

В «Негативы», как и в «Были», Гиляровский включил значительную часть автобиографических рассказов, связанных с воспоминаниями детства, с годами скитаний по России («Надюшины цыплята», «Дядя», «В огне», «Преступление»), но эти рассказы были далеки от его основных творческих интересов. Он попрежнему стремился писать о народных страданиях и бедствиях, о «трущобных людях», выброшенных за борт жизни, но цензурные условия не позволяли делать то, что было по душе писателю, поэтому приходилось смягчать откровенные выражения в ранее опубликованных рассказах, давать их под нейтральными названиями («Человек и собака» — «Бродяга», «Обреченные» — «Свинец», «Без возврата»— «Часовой», «Один из многих» — «Обыкновенный случай», «Потерявший почву» — «Некуда»).

В рассказе «На плотах» писатель вновь обращается к своей теме. Он рисует быт плотовщиков, их тяжелый труд, показывает на судьбе багорщика Никиты разорение деревни, бедственное положение крестьянина. Еще недавно Никита жил своим хозяйством, а теперь распалась его семья, младшие дети умерли «от горла» и «от живота», старший сын ушел в город и погиб в его трущобах. Стоит теперь в деревне почерневшая изба с соломенной крышей, наполовину съеденной коровой. Уходя в плотовщики, чтобы прокормить себя и старуху, Никита оставляет значительную часть заработка в московских трактирах. Он уже на пути в трущобы.

Как беллетрист Гиляровский не мог развернуть свой талант в жестоких условиях царской цензуры. Он то переключался на поэзию, то совсем замолкал. Только Великая Октябрьская революция дала ему возможность откровенно расскааать о том, что он видел за годы своей жизни.

Задолго до революции в одном из стихотворений Гиляровский писал:

Вера в могучие народные силы, ожидание «весны золотой», знание истинного положения обездоленных людей — все это и привело Гиляровского к горячему восприятию Октябрьской революции. Начался самый плодотворный период в его творческой жизни. Он напряженно работал даже в суровые годы гражданской войны. В декабре 1917 года Гиляровский закончил и читал друзьям поэму «Петербург». Тема народной вольницы постоянно привлекала его, он не уставал писать о своем любимом герое Степане Разине, но только лишь в советские годы ему удалось осуществить свою давнюю мечту, полностью опубликовать поэму «Стенька Разин» (1922).

Несмотря на преклонный возраст, Гиляровский был полон молодой энергии, активно сотрудничал в советской печати («Известия», «Вечерняя Москва», «Прожектор», «Огонек» и др.). За день он успевал иногда побывать в нескольких редакциях— то сдаст статью, то расскажет о старой Москве, то одобрит начинание нового поколения литераторов.

Гиляровский не мог жить только воспоминаниями о прошлом, он смело шел навстречу новой жизни, искренне радовался ей, был чуток и отзывчив на все современное. «… Все еще лихой, бравый, — вспоминает В. Лидии, — гордый своей не поддающейся времени выправкой, с суковатой палкой в руке, он тянулся к молодым, он не хотел отставать…, не сдавался: он шел туда, где были люди, он еще шумел, похохатывал, рассказывал случаи из долголетней своей жизни, „одалживал“ табачок, иногда сгибал руку, чтобы пощупали мускулы, — весь в сегодняшнем дне и меньше всего в прошлом».

Старый писатель спешил сделать то, что не успел сделать за многие годы своей бурной и беспокойной жизни. Не зная отдыха, он отдавал теперь свои последние силы только литературе. В доме Гиляровского и на даче, как и прежде, собирались давние и молодые друзья. На этих задушевных беседах он рассказывал о жизни, о тех, с кем дружил, встречался, работал рядом, бок о бок. Эти рассказы доставляли и автору и слушателям большое удовольствие. Оставаясь один, Гиляровский записывал их почти теми же словами, как рассказывал. Все, что сохранила его удивительная память, все, что когдато было записано на ходу, иногда даже на крахмальных манжетах, — все это нужно было теперь привести в систему, рассказать живо и образно. «Я просто беру людей, события, картины, как их помню, — говорил Гиляровский, — и подаю их в полной неприкосновенности, без всяких соусов и гарниров». Но в этих его словах еще не вся правда. Он никогда не был «кабинетным писателем», а эта работа требовала большой усидчивости, тщательной шлифовки композиции и слова.