Изучив эту книгу Бартенева и сделав свои пометки, Владимир Ильич совершил продолжительную прогулку по Кремлю; в течение трех дней он обходил и подробно осматривал здания, дворцы, Грановитую палату, боярские терема и, наконец, дважды прошел по стенам Кремля, подходя к каждой башне и интересуясь их состоянием.

Одна из башен была разбита нашей артиллерией, когда приходилось выживать из Кремля юнкеров; Владимир Ильич распорядился ее отремонтировать, а также осмотреть и другие башни. Это было первое указание Владимира Ильича по восстановлению кремлевских памятников старины. За ним последовало его личное распоряжение о реставрации храма Василия Блаженного. 
Владимир Ильич прочитал в книге С. П. Бартенева, что одно крыло собора, находящегося близ Ивана Великого, заложено кирпичом во времена Николая I и превращено в сарай для фуража. Владимир Ильич с негодованием сказал: 
— Ведь вот была эпоха, — настоящая аракчеевщина. Все обращали в сараи и казармы: им совершенно была безразлична история нашей страны. Надо сейчас же, немедленно это крыло открыть. Смотрите, какое оно интересное, судя по чертежу, который здесь приложен. 
Через несколько дней реставрационная комиссия, которая была образована при Советском правительстве, стала работать над восстановлением крыла. Владимир Ильич, гуляя, не раз останавливался около места работ и смотрел, как постепенно открываются старые очертания древнего собора. 
— Совсем иной вид, — говорил Владимир Ильич,— тут виден художник-архитектор, а раньше было удивительно смотреть, — так не гармонировала эта пристройка со всем собором. Оказывается, тут не в соборе дело и не в архитекторе, а в Николае I, в аракчеевщине! 
Следующей реставрационной работой в Кремле было восстановление фресок в Успенском соборе. Работа эта продолжалась долго. Владимир Ильич часто заглядывал в собор, внимательно рассматривал великолепные фрески и изображения старой итальянской живописи XV—XVI веков, которые обнаруживались после смывания мест, закрашенных различными нашими богомазами. 
Единственно, что Владимир Ильич нашел нужным из Кремля удалить, — это абсолютно не гармонировавший с кремлевским ансамблем памятник Александру II с подступами к нему в ложнорусском стиле и мозаичными портретами царей. 
— Вот здесь надо поставить памятник Толстому,— сказал как-то Владимир Ильич. — Где отлучали Толстого от церкви? — спросил он меня. 
— В Успенском соборе... 
— Вот и хорошо, самое подходящее его убрать (он показал на памятник Александру II), а здесь поставить хорошую статую Льва Толстого, обращенную к Успенскому собору. Это будет как раз кстати. 
Эта идея Владимира Ильича не осуществилась еще до сего времени. 
Несмотря на всю свою занятость, Владимир Ильич обращал большое внимание на архитектурные древности Москвы и других городов. Так, когда белогвардейцы артиллерийским огнем разрушили Ярославль, он принимал самое горячее участие в восстановлении этого старинного русского города. Была организована специальная комиссия, которая приводила Владимира Ильича в отчаяние своей медлительностью. Он хотел, чтобы во что бы то ни стало были восстановлены ярославские древние церкви, которые представляли собой памятники нашего старинного зодчества. Когда ему приходилось слышать, что в Галиче, Угличе и других старинных русских городах пытались разрушить церкви, он немедленно рассылал телеграммы и строгие приказы этого не делать, вызывал представителей местных властей, разъясняя им значение исторических памятников.