Второе здание Московского музея современного искусства расположено по адресу: Ермолаевский переулок, дом 17. В советское время улица была переименована в честь классика советского зодчества архитектора И. В. Жолтовского, а сейчас ей возвращено историческое название.
Свое имя Ермолаевский переулок получил по названию несохранившейся церкви Святого Ермолая «что на Козьем болоте», построенной в XVII веке. Сейчас на этом месте проходит Малый Козихинский переулок. Дом, в котором расположен музей, построен по проекту Д. С. Маркова в 1915 году для Московского архитектурного общества на вклады архитекторов. В этом здании общество размещалось до 1932 года, когда было распущено. Последним его председателем с 1922 по 1932 годы был московский архитектор А. В. Щусев. В советское время дом принадлежал Московскому союзу художников, здесь проводились молодежные выставки, и располагались творческие мастерские. По стилистике здание относится к популярному в свое время неоклассицизму, пришедшему на смену модерну.
3 декабря 2003 года здание было открыто для посетителей как выставочная площадка Московского музея современного искусства. Сегодня залы в Ермолаевском переулке — это одно из самых востребованных экспозиционных пространств Москвы.