铁影壁最初立于元代建德门前的一座古庙前面，明朝初年，才被移到德胜门内护国德胜庵的门前。

当从铁影壁胡同德胜庵被迁至北海时，由于行事匆忙，铁影壁的底座并没有一起跟随搬迁。

事隔39年后，人们才又重新找回铁影壁原来的底座，使它与铁影壁合为一处。