De finales del s. XI, es una de las más antiguas de Segovia y se superpone a una probable basílica paleocristiana, origen de las sucesivas construcciones, cuya tradición de espacio religioso se mantiene hasta nuestros días. El nombre de San Juan de los Caballeros le viene por albergar los sepulcros de los Nobles Linajes de la ciudad.

En 1905 fue adquirida y restaurada por Daniel Zuloaga, que la dedicó a vivienda y taller de cerámica, acogiendo actualmente el Museo Zuloaga, con colecciones de cerámica y archivo documental. En el recinto lindante entre la muralla y la iglesia, conocido popularmente como «Los Zuloagas», se realizan en verano actividades culturales.