Segovia está situada en el interfluvio de los ríos Clamores  y Eresma, sobre una meseta que se presenta por sí misma como un enclave fácilmente defendible, factor que fue aprovechado por sus primeros pobladores en épocas neolíticas. Posteriormente, el castro donde actualmente se asienta el Alcázar fue ocupado por diferentes pueblos prerromanos, principalmente celtíberos.

Tras la crisis del Imperio Romano del siglo II, tuvo lugar un proceso de amurallamiento que recorrió las posesiones imperiales por lo que muy probablemente sea éste el origen del primer trazado de la muralla.

La reconquista cristiana de Segovia fue llevaba a cabo por Alfonso VI en 1088. Esta misión conllevaba el refuerzo de las defensas de la ciudad, para lo que levantó una cerca que en forma y trazado se asemeja mucho a lo que ha llegado a nuestros días.

La pérdida del valor defensivo de la muralla durante el siglo XVI influyó en el urbanismo de la ciudad, pues se construyeron viviendas adosadas a la misma e incluso sobre ella. A partir del siglo XVII, las puertas y sus labores de portazgo se abandonaron. La muralla perdió entonces su valor defensivo, simbólico  y territorial.

Durante el siglo XIX la muralla es considerada ya como un estorbo urbanístico y su demolición sirvió en algunos casos como pretexto para disminuir el paro obrero.

En el siglo XX trae un cambio de mentalidad y con él, la necesidad de conservar y valorar la muralla se hace patente. Comienza entonces una continua labor de restauración y conservación que llega a nuestros días.

En 1941, toda parte vieja de la ciudad comprendida dentro del antiguo recinto amurallado es declarado Conjunto Histórico Artístico. Finalmente, la UNESCO declara al recinto amurallado y a su Acueducto, Patrimonio de la Humanidad.