Costruita alla fine del XIII secolo da scalpellini dell'officina reale (che lavoravano anche al vicino Convento di Sant'Agnese), è una testimonianza dell'importanza della comunità ebraica di Praga di allora. Originariamente chiamata Sinagoga Nuova o Grande, fu solo dopo la fondazione di altre sinagoghe alla fine del XVI secolo che venne chiamata Vecchia-Nuova. La leggenda narra che le sue pietre di fondazione furono portate dagli angeli dal Tempio di Gerusalemme distrutto.
La Sinagoga Vecchio-Nuova gode di un enorme rispetto nella Città Ebraica di Praga e nelle comunità ebraiche all'estero. È stata anche avvolta da numerose leggende e racconti. Secondo una leggenda, la sinagoga è stata protetta dagli incendi nel ghetto dalle ali degli angeli trasformati in colombe, motivo per cui è rimasta miracolosamente intatta fino ad oggi. Un'altra leggenda vuole che nel sottotetto della sinagoga si trovino i resti del Golem, la creatura artificiale di argilla che fu animata dal rabbino Loew per proteggere la comunità praghese.
