Construído em finais do século XIII por mestres de pedra da oficina real (que também trabalhavam no vizinho Convento de Santa Inês), é testemunho do importante estatuto da então comunidade judaica de Praga. Originalmente chamada de Nova ou Grande Sinagoga, só no final do século XVI é que passou a ser conhecida como a Velha-Nova. Diz a lenda que as suas pedras de fundação foram trazidas por anjos do Templo destruído de Jerusalém.
A Velha-Nova Sinagoga tem gozado de um enorme respeito na cidade judaica de Praga e nas comunidades judaicas no estrangeiro. Também se tornou envolvida em numerosas lendas e contos. Segundo uma lenda, a sinagoga foi protegida contra o fogo no gueto pelas asas dos anjos transformados em pombas, razão pela qual permaneceu milagrosamente intacta até aos nossos dias. Outra lenda diz que o sótão da sinagoga é o lar dos restos do Golem, a criatura artificial feita de barro que foi animada pelo rabino Loew a fim de proteger a comunidade de Praga.