Construit la sfârșitul secolului al XIII-lea de către pietrarii din atelierul regal (care lucrau și la Mănăstirea Sfânta Agnes din apropiere), este o mărturie a statutului important al comunității evreiești din Praga de atunci. Numită inițial Sinagoga Nouă sau Sinagoga Mare, abia după înființarea altor sinagogi, la sfârșitul secolului al XVI-lea, a ajuns să fie cunoscută sub numele de Vechea-Nouă. Legenda spune că pietrele sale de temelie au fost aduse de îngeri de la Templul distrus din Ierusalim.
Sinagoga Veche-Nouă s-a bucurat de un respect extraordinar în orașul evreiesc din Praga și în comunitățile evreiești din străinătate. De asemenea, a fost învăluită în numeroase legende și povești. Potrivit unei legende, sinagoga a fost protejată împotriva incendiilor din ghetou de aripile unor îngeri transformați în porumbei, motiv pentru care a rămas miraculos de intactă până în prezent. O altă legendă spune că în podul sinagogii se află rămășițele Golemului, creatura artificială făcută din lut care a fost animată de rabinul Loew pentru a proteja comunitatea pragheză.