En 1541, quatre maisons médiévales situées sur le site de l'actuel palais ont été endommagées lors de l'incendie de Hradčany. L'une d'elles abritait l'atelier de Maître Théodéric, le peintre de la cour de Charles IV, au XIVe siècle. Plus tard, Johann IV Popel de Lobkowicz a acheté les parcelles et a construit une résidence Renaissance de style nord-italien qui a été achevée en 1567. Au cours des décennies suivantes, le palais a eu plusieurs propriétaires et a finalement été hérité par les Schwarzenberg au début du 18e siècle.
Dans les années 1870-1874, il a reçu son emblématique décoration en sgraffites, d'après le dessin de Josef Schulz. En 1909, il a été ouvert au public en tant que Musée technique national. Pendant la Seconde Guerre mondiale, la Wehrmacht l'a transformé en musée militaire, et après sa confiscation par l'État tchécoslovaque, il est devenu le siège du musée d'histoire militaire. La Galerie nationale de Prague a acquis le palais en 2002.
Exposition permanente : Maîtres anciens
Aujourd'hui, le palais Schwarzenberg est l'un des palais Renaissance les mieux conservés de la fin du XVIe siècle. Il abrite une exposition permanente, qui présente les principales œuvres d'art de la collection des maîtres anciens (Hans von Aachen, Petr Brandl, Lucas Cranach, Albrecht Dürer, El Greco, Francisco José Goya, Hans Holbein et d'autres).