En 1541, cuatro casas medievales situadas en el emplazamiento del actual palacio resultaron dañadas durante el incendio de Hradčany. Una de ellas albergaba en el siglo XIV el taller del maestro Theoderic, pintor de la corte de Carlos IV. Más tarde, Johann IV Popel de Lobkowicz compró las parcelas y construyó una residencia renacentista de estilo noritaliano que se terminó en 1567. En las décadas siguientes, el palacio tuvo varios propietarios y finalmente fue heredado por los Schwarzenberg a principios del siglo XVIII.
En los años 1870-1874, recibió su icónica decoración esgrafiada basada en el diseño de Josef Schulz. En 1909 se abrió al público como Museo Técnico Nacional. Durante la Segunda Guerra Mundial, la Wehrmacht lo convirtió en un museo militar, y tras la confiscación por parte del Estado checoslovaco pasó a ser la sede del Museo de Historia Militar. La Galería Nacional de Praga adquirió el palacio en 2002.
Exposición permanente: Maestros antiguos
En la actualidad, el palacio Schwarzenberg es uno de los palacios renacentistas mejor conservados de finales del siglo XVI. Alberga una exposición permanente en la que se presentan las principales obras de arte seleccionadas de la Colección de Maestros Antiguos (Hans von Aachen, Petr Brandl, Lucas Cranach, Alberto Durero, El Greco, Francisco José Goya, Hans Holbein y otros).