Původní raně gotická budova kaple byla počátkem 18. století v havarijním stavu. V roce 1713 ji proto nechal biskup zbořit a na jejím místě vystavěl podle Santiniho návrhu novou kapli zasvěcené sv. Klimentovi jako patronu proti morovým ranám. Vzhledem k těsnému sousedovi historické Bílé věže je orientace kaple otočena o devadesát stupňů. Západní fasáda je boční, a kaple je tak orientována k severu se vstupem z protilehlé jižní strany. Přes zdánlivou jednoduchost fasády svědčí pro Santiniho autorství nápadité řešení lucerny završující zaklenutí střechy, Ta je převedena z půdorysného obdélníku do zaklenutí připomínající zastřešení mariánské kaple v Mladoticích. Převýšený tambur lucerny je tvořen úzkými pilířky. Většinu válcové plochy pak zabírají okénka pod nápadně vysazenou římsou. Vrchol lucerny pak korunuje stylizovaná papežská tiára se svatopetrskými klíči. Jedná se o symboliku patrona kaple sv. Klimenta a jeho postavení jako římského papeže a hlavy církve.