Významný architekt období historismu (především neorenesance) v českých zemích. Narodil se v rodině Jakuba Ullmanna, mistra jehličkáře, proto se nejdříve vyučil jehlářství, pak ale studoval na pražské polytechnice a v letech 1842–1947 také na vídeňské Akademii výtvarných umění u Augusta Sicarda a Eduarda van der Nüll (autorů vídeňské opery). V Praze se roku 1856 oženil s Terezou Barvitiovou,  sestrou architekta Antonína Barvitia. Od roku 1867 byl Ullmann členem Spolku architektů a inženýrů (SAI). O dva roky pozěji byl jmenován členem komise pro dobudování a rozmístění obou polytechnických ústavů v Praze. V roce 1878 si koupil zámek v Dubenci (Příbram).
Začínal jako dvorní architekt šlechty, takže byl autorem přestavby několika zámků v Čechách, zpravidla ještě v duchu romantické novogotiky. Postupně se ale stal nejvíce uznávaným architektem neorenesance, první takovou stavbou byla budova České spořitelny (dnes Předsednictvo Akademie věd ČR) v Praze, stavěná v letech 1858–1961. Dalšími významnými neorenesančními stavbami byla budova Prozatímního divadla, pražského Sokola, Vyšší dívčí škola na Novém Městě pražském, kde je veden i jako autor budovy České techniky na Karlově náměstí.