Omdat de protestanten in 1823 de Heikese kerk moesten overdragen aan de katholieken, kwam er behoefte aan een eigen gebedsruimte. In 1822 werd een terrein aangekocht aan wat later Zomerstraat ging heten (nu Heuvelstraat). De Tilburgse architect Justinus Backx (1768-1829), die later ook betrokken was bij de nieuwbouw van de Heikese kerk, maakte het ontwerp van deze Nederlands Hervormde Pauluskerk. Koning Willem I heeft 8.000 gulden bijgedragen aan de bouw. Van de kerk, die in 1823 werd ingewijd.
Het gebouw werd in de loop der tijd ingericht met een rijke en historisch waardevolle inventaris. Hét pronkstuk is het uit 1765 daterende Bätz-orgel. Verder kwamen er onder meer een preekstoel (1650), een doopvont (circa 1800) en zeventiende-eeuwse herenbanken. Koning Willem II en koningin Anna Paulowna kerkten hier en zaten dan in deze bank, die de koningsbanken werd genoemd. Diverse van deze interieurstukken werden meegenomen uit de Heikese kerk. In 1849 schonk koningin Anna Paulowna (1795-1865) twee avondmaalborden aan ds. Coos Schotel voor de kerk, als dank voor zijn diensten en het bewezen medeleven bij het overlijden van koning Willem II. De kerk heeft twee gebrandschilderde ramen met Bijbelse taferelen (de Verloren Zoon en de Barmhartige Samaritaan) die in 1915 zijn geschonken door de familie Van den Bergh (van de AaBe-fabriek). Sinds 2010 is de kerk eigendom van de Indonesische christengemeenschap GKIN. Het gebouw heeft zijn functie als kerk behouden en is als zodanig weer in gebruik.
