Bažnyčia stovi Vytauto Didžiojo a., prie Lėvens ir Svalios santakos, statyta 1779–1787 m., mūrinė, turi baroko ir istoristinių bruožų.
Užupio parke matosi išlikusios senojo tilto prieigos. Parką puošia medžio skulptūros, sukurtos stovykloje „Šilo geniai“.
1920 m. kunigo Adomo Kačkaus ir parapijiečių dėka bažnyčia, įrengta mūriniame grūdų sandėlyje, oficialiai atidaryta.
1790–1792 m. dabartinę mūrinę bažnyčią pastatė dvarininkas I. Karpis. Bažnyčios varpas „Baltramiejus“ 1925 m. išlietas Kaune.
1936 m. Gulbinėnų dvaro savininkas generolas Kazys Ladiga rūmuose įrengė koplyčią. 1939 m. pabaigoje įkurta parapija.
1996 m. medinė Grūžių bažnyčia buvo sudeginta. 2001 m. rugpjūčio 12 d. naują bažnyčią pašventino Panevėžio vyskupas J. Preikšas.
Šalia bažnyčios šventoriaus yra Šventabalos šaltinis. Vietiniai gyventojai tiki, kad šio šaltinio vanduo turi gydomųjų galių.
Miesto gimtadieniu laikoma 1497 m. gruodžio 6 d., kai kunigaikštis Aleksandras davė leidimą statyti bažnyčią.
Pasvalio rajono miesteliai: Daujėnai, Krikliniai, Krinčinas, Pumpėnai, Pušalotas, Saločiai, Vaškai.
Nuo XVII a. vid. Joniškėlyje buvo dvaras, priklausęs Karpiams. XIX a. pr. atidaryta mokykla ir ligoninė.
Pumpėnuose gimė Č. Kavaliauskas, Biblijos vertėjas, teologas, poetas. Krinčine kunigavo ir poetas A. Vienažindys.
Evangelikų reformatų parapija įsikūrusi Švobiškyje, stačiatikių cerkvė yra Gegabrastoje, seniau buvo ir Pasvalyje.
