Wzgórze Abrahama to część naturalnej skarpy ciągnącej się równolegle do koryta rzeki Narwi. W 1567 r. właścicielem wzniesienia został zakon jezuitów, który przybył do miasta półtora roku wcześniej. W ciągu kilku lat w obrębie działki rozpoczęto budowę podziemnych korytarzy z przeznaczeniem na pomieszczenia magazynowe. W piwnicach przez cały rok utrzymywała się stała niska temperatura, co stwarzało bardzo dobre warunki do przechowywania żywności. W latach świetności (na przełomie XVI i XVII w.) w pułtuskim kolegium nauki pobierało około 900 studentów, więc tak obszerne magazyny stanowiły niezbędne zaplecze.
W 1997 r. pojezuickie piwnice magazynowe zostały wpisane do Wojewódzkiego Rejestru Zabytków pod numerem A-310. W obiekcie zlokalizowanym obecnie w parku im. G. Narutowicza (wejście od strony ul. Baltazara) prezentowana jest wystawa planszowa pt. „Jezuici w Pułtusku i ich dziedzictwo”, która ukazuje dzieje Towarzystwa Jezusowego na przestrzeni wieków od sprowadzenia zakonników przez biskupa Andrzeja Noskowskiego w 1566 r. do kasaty zakonu w 1773 r. oraz dalsze losy pułtuskiej szkoły prowadzonej kolejno przez zakon benedyktynów.
Adaptacja kompleksu historycznego Wzgórze Abrahama – piwnic podziemnych została zrealizowana w ramach projektu pn.: „Wzrost potencjału turystycznego w Pułtusku poprzez ochronę obiektów zabytkowych” współfinansowanego z Regionalnego Programu Operacyjnego Województwa Mazowieckiego.