Ülgase paekallas ja nahkhiirte elupaigad võeti looduskaitse alla 1960. aastal. Ülgase panga kõrgeim osa Hõbemägi on iidne ohverdamispaik. Rahvasuus on seda nime seostatud hõbedalaevaga, mis ennemuistsel ajal põrganud tormiga vastu paekallast ja mille kallis last praegugi maapõues peidus olevat. Arvatakse ka, et see klindi osa sai oma nime hõbeda ohverdamise rituaalist, mil lähedalasuva Rebala muistsed elanikud siia tähtsaid asju arutama ja otsustama kogunesid. Paekalda alumises osas on säilinud Eesti esimese fosforiidi kaevanduse (1920-1938) käigud, mille suudmeid varjab pangamets. Koobastes elavad nahkhiired.