Gulpen tire son nom de la rivière Galoppe (en néerlandais Gulp), qui traverse la ville. C'était d'ailleurs son nom en français devenu à présent obsolète.
Ce lieu-dit situé au sud-ouest de la Fagne Wallonne et signifiant le Bois de Sucre figurait déjà sur la carte Samin de 1755. Autrefois situé à la douane, cette appellation est probablement liée à un fait de contrebande.