Fatbursparken är anlagd i det område som tidigare var Södra stations godsbangård och den igenfyllda sjön Fatburen. En arkitekttävling om parkens utformning utlystes 1987 och White Arkitekter vann med förslaget Apollon och Dionysos. En del av förslaget bestod av en konstnärlig utsmyckning med skulptören Roland Haeberlein som huvudsaklig upphovsman, men i samarbete med andra skulptörer och konstnärer.
I parkens centrum finns den stora fontänen Afrodites brunn av Roland Haeberlein. På ömse sidor om gångstråket mellan Södra station och Medborgarplatsen delas parken i en ordnad ”apollonisk” del och en informell ”dionysisk” del (där nu byggarbeten för Citybanan pågår).
I verket Gästgivare är ett stycke av den tyske romantikern Friedrich Hölderlin gjutet i relief:
Inga härskare finns längre
däremot en gästgivare
så som på Homerisk tid
och tiden för Abraham
då Gud drog in med
sina änglar
