Gucin Gaj powstał z inicjatywy Stanisława Kostki Potockiego w latach 1817–1821. Polityk, reformator i mecenas sztuki zamienił fragment skarpy warszawskiej w miejsce spotkań, rozmyślań i edukacji. Nazwa pochodziła od wnuka Stanisława – Augusta, zwanego Guciem – któremu dedykowano ogród.
Po śmierci Potockiego jego żona, Aleksandra z Lubomirskich, przekształciła ogród w romantyczny park pamięci. Posadzono tam drzewa-symboliczne – dęby, modrzewie, brzozy, jesiony – każde miało oznaczać cechę zmarłych: siłę, intelekt, łagodność, melancholię. Ustawiono marmurowy sarkofag i liczne obeliski ku czci braci Potockich – Stanisława i Ignacego.
Na głównym obelisku wykuto inskrypcję, która przetrwała do dziś w dokumentach: „Gdy cnotliwego człowieka zabrakło… pozostała po nim sława i żal… w potomności wdzięcznej, która mu ten pomnik żalu i uwielbienia poświęca” (napis z obelisku w Gucin Gaju, 1821 r.).
To przykład romantycznego kultu pamięci, który miał nie tylko czcić zmarłych, ale też uczyć i inspirować przyszłe pokolenia.
W sercu ogrodu znajduje się podziemny korytarz o długości ok. 60 metrów – sklepiony, z rozstawionymi niszami. Przez lata uważano, że była to loża masońska – miejsce spotkań warszawskich wolnomularzy związanych z Potockim. Hipoteza ta wciąż rozpala wyobraźnię, choć badania przeprowadzone w 2021 roku przez Biuro Stołecznego Konserwatora Zabytków sugerują inne przeznaczenie – prawdopodobnie to XVII-wieczna cysterna wodna, zbierająca wodę ze źródła św. Jana i kierująca ją w stronę Wilanowa.
Mimo to, aura tajemniczości pozostała. Obiekt ten dziś jest siedliskiem chronionych nietoperzy, a jego architektura została odtworzona w technologii skanowania 3D.
Po śmierci Aleksandry Potockiej, posiadłość przeszła przez ręce Branickich i Habichów. Z biegiem lat ogród popadał w ruinę. W XX wieku miejsce zostało w znacznej części zdegradowane przez działalność przemysłową (Centrala Rybna), a wiele obiektów uległo zniszczeniu. W 1963 roku sarkofag Stanisława Kostki Potockiego został przeniesiony do Wilanowa. Zachowały się tylko fragmenty pierwotnego układu parku.
Dopiero w latach 90. XX wieku zaczęto przywracać mu należne znaczenie – teren objęto ochroną w ramach rezerwatu przyrody Skarpa Ursynowska, a Gucin Gaj powrócił jako element tożsamości lokalnej.