En 1877, Hippolyte Mayrargues souligne la profusion de roses que l'on pouvait trouver à cette époque dans le jardin de la Villa Rambourg : « On a apporté un soin extrême dans le choix d'un emplacement et on s'est décidé pour le boulevard Dubouchage, point très-central, très-tempéré, et sans cesse exposé aux regards vivifiants du soleil. Aussi, le jardin qui s'étend derrière la propriété est-il, à toute heure du jour, inondé de flots de lumière; et c'est avec un véritable bonheur qu'on y savoure tout à son aise, cette chaleur bienfaisante qui permet, au mois de janvier, de cueillir des roses en pleine terre. Ce jardin en effet, est une forêt de rosiers : on en voit de tous côtés; les uns, modestes et humbles, bordent les allées; d'autres, plus hardis, grimpent sur une tonnelle qui fait face à la maison, s'y enchevêtrent et forment une salle d'ombrage du plus délicieux effet; quelques-uns même, plus téméraires encore, ne craignent pas de s'enrouler autour des palmiers et de leur mille bras ténus, d'étreindre les corps des géants.» . Une terrasse en marbre avec balustrade (toujours existante) longeait la totalité de la façade de la villa, donnant accès au jardin au moyen de six marches en marbre, permettant une vision élevée du jardin depuis le rez-de-chaussée de l'habitation.

La période du jardin public a vu le développement d'un tracé régulier à tendance art-déco. Partie centrale en creux avec fontaine. Essences indigènes et exotiques complantées sur les pelouses en périphérie. Cette tendance aux tracés réguliers entourant une partie centrale a perduré depuis sa transformation en jardin public. Alignement ordonné d'orangers aux pieds de la terrasse. Existence de deux rares palmiers bleus du Mexique (Brahea Armata) aux extrémités de la façade de la bibliothèque.

L'environnement urbain du square est caractérisé en 2019 par des typologies homogènes sur les trois directions d'alignements de hauts d'immeubles de rapport de style éclectique. Seule une petite section plus basse à l'ouest donne lieu à une rupture avec l'implantation de quelques maisons qui engendrent une vue intra-îlotière. Le front nord débouche sur la façade sud de la bibliothèque, qui est mise en valeur par un surplomb.