园址原是农田和河浜。1987年底为配合仙霞小区的建设，市人民政府投资85万元将此地辟为公园。建园工程由上海市园林设计院负责总体规划及绿化设计，上海景泰装璜工程公司承建。园名从所在的水城路和仙霞路名中各取一字，定名为水霞公园，于1992年元旦正式对外开放。

园南北呈长方形，周家浜纵贯园中，把公园分为东、西两部分。总体设计利用原有水面，以"水霞"为主题置景，河东树木林立，河西绿草如茵，傍河设水榭、平台，别有一番景色。园门内有一只腰子形状的树丛，占地约90平方米，植夏鹃、垂丝海棠、十大功劳、杨梅球及珍品白鹃梅。园南有座长9.3米，宽1.86米石拱桥横跨周家浜，站在桥上可领略园河的两岸景色。园中部有面积为96平方米的童心榭，钢筋混凝土结构，形状似一座西式古城堡。榭前平台面积33平方米，三面临水。榭内有3只四方形攒尖顶小亭，面积各为6平方米，高度分别为3.5米、4米、4.5米。整个榭、台、亭造型新颖，别具一格，是园林的佳景之一。园北有座面积在124平方米的水上平台，站在平台上可观望全园景色。平台北面设铁制扶梯通河中小岛，岛上铺植大片天鹅绒草坪。平台上有三只玻璃钢制的伞形小亭，各高2米，内设石凳、石台。

公园东低西高，植物配置主要采用乡土树种，依地势分季相种植。园河以东有200多米长，40多米宽的林带，林间夹石板小路。园西部从南大门到北后门有一条用挖河泥堆成的宽3—4米、高0.5—3米、长150米的起伏坡地，形成一条长形绿带，分植春、夏、秋、冬四季植物群落。