玄武湖最早叫桑泊。东汉末年秣陵尉蒋子文死难于中山之阴，葬于湖畔。孙吴时孙权为避祖父孙钟名讳，改称钟山为“蒋山”，玄武湖为“蒋陵湖”。又因孙权常在此湖训练水师称为“练湖”。刘宋元嘉初年，宋文帝对玄武湖进行了一次大规模的整治，把挖出来的湖泥堆积在一起，成了露出水面的小岛。其中最大的为“蓬莱”，“方丈”，“瀛洲”三岛，合称“三神山”，这或许是今天玄武湖中梁洲，环洲和樱洲的前身。刘宋元嘉二十三年，湖中出现“黑龙”遂改称玄武湖。“玄武”在我国古代神话中通常是指北方之神，与代表东方的青龙，代表西方的白虎，代表南方的朱雀，和称为“四神”。宋神宗时候，为了解决荒年平民的生活问题，将玄武湖泄水为田，玄武湖几乎消失，后是经重新疏浚改田为湖，可惜湖的面积比原来大为缩小。 玄武湖今天的面貌大体上形成于明朝。明太祖营造南京城时，借用玄武湖为天然护城河，致使此湖不再直通长江，仅靠一个大树根水闸与金川河相通。面积大大缩小，约为六朝时的三分之一左右，整个明朝期间，玄武湖一直属于禁区，出因公事经批准外，一般官员都不准随便进入。民国初年，国民党政府曾把玄武湖改名为“五洲公园”，解放后，又改为玄武湖公园。玄武湖的五洲中，梁洲是风光最佳处。 

玄武湖全园面积４７２公顷，其中陆地１０４公顷，水面３６８公顷，湖水清澈如镜，碧波荡漾，湖面上分布着五块绿洲：环洲、樱洲、梁洲、翠洲、菱洲，故有“五洲公园”之称。湖中有五洲，环洲位于湖西南，因形屈曲似环、抱樱洲于内而得名。洲上遍植垂柳，微风拂来，宛如烟云缭绕，故有“环洲烟柳”之称。从环洲向东，经过小桥抵樱洲，因洲上遍植樱桃得名，有“樱洲花海”之誉。从环洲越芳桥是梁洲，洲上树木繁茂，名胜古迹众多，从梁洲过翠桥至翠洲，这里绿草如茵，佳木繁多，构成了“翠洲云树”的清雅特色。菱洲位于玄武湖的中心，有“菱洲山岚”之美誉。