江南街道明代全境皆属义丰乡，清代沿属。

民国时期城中片先后曾属下丽镇、松石镇、古丽镇、城南片一直称崇道乡。

白云片曾属三才乡、崇道乡、永祥片曾称三祥乡后称历山乡。

解放初城中片归属解放镇，城南片仍称崇道乡，白云片设云山乡，永祥片改称永祥乡，统归历山区人民政府管辖；后邑南乡、石溪乡从崇道乡划出单列建制。

1956年3月崇道、云山、石溪、邑南四乡合并称为崇道乡；永祥乡与历山乡合称富山乡。

1958年，城中片归属城关镇，崇道、白云合并改称崇道公社。

同年划分为崇道、云山两个管理区。

永祥片改称富山管理区。

1961年城中片归属城关镇人民公社，崇道、白云片合称崇道人民公社，永祥片改称富山公社。

1963年划出建立云山公社管委会，崇道公社为县直属公社。

1966年崇道公社改称东方红公社。

1973年复称崇道公社。

1981年恢复镇建制、城中片属城关镇管辖。

1983年5月，崇道、云山、永祥分别改称乡人民政府。

1992年4月撤区扩镇并乡，将城关镇和环城区所属长城、崇道、云山、李店、苏川5个乡合并成立古丽镇。

同年5月，建立城东、城南、城西、城北、城中5个街道办事处。

1993年8月从城南街道划出，设立白云街道办事处；2001年7月行政区划调整，撤销古丽镇。

成立东城、西城、江南三个街道办事处，江南街道管辖原古丽镇永康江以南部分、城中街道部分、城南街道、白云街道和原永祥乡区域。

2009年4月部分行政区划调整，将临溪、翁埠2个行政村划归西城街道管辖，江南街道现共辖5个社区居委会，5个经济合作社、47个行政村，名称沿用至今。

1956年3月崇道、云山、石溪、邑南四乡合并为崇道乡；永祥与历山乡合称富山乡。

1958年，城中片归属城关镇，崇道、白云改称崇道公社。

同年划分为崇道、云山两个管理区。

永祥片改称富山管理区。

1961年城中片归城关镇人民公社。

崇道、白云片合称崇道人民公社，永祥片改称富山公社。

1963年白云片划建为云山公社管委会，崇道公社为县直属公社。

1966年崇道公社改称东方红公社。

1973年复称崇道公社。

1981年恢复镇建制、城中片归属城关镇人民政府管辖。

1983年5月，城南、云山、永祥分别改称乡人民政府、1992年4月撤区扩镇并乡，城关镇并入古丽镇，改设城中街道办事处，属城中片；同时崇道、白云、永祥也并入古丽镇改设城南、永祥街道办事处。

1993年8月，白云片从城南街道划出，设立白云街道办事处。

2001年7月行政区划调整，原古丽镇永康江以南部分：城中街道一部分、城南街道、白云街道和原永祥乡区域并成一大片，设立直属的江南街道办事处，沿用至今。