区境隶属上海县高昌乡，直至明、清。

清宣统二年（1910年）区境分属上海城、法华乡、漕河泾乡。

1928年将所辖市、乡改称为区。

1945年抗战胜利后，该年12月国民政府按警察系统原32个警区划分市辖行政区，以序号相称，区境分属上海市第七区（又称常熟区，区公所在宝建路即后来的宝庆路10号）、第八区（又称徐家汇区，区公所在慈云街67号）和第二十六区（又称龙华区，区公所在后马路177弄3号）。

1947年2月取消区的序号，改直称常熟区、徐汇区、龙华区。

1950年6月，上海市设置30个区，包括常熟区、徐汇区和龙华区。

1956年3月，上海市人民委员会调整全市行政区划，龙华区与新泾、真如两区合并为西郊区；常熟区与徐汇区合并，定名为徐汇区。

地名沿用至今。