解放初期属金口镇民主乡三片村，1955年合作化为平湖同兴农业社。

1958年人民公社化时命名为联营大队。

1961年为联营、五一两个大队。

1962年由金口镇划归金口区新屋公社管辖。

1971年联营、五一与永胜大队合并为永胜大队，属金水公社管辖。

1980年春，永胜大队分割成两个大队，永胜一大队、二大队（即现在的永胜村、淮山村）。

1980年秋第一次全国地名普查时将永胜二大队更名为淮山大队。

2001年5月，江夏区施行街镇乡体制改革，金水乡、范湖乡并入金口街道，现淮山村属金口街道管辖。