唐武德元年（618年），设平陵县（今关山粟邑庙附近）。

唐武德二年（619年），改平陵县为粟邑县。

唐武德年间，粟邑县属雍州。

唐贞观八年（634年），撤粟邑县并入栎阳县。

元至元四年（1267年），随栎阳县并入临潼县。

明万历五年（1577年），设立关山镇，为抚民厅驻地。

清雍正八年（1730年），临潼县丞移驻关山。

清嘉庆元年（1796年），设县丞署。

民国二年（1913年），设县佐署。

民国八年（1919年），设临潼分县，管理临潼县渭水以北各镇事务。

民国十九年（1930年），分县废。

民国二十三年（1934年），推行保甲制度，关山设立联保处。

民国二十九年（1940年），改联保为镇，下辖6保64甲。

1949年5月，改为临潼县关山区。

1950年4月，设立临潼县第八区，辖7乡。

1958年，为相桥公社关山管理区。

1961年，撤销管区，成立关山公社。

1984年，改设关山乡。

1987年8月，关山乡划归西安市阎良区管辖。

1997年7月，撤销关山乡，设立关山镇。

2002年2月，撤销康桥乡，并入关山镇。