清末，已形成额和沁（今亚东村）等村屯，属依兰府。

1913年属依兰县管辖。

1918年属勃利县西乡。

1933年划为勃利县第十四甲。

1938年分属古城村、青山村、县城区。

1939年6月，划归林口县。

1946年5月并入五林县，隶属第二自治区。

1947年2月复归林口县，设置第六区，1949年改称亚河区。

1956年4月撤区划乡，分设青山、亚河、虎山3乡。

同年9月，撤销虎山、亚河两乡并入青山乡，驻地青山河。

1958年成立亚河人民公社，驻地亚河。

1984年4月，改称亚河乡。

2003年10月，乡政府迁至青山村附近的青山煤矿，遂更名为青山乡。

2010年7月，改设青山镇。

名称沿用至今。