清末，已形成額和沁（今亞東村）等村屯，屬依蘭府。
1913年屬依蘭縣管轄。
1918年屬勃利縣西鄉。
1933年劃為勃利縣第十四甲。
1938年分屬古城村、青山村、縣城區。
1939年6月，劃歸林口縣。
1946年5月并入五林縣，隸屬第二自治區。
1947年2月復歸林口縣，設置第六區，1949年改稱亞河區。
1956年4月撤區劃鄉，分設青山、亞河、虎山3鄉。
同年9月，撤銷虎山、亞河兩鄉并入青山鄉，駐地青山河。
1958年成立亞河人民公社，駐地亞河。
1984年4月，改稱亞河鄉。
2003年10月，鄉政府遷至青山村附近的青山煤礦，遂更名為青山鄉。
2010年7月，改設青山鎮。
名稱沿用至今。