新石器時代，白山境內就有人類活動。
燕國置二龍湖古城、真番障塞管轄。
并建有遼東郡吉林燕長城。
秦王政二十五年（前222年），此地屬遼東外徼。
漢武帝元封三年（前108年），滅衛滿朝鮮設玄菟郡，管轄吉林省東南部。
先后屬真番郡、玄菟郡。
這是吉林地區納入中原王朝行政建置之始。
東漢，屬高句麗。
漢末至曹魏初期，屬于公孫度東國。
[2]三國初，屬高句麗。
正始三年（242年），魏幽州刺史毋丘儉討高句麗，本地復屬玄菟郡。
晉，為高句麗地。
康帝建元元年（343年），本地屬燕（前燕）。
晉海西公太和五年（370年），前秦滅前燕，本地歸前秦。
后燕昭文帝光始四年（404年），高句麗復侵遼東，本地歸高句麗。
南北朝，屬高句麗。
隋，屬高麗。
唐初，屬高句麗。
總章元年（668年），唐滅高麗，本地屬安東都護府哥勿州都護府。
開元元年（713年），本地屬渤海國。
并在今白山市臨江所在地置神鹿縣，為神州治所。
咸通十四年（873年），置鴨綠江府于神鹿，為西京附郭，領神州（今臨江市）、桓州（今集安縣）、豐州（今撫松縣）、正州（今通化市）。
五代初，歸渤海。
遼天顯元年（926年），滅渤海，改建東丹國。
其后，渤海移民以今白山市為中心，建立定安國。
宋初，屬定安國。
太平興國七年（982年），并入遼。
遼，屬東京道。
在今臨江置淥州駐鴨綠江軍節度使。
領弘聞、神鄉二縣（今白山市）、桓州（今集安縣）、正州（今通化市）、慕州（今柳河縣）。
金，為東京路婆娑府地。
元，屬遼陽行中書省沈陽路轄地。
明，屬奴兒干都司建州衛及長白山寺。
萬歷十九年（1591年），為努爾哈赤所并。
清初，屬吉林副都統轄區。
光緒二十八年（1902年），清政府依盛京將軍增祺、奉天府尹玉恒奏請，劃通化縣東部地方設治貓耳山，置縣名臨江，屬吉林副都統轄區興京廳。
設八道江巡檢屬通化縣（1908年劃歸臨江縣）。
光緒三十三年（1907年），廢除將軍制，東北實行行省制本地屬奉天省，仍轄于興京廳。
宣統元年（1909年）5月，置林長海等處分巡兵備道于臨江縣。
領長白、海龍兩府，臨江縣、通化縣、集安縣。
中華民國初，仍沿襲清朝建制。
民國二年（1913年），奉天省設東、西、南、北、中五路，白山地區屬奉天省東路道。
民國四年（1915年），改八道江分防巡檢為八道江佐治局。
民國二十三年（1934年）（東北淪陷時期）改屬偽安東省。
民國二十六年（1937年），劃歸偽通化省。
民國三十四年（1945年），祖國光復后，劃歸安東省通化專署所轄。
民國三十五年（1946年），劃歸遼寧省。
中華人民共和國初，屬遼東省。
1954年8月20日，劃歸吉林省，隸屬通化地區。
1959年，3月23日吉林省委批準撤消臨江縣設置渾江市。
1960年1月7日，國務院批準渾江市府駐八道江鎮，隸屬通化地區。
1985年2月4日，國務院批復撤銷通化地區，實行市管縣體制，通化地區分治。
通化地區下轄通化、渾江兩縣級市升格為地級市。
[3-4]1986年9月8日，國務院批準設立渾江市八道江區、臨江區、三岔子區。
1994年1月31日，國務院批復同意將渾江市更名為白山市。
[5]4月，渾江市正式更名為白山市，轄臨江市、靖宇縣、撫松縣、長白縣、三岔子區和八道江區，市委市政府駐八道江區。