現寶山區于1988年9月，由寶山縣和吳淞區撤并而組成。
原寶山縣位于上海市北部，寶山縣境域在唐宋時屬昆山縣，南宋嘉定十年（1217）起屬嘉定縣。
清雍正二年（1724）從江蘇省嘉定縣析出東境建為“寶山縣”，與老縣嘉定同城而治。
1912年后直隸江蘇省。
1937年后日偽、汪偽統治期間，寶山縣劃歸上海市，改縣為區。
1944年復改為縣。
次年日軍投降后重歸江蘇省，隸第三行政區。
1949年5月解放后，先后隸蘇南行政區和江蘇省的松江專區。
1958年1月起劃歸上海市管轄。
1988年，由吳淞區和寶山縣“撤二建一”，成立新的寶山區。
原吳淞區沿革：吳淞在清道光三年（1823年）以前，屬寶山縣城（廂）廠的一部分。
清宣統二年（1910年），實施城鎮鄉自治后，改為吳淞鄉。
1928年7月劃歸上海特別市，首次建為吳淞區。
民國以來，吳淞區就三建三撤。
解放初期管轄范圍基本未變，直至1956年并入北郊區。
1949年5月人民政府接管舊政權。
1949年10月全區實施民主建政。
1958年成為寶山縣轄地。
1960年1月重建吳淞區。
1960年4月籌建城市人民公社。
同年10月城市人民公社停辦，第三次建立吳淞區。
1978年為寶山鋼鐵總廠建立上海市寶鋼地區辦事處。
1979年1月寶鋼地區辦事處建立。
1980年10月國務院批復成立吳淞區（1981年10月城廂鎮正式劃交）。
1988年1月27日國務院決定吳淞區與寶山縣同時撤銷建制，合并建為寶山區。
1997年，轄5個街道14鎮2鄉。
區政府駐友誼路街道。
1997年9月，轄區內原江灣機場8.6平方千米和共康小區部分區域0.726平方公里分別劃歸楊浦區、閘北區。
從1998年開始，地處寶山區長興島的前衛農場屬地化管理開始實施，于1998年年底整體移交寶山區。
2000年開展鄉鎮級行政區劃調整，至2002年6月底，下轄5個街道、9個鎮、2個鄉。
2005年長興、橫沙2鄉劃離寶山區并入崇明縣。
2006年撤銷海濱新村、吳淞鎮街道建制，設立吳淞街道；撤銷泗塘新村、通河新村街道建制，成立張廟街道。
至2011年底下轄3個街道、9個鎮，使用至今。