清光緒二十二年，稱上冶社。
民國初年，屬費縣一區上冶鄉。
1940年以后，屬費北縣上冶社。
1945年底，費北、費東西縣合并蒙山縣，上冶屬蒙山縣五區。
1952年，撤銷蒙山縣，上冶劃屬費縣為十一區。
1955年，改稱上冶區。
1958年，改稱為上冶人民公社。
1962年，從原店子公社劃入2個鄉，改成上冶區。
1968年，又將上冶區改為上冶人民公社，并將下轄的9個小人民公社改為管理區。
1976年，將北部27個大隊、68個自然村劃出，設置五圣公社。
1984年5月，設上冶區，下轄5個鄉。
1985年9月，撤區設鎮，稱上冶鎮。