秦統一后，置相縣、铚縣、蘄縣、符離縣，屬泗水郡。
西漢元狩六年（前117），設梧縣，屬沛郡。
東漢建武二十年（44），改沛郡為沛國，國都在相。
西晉太康二年（281），復置沛國，建都相縣。
南朝梁普通六年（525），置臨渙郡。
東魏武定五年（547），臨渙郡析置白撣縣和渙北縣。
北齊天保元年（550），廢渙北縣，置竹邑縣。
隋開皇三年（583），竹邑縣廢，并入符離縣。
唐元和四年（809），以徐州之符離縣、蘄縣、泗州之虹縣置宿州。
元至元二年（1265），廢符離縣、臨渙縣、蘄縣，并入宿州，屬徐州之蕭縣和宿州管轄。
明洪武四年（1371），屬臨濠府。
清順治二年（1645），屬江南省直隸徐州、鳳陽府。
1912年，分屬安徽省宿縣和江蘇省蕭縣。
1949年6月，屬皖北人民行政公署宿縣專區。
1950年，由宿縣重置宿西縣，后宿西縣改為濉溪縣。
1959年3月22日，撤銷濉溪縣，設立濉溪市。
1961年6月17日，成立濉溪市郊區。
1971年3月29日，宿縣專區更名為宿縣地區；1971年3月30日，改濉溪市為淮北市。
1977年1月20日，濉溪縣劃歸淮北市管轄。
1985年7月15日，淮北市撤銷宿東辦事處，所轄區域劃歸宿縣地區宿州市管轄。
2019年，淮北市有15個街道辦事處、18個鎮。