商代曾在此建都稱亳。
西周屬管國。
春秋屬鄭。
戰國屬韓。
秦屬三川郡。
漢屬河南郡。
隋開皇三年（583）改滎州為鄭州，治成皋（今滎陽汜水）。
十六年（596）改鄭州為管州，治管城（今管城區）。
大業二年（606）復名鄭州。
唐武德四年（621）分置鄭州、管州，鄭州治成皋，管州治管城。
貞觀元年（627）廢管州入鄭州。
七年移治管城。
宋熙寧五年（1072）廢鄭州。
元豐八年（1085）復置。
崇寧四年（1105）鄭州建為“西輔”，為宋代四輔郡之一。
明屬開封府。
清雍正二年（1724）鄭州升為直隸州，屬河南省。
十二年復屬開封府。
光緒二十九年（1903）復為直隸州。
1913年改鄭州為鄭縣，屬豫東道。
1914年屬開封道。
1928年設鄭州市。
1931年撤銷，復鄭縣。
1933年屬河南省第一行政督察區。
1948年復置鄭州市。
1949年鄭州市及鄭州專區屬河南省。
1954年河南省人民政府由開封市遷入鄭州市。
1959年原開封專區的滎陽、鞏縣、登封、密縣、新鄭5縣劃入。
1961年滎陽縣、鞏縣、登封縣、密縣、新鄭縣復歸開封專區。
1971年滎陽縣劃入鄭州市。
1983年鞏縣、登封縣、密縣、新鄭縣、中牟縣劃入鄭州市，成今境。