夏代境內陳留鎮北有城邑名老丘，傳為夏中期的都城。
春秋鄭莊公筑倉城于今市區南，名啟封，屬鄭，時境內有3邑：儀邑（此后曾稱大梁、浚儀、汴京、東京、南京、開封等）、啟封（漢景帝元年因避帝諱，易名開封）、留邑（原屬鄭，后為陳所并，故名陳留）。
秦王政二十二年（前225），置啟封、浚儀2縣。
漢景帝元年（前156），啟封縣改名開封縣。
北魏太平真君八年（447），省開封縣入苑陵縣。
景明元年（500），復置開封縣。
東魏天平元年（534），置開封郡。
北齊廢。
隋復置開封縣，屬汴州，尋屬鄭州。
唐武德四年（621），復屬汴州。
七年（624），省開封縣入浚儀縣。
延和元年（712），復置，縣治汴州城內，與浚儀縣治同郭。
宋大中祥符二年（1009），浚儀縣易名祥符縣。
元屬汴梁路。
明洪武元年（1368），省開封縣入祥符縣，屬開封府。
清因之。
1913年，改祥符縣為開封縣，屬豫東道。
1914年，屬開封道。
1927年，直屬河南省。
1932年，屬河南省第一行政督察區。
1948年，縣治陳留（今陳留鎮）；同年10月，遷駐朱仙鎮。
1949年，縣政府遷朱仙鎮，屬陳留專區。
1952年，屬鄭州專區。
1955年，屬開封專區。
1957年，陳留縣并入開封縣。
1958年，屬開封專區。
1959年，屬開封市。
1960年，撤銷開封縣，設立開封市郊區。
1961年，析郊區復置開封縣，屬開封專區。
1971年，再次劃入開封市。
1977年，復屬開封專區。
1983年，屬開封市。
2014年，撤銷開封縣，設立祥符區。