先秦時期，先后屬魯國和楚國。
秦代屬朐縣。
漢武帝征和三年（前90），改置海西縣，屬東海郡。
東晉十六國時期，廢海西縣，屬朐縣。
北朝東魏武定七年（549），復置海西縣，屬西海郡。
北朝至元代，屬朐山縣。
明洪武元年（1368），屬淮安府。
1912年后，今縣域分屬灌云、漣東、漣水、沭陽4縣。
1957年12月，析灌云、漣水2縣13個鄉(xiāng)、1個鎮(zhèn)置灌南縣，屬淮陰專署。
1983年，屬淮陰市。
1996年8月，由淮陰市劃歸連云港市。