周朝為七閩地，春秋屬閩越地，秦屬閩中郡，漢元封時屬會稽郡。
三國屬吳建安郡，晉太康三年（282年）置新羅縣。
唐開元末，置長汀縣，皆其所屬。
宋元符（1098-1100年）設蓮城堡屬長汀縣，紹興三年（1133年）改堡置縣屬汀州。
元至正六年（1346年）邑人羅天麟、陳積萬起義反元后，因忌諱草頭，改“蓮”為“連”，遂成連城。
元至正十八年（1358年）直至明洪武元年（1368年）為陳友諒所據，此后至清末均屬長汀府，1913年廢府級建制，省下設道，屬西路道（后改汀漳道）；1928年廢道隸屬福建省；1930年屬中華蘇維埃共和國福建省蘇維埃政府所轄，曾置新泉縣、汀連縣、巖連寧縣，為紀念李明光烈士一度改稱明光縣；1933年11月成立連城縣人民政府，1934年隸屬第八行政督察區；，1935年10月屬第七行政督察區，1949年11月6日中國人民解放軍接管連城歸第八行政督察區管轄，1950年3月屬龍巖專區；1951年2月，長汀縣羅坊鄉劃歸連城縣；4月長汀縣四堡鄉劃歸連城縣；1955年12月，長汀縣宣和區、上杭縣長坑村劃歸連城縣；1957年12月，長汀縣池崗村、上杭縣沙里村劃歸連城縣；1958年8月建立人民公社制；1959年5月，清流縣塘前公社劃歸連城縣。
1960年7月龍巖萬安的陳家村，白沙的芹菜洋、馬池塘、楊公祠劃歸連城縣，1961年6月上杭縣南陽東南大隊之林國山、上羅地、高屋坑、熱水坑、溫坊等生產大隊劃歸連城縣；1970年5月改地區為市，屬龍巖專區、龍巖地區、龍巖市。
1984年鄉鎮建制后，轄17個鄉鎮，幾經調整后，現轄248個村居委會，縣駐地蓮峰鎮，至今沿用。