漢武帝元鼎六年(前111年),漢武帝置零陵郡,郡治設在零陵縣(秦始皇二十六年即前221年始設零陵縣,漢武帝元鼎六年即前111年設為郡治,隋文帝開皇九年即589年撤消此零陵縣),治所在今廣西全州縣咸水鎮老拱橋邊。
清,屬宜鄉。
民國二十二年(1933年),屬建宜區,民國三十一年(1942年),為咸水鄉。
解放初,為咸水區。
1952年,屬第六區。
1955年,復稱咸水區。
1957年秋,分為咸水、魯塘二鄉。
1958年秋,二鄉合并為咸水公社。
1961年,屬紹水大區。
1968年,仍稱咸水公社。
1984年9月,由咸水人民公社改稱咸水鄉。
2014年6月,撤鄉改鎮。