隋大業末年（615-617），析廬陵縣水東的順化、文昌、折桂、中鵠、仁壽、興平、明德、永豐、龍云、云蓋、遷恩11鄉設吉水縣，屬廬陵郡。
縣治設今文峰鎮。
唐天寶十四年（755），吉水縣改為吉水鎮。
吳天祐七年（910），升吉水鎮為吉水縣，隸屬吉州。
南唐昇元二年（938），吉水由縣改場，隸吉州，南唐保大八年（950），吉水由場復縣，仍隸吉州。
元元貞二年（1295），吉水由縣升為州，隸屬未變。
明太祖洪武二年（1369），吉水州復為縣，屬吉安府。
清沿明制。
至此，“吉水縣”地名沿用至今。
1914年屬廬陵道，1926年直隸省轄，1927-1934年先后建立廬吉縣和公略縣，1931年屬吉安區，1932年屬江西省第九行政區。
1949年屬吉安分區，1950年屬吉安區，1955年屬吉安專區，1968年屬井岡山地區，1979年屬吉安地區，2000年8月屬地級吉安市至今。