戰國為趙國大陵邑。
秦置大陵縣，治今武陵村；南部置平陶縣，治今平陶村，俱屬太原郡。
新莽改大陵為大寧，改平陶為多穰。
東漢復舊。
晉屬太原國。
北魏平陶縣治徙今平遙縣境。
太平真君九年（448）廢大陵縣，改置受陽縣，治今舊城莊。
永安中僑置蔚州，治今回回堡；又僑置忠義郡，治今忠義村；又僑置云州，治今云周村。
隋開皇十年（590）改受陽縣為文水縣，屬太原郡。
因縣境內有文峪河水，“其水瀠波多紋”因以為名。
唐初屬汾州、并州。
天授元年（690）以文水縣為武則天故里，改名武興縣。
神龍元年（705）復名文水縣。
宋屬太原府。
元符年間為避水患徙治章多里，即今縣城。
元屬冀寧路。
明、清屬太原府。
1912年，廢府制，由省直轄。
1914年，省下設道，文水縣屬冀寧道。
1927年，廢道制，歸省直轄。
1949年屬汾陽專區。
1951年屬榆次專區。
1958年并入汾陽縣。
1960年復置文水縣，屬晉中專區。
1967年屬晉中地區。
1971年屬呂梁地區。
2004年屬呂梁市。