春秋屬晉，戰國時屬趙的一邑稱西陽，西漢始置中陽縣。
東漢末年并入離石縣，屬西河郡。
三國屬魏，十六國時期，初屬后趙永石郡，后屬西河郡。
前秦、前燕沿襲未變。
北朝時期屬北魏離石鎮。
北周大象元年（579），置寧鄉、平夷二縣，均屬離石郡。
隋大業三年（607）并寧鄉、平夷入離石為石州。
唐代一直屬石州。
五代十國時期，初屬后梁、后唐、后晉，后屬后漢、北漢。
宋屬河東路太原府石州。
金泰和二年（1212）重設寧鄉縣，亦屬石州。
元代初屬山西宣慰司太原路石州，后改屬冀寧路石州。
明代屬山西承宣布政司太原府石州，萬歷二十三年（1595）改屬汾州府永寧州，至清朝一直未變。
1914年將寧鄉縣復名為中陽縣，屬山西省冀寧道至1946年中陽縣解放。
1946年12月12日，中陽縣解放，屬晉綏邊區離石專區管轄。
1949年初，晉綏邊區撤銷，中陽縣改屬陜甘寧晉西北離石專員公署；9月山西省人民政府成立，中陽縣屬汾陽專區。
1951年3月27日，汾陽專區撤銷，中陽縣改屬興縣專區。
1952年7月，興縣專區撤銷，中陽縣屬榆次專區管轄。
1958年10月，中陽縣并入離石縣，為中陽鎮。
1959年10月，恢復中陽縣建置，屬晉中專區管轄。
全縣轄22個公社。
1971年5月，組建呂梁地區，從中陽縣劃出12個公社歸柳林縣管轄，時轄10個人民公社。
1972年6月從城關公社劃出13個生產大隊增設蘇村公社，時下中陽縣轄11個公社。
1984年撤銷人民公社建制，設7個鄉，轄4鎮7鄉共計11個鄉鎮。
2002年撤鄉并鎮，轄5個鎮2個鄉共計7個鄉鎮，設有13個居民委員會、87個村民委員會。
2004年4月，屬呂梁市，轄區鄉級政區至今未變，沿用至今。