春秋屬晉。
戰國屬趙。
秦屬太原郡、上黨郡。
東漢析置樂平郡，屬并州。
三國時，歸魏國并州統轄，分隸于太原、上黨、西河、樂平4郡。
北魏為并州所屬太原、鄉郡、樂平、上黨4郡和汾州所屬西河郡地。
隋屬并、介、韓、遼、呂5州，后屬太原、介休、霍山3郡。
唐武德元年(618)改屬并州總管府。
開元十一年(723)屬太原府，南部屬汾州，東部置遼州。
宋太平興國四年(979)榆次縣為并州治所，七年(982)移治唐明監(今太原)。
嘉祐四年(1059)屬太原府。
金代分屬河東北路的太原府、晉州、平定州、汾州和河東南路的遼州。
元代屬冀寧路和晉寧路。
明洪武元年(1368)改屬太原府，東部置遼州，南部屬汾州、平陽府。
清代分屬太原府、汾州府、遼州、霍州。
1914年屬冀寧道。
1927年廢道，直屬山西省。
1937年分屬第三、四、六行政區。
抗日戰爭爆發后八路軍開赴山西創立敵后抗日根據地，分屬晉察冀、晉冀魯豫、晉綏邊區政府。
1948年屬華北區太行一專區、太岳一專區和晉中一、三專區。
1949年設榆次專區，轄14縣區。
1951年撤銷汾陽專區，原轄交城、文水、汾陽、孝義、清源、徐溝6縣劃歸榆次專區。
次年又劃入臨縣、離石、方山、中陽4縣。
1958年更名晉中專區，轄7縣2市。
1960年榆次、壽陽、文水、交城、盂縣、左權、昔陽、中陽8縣恢復原建制，共轄17縣市。
1961年陽泉市劃出，恢復孝義、靈石、祁縣、平定4縣，共轄20縣。
1968年更名晉中地區。
1971年孝義、文水、交城、汾陽、離石、中陽、臨縣7縣劃歸呂梁地區，析榆次縣部分區域設榆次市(縣級)，共轄14縣市。
1983年撤銷榆次縣并入榆次市，平定、盂縣2縣劃屬陽泉市。
1992年介休縣改市(縣級)。
1999年設立晉中市（地級），所屬榆次市改榆次區。