中華人民共和國成立前,屬太平、汾江鄉,中華人民共和國成立后屬大汾區寨溪、江夏、石鹿、草汾、順謀、石花、安福、文溪鄉和大汾鎮,1954年稱第4區,1956年撤區,10鄉鎮并為石鹿鄉、大汾鄉,1958年合并稱大汾人民公社,1961年重置大汾區分為石花、大汾、江夏公社,1967年撤區三社合并為大汾公社,1972年分大汾、石花公社,1978年復并稱大汾公社,1984年5月政社分開稱大汾鄉,1993年稱大汾鎮,2003年元月滁洲鄉并入沿稱大汾鎮,政府駐地在大汾圩鎮圩塔下。