昌平解放至1949年3月，小湯山地區屬昌順縣。
1949年4月，昌順縣分為昌平、順義2縣，屬昌平縣四區，駐小湯山。
1956年2月，昌平縣改區，小湯山地區劃為四小區，轄8鄉、83村。
1958年10月，成立東風公社，駐興壽，轄小湯山、興壽、大東流等6鄉。
1958年11月，東風公社改名小湯山公社，轄小湯山、東崔村、上莊、興壽等10工作站。
1959年11月，北七家莊、松蘭堡、沙河3工作站析出。
1961年7月，昌平區改縣，大公社改制為小公社，小湯山公社成立，轄后牛坊、小湯山、阿蘇衛、官牛坊等10大隊。
1982年12月，小湯山公社改鄉。
1990年7月，小湯山鄉改鎮。
1997年12月，大東流鄉并入，形成現今轄區。