商，屬艾侯國。
秦、漢，屬艾縣。
自唐貞元十六年（800）至清末（1911），屬分寧縣、寧州、義寧州武鄉二十九都、三十二都。
1912年后，屬義寧縣。
1914-1949年，屬修水縣山谷區，分設山口鄉、漫江鄉一部分。
1949年，屬山口區。
1956年，為山口、溪南2鄉。
1958年9月，成立山漫公社、田鋪公社。
1960年3月，合并組建山口公社，1961年6月，分設山口公社、桃坪公社，1966年4月，桃坪并入山口，1972年10月，復分山口、桃坪2公社。
1984年5月，撤社建山口鄉。
1995年12月，山口鄉、桃坪鄉合并為山口鎮，地名沿用至今。