明、清時，屬臨朐縣仁壽鄉。
1935年，分屬第七區和第八區。
1945年，分屬牛河區、峰山區和大關區。
1949年后，分屬第八區、第十區。
1958年，分屬蔣峪、大關公社。
1984年，蔣峪公社更名為蔣峪鎮，駐地東蔣峪村，大關公社分為大關鄉和蒲溝鄉。
1993年６月，大關鄉和蒲溝鄉合并為大關鎮，政府駐大關村。
2007年９月，蔣峪鎮和大關鎮合并，成立沂山鎮。
2013年12月，沂山鎮政府駐地由大關村遷至蔣峪村，沂山鎮更名為蔣峪鎮。