中華人民共和國成立前金山分為長樂、山湖兩個鄉。
中華人民共和國成立初期長樂、山湖兩鄉合并為萍鄉縣長樂區。
1958年改名成立金山人民公社，同年秋并入上栗公社，后又與上栗分開，仍稱金山公社。
1961年1月歸屬上栗區。
1962年金山公社劃分為金山、白鶴兩個公社。
1966年9月撤銷白鶴公社，又合并稱金山公社。
1984年春改稱上栗區金山鄉。
1997年撤區設縣，改稱上栗縣金山鄉。
1998年4月撤鄉設鎮，名為上栗縣金山鎮。