唐麟德二年（665年），置潭栗縣，隸鬱州，治今鎮(zhèn)古城村。
次年，潭栗縣改屬鬱林州。
唐天寶元年（742年），潭栗縣改屬鬱林郡。
唐德三年（758年），潭栗縣復改屬鬱林州。
宋開寶五年（972年），潭栗縣并入興業(yè)縣。
民國元年（1912年），后分屬鬱林縣大平山鄉(xiāng)和興業(yè)縣大平山鄉(xiāng)。
1950年6月，分屬鬱林縣第九區(qū)和興業(yè)縣第一區(qū)。
1953年，設(shè)第八區(qū)，屬鬱林縣。
1955年9月，第八區(qū)改為大平山區(qū)屬鬱林縣。
1956年3月，大平山區(qū)改屬玉林縣。
次年12月，大平山區(qū)析為大平山、龍安兩鄉(xiāng)，同屬玉林縣。
1958年10月，設(shè)三山公社，屬玉林縣。
1964年，析陳村公社為大平山、龍安兩公社，同屬玉林縣。
1984年10月，大平山、龍安兩公社撤改為大平山鄉(xiāng)，屬玉林市。
1990年12月，大平山力改大平山鎮(zhèn)。
1997年4月，大平山鎮(zhèn)劃歸興業(yè)縣。