原屬領方縣地。
唐武德四年（621）析領方縣地置無虞、上林、戈、領方、瑯玡、思干、賀水等縣。
宋開寶五年（972）廢止戈、無虞、賀水3縣入上林縣；治平四年（1067）析止戈地入武緣縣（今武鳴縣）。
清咸豐七年（1857）李錦貴率農民起義攻克上林縣城，改稱澄江縣，同治元年（1862）復稱上林縣。
1915年撥古零土司地27村入上林縣，1933年劃上級鄉(xiāng)歸隆山縣（今馬山縣），1935年劃思隴、鄒圩2鄉(xiāng)歸賓陽縣。
1952年12月劃藍甲、古蓬、安良、馬蹄、北更、思吉6鄉(xiāng)歸忻城縣。
1958年與賓陽縣合置賓林縣。
1959年復置上林縣。