秦為桂林郡（唐杜佑《通典》記述屬南海郡）。
漢高后五年（前183），趙佗稱南越武帝，建蒼梧王城，為梧州建城之始；元鼎六年（前111），漢武帝滅南越國后置蒼梧郡，郡治廣信縣蒼梧王城；元封五年（前106），武帝將交趾刺史部移治蒼梧郡廣信縣，統轄嶺南的蒼梧等9郡，梧州成“嶺南要地”，為嶺南首府；建安八年（203）改交趾為交州，置交州牧，治廣信。
梧州自建制以來，歷漢、三國、魏晉南北朝，達700多年，一直為郡、縣治所。
至隋開皇三年（583），改廣信縣為蒼梧縣。
唐武德四年（621），置梧州。
元至元十四年（1277）置梧州路安撫司；十六年（1279），改稱總管府，治梧州。
明洪武元年（1368），改梧州路為梧州府；成化六年（1470），明憲宗在梧州創建兩廣總督府。
清初年，梧州屬廣西承宣布政使司桂平梧郁道梧州府、廣西省梧州府，為府、縣治。
1912年，梧州隸屬梧州軍政分府，為府治。
1913年，廣西廢府為縣，復置蒼梧縣，隸郁江道，為道治。
1914年6月，郁江道更名蒼梧道。
1921年7月，梧州設市政廳。
1927年6月，梧州設市政委員會。
同年12月1日，梧州市政府正式成立，為省轄市。
1930年屬蒼梧民團區。
1932年7月，撤市復歸蒼梧縣，治梧州。
1934年3月，屬梧州行政監督區。
1940年后屬第三區行政督察專員兼保安司令公署。
1949年設梧州專區，治梧州。
1950年1月1日，梧州市人民政府成立，為省轄市（地級）。
1951年梧州專區并入容縣專區。
1953年，梧州市設立第一、第二、郊區、水上4區。
1955年，梧州市撤銷第一、第二和水上3區。
1958年容縣、平樂2專區撤銷，復置梧州專區，治梧州市，轄原屬容縣專區的蒼梧、藤縣、岑溪3縣和原屬平樂專區的蒙山、昭平、賀縣、富鐘4縣，代管梧州市。
1961年，梧州市直隸廣西壯族自治區。
1971年梧州專區改梧州地區，轄蒼梧、藤縣、岑溪、蒙山、昭平、富川、鐘山7縣。
1979年，梧州市設立萬秀、白云、鴛江及蝶山4區。
1983年，梧州市劃轄芬梧縣。
1984年，梧州市設郊區(縣級)，鴛江區并人白云區和蝶山區。
1990年白云區并入萬秀區。
1995年，岑溪縣改岑溪市，由梧州地區代管。
1997年，梧州地區更名賀州地區，并移治賀州市八步鎮；梧州市增轄藤縣、蒙山縣，代管岑溪市，遂成今境。
2003年撤銷梧州市郊區，設長洲區。
2013年，蝶山區并入萬秀區，析蒼梧縣置龍圩區。
至此，梧州市轄萬秀、長洲、龍圩3區及蒼梧、藤縣、蒙山3縣，代管岑溪市。