春秋時期屬吳國，秦屬九江郡。
漢高帝六年（201）為宜春縣地，屬豫章郡。
三國（吳）寶鼎二年（267），析宜春縣東境鐘山以東，置新渝縣，屬荊州安成郡。
晉元康元年（291），屬江州安成郡。
隋開皇九年（589），縣撤入吳平縣，屬洪州；開皇十一年（591），吳平縣并入宜春縣，屬洪州。
開皇十八年（598），復置新渝縣，屬袁州。
大業三年（607年），屬宜春郡。
唐武德五年(622)，新渝分屬袁州始平縣和西吳州。
貞觀二年（628），屬江南道袁州。
開元二十一年（733），屬江南西道袁州。
天寶元年（742），更名新喻，屬江南西道宜春郡。
乾元元年（758），屬江南西道袁州。
咸通六年（865），屬鎮南軍袁州。
五代十國（吳）天祐六年（909），屬鎮南軍新淦都制置使。
天祐七年（910），屬鎮南軍袁州。
南唐昇元元年（937），屬鎮南軍新淦都制置使。
昇元二年（938），屬鎮南軍袁州。
宋淳化三年（992），屬臨江軍。
至道三年（997年），屬江南路臨江軍。
天禧四年（1020），屬江南西路臨江軍。
元至元十四年（1277），屬江西行中書省臨江路。
元貞元年（1295），新喻因人口5萬余戶，升為州，屬江西行中書省臨江路。
明洪武二年（1369），新喻州改縣，屬江西行中書省臨江府。
洪武九年（1376），屬江西布政使司臨江府。
清襲明制。
1912年，屬江西省廬陵道（今吉安）。
1932年復隸省，屬江西省第八行政區。
1935年屬江西省第二行政區。
1949年7月14日，新喻全境解放，屬袁洲專區轄29個鄉，1953年袁洲專區與南昌專區合并后屬南昌專區。
1957年5月經國務院批準，將新喻更名為新余。
1960年9月30日，經國務院批準撤銷新余縣設立地級新余市，下轄45個人民公社（鄉）級以上行政區，1963年7月26日，經江西省人民委員會批準撤銷新余市恢復新余縣，屬宜春地區。
1983年7月26日，經國務院批準，撤銷新余縣恢復地級新余市，并將宜春地區的分宜縣劃分歸于新余市管轄，新余市人民政府正式成立。
1983年10月，江西省人民政府批準在原新余縣管轄范圍內設置渝水區，新余市轄新余市渝水區和分宜縣。
新余市得名后沿用至今。