阜新市歷史悠久，有少數朝代歸中原王朝直轄，多數朝代是少數民族政權的管轄地，屬邊塞地區。
西周和東周春秋時期，有山戎、東胡人活動于此。
東周戰國時期，燕長城橫貫境內，燕長城以北仍屬東胡，南部介于燕國遼西、遼東兩郡之間。
秦代，秦二世二年（前208年），匈奴大敗東胡，今阜新市屬匈奴左地。
西漢時，屬于漢王朝的刺史部，仍為匈奴左地。
漢武帝元狩四年（前119年），漢王朝打敗匈奴后，屬烏桓地。
三國時，今阜新北部屬鮮卑，南部屬魏地。
西晉時，泰始十年（274年），今阜新北部屬鮮卑慕容部，南部、西南部屬西晉平州昌黎郡。
太康十年（289年），今阜新全境屬慕容部管轄。
東晉十六國時，今阜新先后為前燕、前秦、后燕、北燕等幾個更替的政權占據。
南北朝時，今阜新為契丹轄地。
隋代，今阜新北部為契丹轄地，南部屬隋王朝燕郡。
唐代，今阜新北部屬契丹轄地，南部屬唐河北道北部的營州。
貞觀二十二年（648年），唐朝在契丹駐牧地區設置松漠都督府，今阜新北部為松漠都督府轄，南部仍屬營州。
遼代初期，今阜新屬上京道。
金代，今阜新南部小部分地區歸東京路廣寧府轄，今阜新市區、阜新蒙古族自治縣北部、彰武縣全境屬懿州管轄。
元代，今阜新北部一部分在中書省寧昌路轄境，南部為廣寧府轄地，中間大部分地區屬遼陽路。
明代洪武年間，今阜新分屬遼東都指揮使司和北平都指揮使司。
正統、景泰年間，今阜新地區分別屬泰寧衛和福余衛。
清崇德二年（1637年），今阜新蒙古族自治縣境建土默特左旗，后隸屬于卓索圖盟。
清順治初年，清廷在今彰武縣境地置官牧場，名楊檉木牧場，屬盛京禮部。
康熙三十一年（1692年），改名為養息牧場。
光緒二十八年（1902年），在養息牧地區置彰武縣。
光緒二十九年（1903年），在土默特左旗境由朝陽縣析置阜新縣。
實行縣、旗并存，蒙漢分治體制。
民國初年，仍延續清末建置。
民國二十二年（1933年），日本侵略者侵占阜新后，日偽當局于民國二十九年（1940年）1月1日，由阜新縣境劃出新邱、長營子、米家窯、海州、孫家灣和今阜新鎮等地置阜新市。
同時，實行廢縣存旗體制，撤銷阜新縣。
抗日戰爭勝利后，中國共產黨領導的人民軍隊接管阜新市。
民國三十四年（1945年）9月7日，成立阜新市政府。
民國三十五年（1946年），國民黨搶占阜新市區和阜新縣、彰武縣，成立國民黨市、縣政府。
民國三十七年（1948年）3月，阜新全境解放；4月18日，阜新市政府成立，屬遼北省。
1949年1月，撤銷遼北省建制，阜新劃歸遼西省。
1954年6月19日，撤銷遼東、遼西兩省建制，合并為遼寧省，阜新歸屬遼寧省。
1959年，彰武縣、阜新蒙古族自治縣劃歸阜新市領導。
1960年5月，義縣清河門、老爺廟兩個管理區劃歸阜新市郊區領導，成立清河門鎮人民公社。
1984年，設清河門區。