綏化歷史悠久。
大約在1萬年前舊石器時代，綏化市境內就有古人類繁衍、生息。
夏商時期，綏化為肅慎地。
“肅慎者，虞夏以來東方大國也”。
西周至西漢時期，今綏化市的慶安縣、綏棱縣、海倫市、望奎縣、蘭西縣等仍為肅慎地，西部的明水縣、青岡縣、安達縣，西南部的肇東等市縣為濊貊地。
東漢至兩晉，綏化屬夫余地。
晉時，綏化市大部分市縣屬夫余的寇漫汗。
南北朝時期，綏化屬勿吉地。
隋唐時期，屬靺鞨黑水部、黑水靺鞨地。
唐代，分別歸屬于唐渤海都督府和黑水都督府所轄。
宋遼金時期，綏化先后歸契丹族建立的遼、女真族建立的金管轄。
元朝時期，綏化市為成吉思汗幼弟帖木哥斡赤斤的分封地，即歸元朝的開元路管轄。
明朝時期，綏化為奴兒干都指揮使司所轄。
清朝時期，綏化歸鎮守黑龍江將軍管轄。
清王朝建立之初，視東三省為“龍興之地”，實行封禁政策，將東三省山林、土地當作皇室圍場，嚴禁開發耕種。
咸豐十年（1860年），經黑龍江將軍特普欽奏準，開始出放民荒。
光緒十一年（1885年），設綏化理事通判廳。
光緒三十年十二月二十四日（1905年）1月29日，由廳升府。
光緒三十三年（1907年），在東北設東北三省總督，統轄奉天、吉林和黑龍江三省，綏化歸黑龍江省管轄。
民國元年（1912年），東北三省承襲清末地方行政制度，仍實行省、道、府（直隸州、廳）、縣（州、廳）4級制度。
民國二年（1913年）裁府州，改為行省、道、縣3級制，綏化府改為綏化縣。
民國三年（1914年）6月，設黑龍江省龍江道、綏蘭道。
今綏化市所屬各縣（市）區分別歸龍江道、綏蘭道所轄。
民國十八年（1929年），東北政務委員會成立，廢道制，縣歸省直接管轄。
海倫、綏化為一等縣，肇東、蘭西、青岡、安達、望奎、慶城為二等縣，綏棱、明水為三等縣。
民國二十三年（1934年），東北淪陷時期，明水縣歸龍江省管轄，其余9縣歸濱江省管轄。
民國二十八年（1939年），明水、綏化、海倫、望奎、慶城、綏棱6縣為北安省所轄，其余4縣仍由濱江省管轄。
解放戰爭時期，慶城（慶安）、綏棱、海倫、望奎、綏化、明水和青岡、蘭西、安達、肇東等縣分屬當時的黑龍江省和嫩江省、松江省管轄。
1949年，中華人民共和國成立前夕，今綏化市10個市縣均劃歸黑龍江省管轄。
10月1日，中華人民共和國成立。
建國初期，今綏化市各縣（市）區一直歸黑龍江省直轄。
1956年1月3日，中共中央批準，成立綏化專區。
3月6日，國務院批準，黑龍江省成立綏化專署，同年4月11日，國務院批準，郭爾羅斯后旗改稱肇源縣，仍由省直轄。
1958年8月16日，國務院決定撤銷綏化專員公署，成立松花江專員公署，專員公署駐哈爾濱市，轄1市13縣，同時，將省直轄的肇東縣劃歸哈爾濱市管轄。
1960年5月12日，將由嫩江專區所轄的明水、青岡、安達3縣劃歸松花江專區。
同年5月26日，撤安達縣設地級安達市，仍由松花江專區所轄。
1962年10月，恢復鐵力縣，由松花江專區所轄。
至此，松花江專區轄2市12縣。
1963年12月，伊春市從松花江專員公署劃出。
1964年6月，撤安達市設安達特區，由石油部和黑龍江省雙重領導。
1965年3月，恢復安達縣，由松花江專區所轄。
6月，國務院決定重新成立松花江專員公署，原松花江公署改為綏化專員公署，綏化專員公署駐綏化縣。
1967年3月，成立綏化地區革命委員會。
1970年4月，鐵力縣劃歸伊春地區所轄。
1979年2月，撤銷綏化地區革命委員會，設置綏化地區行政公署，轄綏化、肇東、安達、海倫、肇州、明水、望奎、慶安、綏棱、蘭西、肇源、青岡12縣。
1982年12月，經國務院批準撤綏化縣設縣級綏化市。
1984年11月，撤安達縣設縣級安達市。
1986年9月，撤肇東縣設縣級肇東市。
1989年12月，撤海倫縣設縣級海倫市。
1992年12月，肇州、肇源2縣劃歸大慶市。
1999年12月，國務院批準，撤綏化地區，設地級綏化市。
撤縣級綏化市，設縣級北林區。
市、區行政領導體制2000年6月1日起實行。