吉林市是是史前人類文明的重要發祥地之一。
早在16~23萬年以前，就有人類在現吉林市一帶棲息。
夏、商、周、秦時期，今吉林市境主要是吉林先民濊貊族人及滿族祖先肅慎人活動地區。
西漢初年，屬夫余王國，為夫余國故都。
東漢初年，在今吉林市境設置上殷臺縣，隸屬玄菟郡，設治筑城，屯戍實邊。
三國、晉時期，今吉林市為夫余人、挹婁人等部族居地。
北魏明元帝永興二年（410年），高句麗筑龍潭山城，成為高句麗王國的北方重鎮。
北魏太和十八年（494年），勿吉滅夫余國，占據今吉林市一帶。
北齊時期以后，勿吉逐漸改名“靺鞨”。
隋唐至宋元隋初，靺鞨在突地稽的率領下，歸附隋朝，高句麗向北伸展，進入今吉林市一帶。
唐總章元年（668年）年初，唐朝大將薛仁貴率軍破金山（今遼寧），乘勝率3000人攻占高句麗夫余城（今吉林市龍潭山城遺址），高句麗國滅亡，今吉林市一帶歸唐。
圣歷年間（698~700年），大祚榮在敖東城（今敦化市）建立震國。
開元元年（713年），唐玄宗冊封震國國王大祚榮為渤海郡王，震國改稱渤海國，今吉林市境域成為渤海國腹心轄區，隸屬獨奏州的涑州。
后唐天成元年（926年），耶律阿保機率部征渤海國，渤海國為契丹所滅，改稱東丹國，今吉林市最初歸入契丹東丹國版圖。
遼代，吉林隸屬東京道涑州，靺鞨改稱女真。
金收國元年（1115年），女真首領完顏阿骨打，以今黑龍江省阿什河為中心建國稱帝，今吉林市初屬咸平路，后隸屬上京路會寧府。
13世紀初，今吉林市歸入蒲鮮萬奴建立的東夏國。
天興二年（1233年），東夏國存世19年為蒙古所滅，今吉林市歸蒙古管轄。
元至元八年（1271年），蒙古改國號為元，全國設11個行省，其中遼陽行省統轄今東北地區全境，今吉林市分屬海西遼東道開元路和咸平府。
明代初，吉林屬奴兒干都司，中期屬海西女真烏拉國，后期歸屬建州女真為后金領地。
永樂七年（1409年），明廷在黑龍江入海口特林設立奴兒干都司，并在吉林設船廠，以利加強朝廷與遼東都司和奴兒干都司的聯系。
清初，在寧古塔（今黑龍江省寧安縣）駐兵，于吉林造船，設水師營。
康熙十年（1671年），寧古塔副都統安珠瑚奉命移駐吉林；康熙十二年（1673年），開始建城設治；康熙十五年（1676年），寧古塔將軍巴海移駐吉林后，吉林成為僅次于盛京（沈陽）的東北區域的政治、經濟、軍事和文化中心，也是吉林省治所在地。
康熙二十五年（1686年），清政府命黑龍江將軍薩布素速修船艦，統領吉林、寧古塔和八旗漢軍2000人馳赴璦琿攻取雅克薩城，在第二次雅克薩自衛反擊戰中，吉林船艦、兵丁立下汗馬功勞。
雍正五年（1727年），設永吉州，州治在吉林城。
乾隆十二年（1747年），改永吉州為吉林廳，隸屬寧古塔將軍。
乾隆二十二年（1757年），寧古塔將軍改稱吉林將軍。
光緒七年（1882年），吉林廳升為吉林直隸廳，次年又升為吉林府。
光緒三十三年（1907年），清政府宣布設奉天、吉林、黑龍江行省，吉林省治仍設在吉林城。
1913年，吉林府改吉林縣。
1929年，吉林縣改名永吉縣，設吉林市政籌備處。
1931年，日本軍隊占領吉林市。
1936年4月，成立偽吉林市公署。
1945年8月15日，日本投降；同年9月，國民黨成立吉林地方治安維持會；10月，在中共吉林市委組織下成立吉林市政府；11月，成立省政府于吉林市。
1946年5月，吉林省、市政府撤出吉林市。
1948年3月9日，吉林市解放。
同年10月，省政府從延吉遷到吉林市。
10月23日，成立吉林市人民政府。
1949年，中華人民共和國成立后，吉林省政府仍設在吉林市。
1954年9月，吉林省政府遷駐長春。
1958年，永吉、磐石、舒蘭、蛟河、樺甸5縣劃歸吉林市。