兩漢時為卑陸、劫國地，屬車師后部，隸西域都護府和戊己校尉。
晉屬鐵勒。
隋屬西突厥。
唐設置輪臺城，隸北庭大都護府。
宋為高昌回鶻轄境。
元屬別失八里元帥府。
明代為厄魯特蒙古和碩特部游牧地。
清初為衛拉特蒙古準噶爾部所據。
清乾隆二十三年(1758)在南關一帶筑土城；二十五年(1760)設烏魯木齊同知，隸安西道；三十年(1765)，接土城北垣筑新城，命名迪化，俗稱漢城，又稱紅廟子；三十六年(1771)設烏魯木齊參贊大臣；三十七年(1772)在迪化城西北筑八旗兵新城，乾隆賜名鞏寧城(俗稱老滿城)；三十八年(1773)改參贊大臣為烏魯木齊都統，改安西道為鎮迪道，改迪化同知為直隸迪化州，駐鞏寧城。
同治三年(1864)鞏寧城毀于戰亂。
光緒十年(1884)新疆建省；十二年(1886)升迪化直隸州為迪化府，仍隸鎮迪道，下設迪化縣。
同年，迪化城擴建，省、迪化府及迪化縣治所均設在迪化城。
1913年，撤迪化府，保留迪化縣，隸迪化道。
1929年，迪化道改為迪化行政區，轄迪化、乾德(今米泉)、奇臺、昌吉、呼圖壁、阜康、孚遠(今吉木薩爾)、綏來(今瑪納斯)、木壘河、鄯善、哈密、鎮西(今巴里坤)12縣。
1938年，吐魯番、托克遜2縣劃入迪化行政區。
1943年，改為迪化督察專區。
1945年設迪化市。
1949年12月，成立迪化市人民政府，全市設7區。
1954年，迪化專區改名烏魯木齊專區，迪化市改名烏魯木齊市。
1956年烏魯木齊市所轄7區合并為3城市區(一區、二區、三區)、1郊區、1工礦區、1工礦鎮。
1957年，一區改名天山區，二區改名多斯魯克區，三區改名沙依巴克區。
1958年，烏魯木齊專區撒銷。
1959年，烏魯木齊縣劃歸烏魯木齊市，同年市郊區并入烏魯木齊縣。
1960年，天山區與多斯魯克區合并為天山區。
1961年，成立水磨溝區和頭屯河區，增設新市區。
1970年，自治區直屬的吐魯番、托克遜2縣劃歸烏魯木齊市。
1971年，設南山礦區。
1975年，吐魯番、托克遜2縣劃入吐魯番地區，烏魯木齊市轄6區、1縣。
1987年設東山區。
2002年撒南山礦區，增設達坂城區。
2007年昌吉回族自治州所轄米泉市與東山區合并，設立烏魯木齊市米東區。