漢屬匈奴右部。
南北朝時為突厥牧地。
唐置匐延都督府、陰山都督府、大漠州都督府。
宋屬西遼，后為成吉思汗之子窩闊臺封地。
元屬別失八里行尚書省，后改屬嶺北行省。
明為衛拉特蒙古諸部游牧地。
清乾隆二十八年(1763)設科布多參贊大臣，轄科布多與阿爾泰兩地。
光緒三十一年(1905)科(科布多)、阿(阿爾泰)分治，設阿爾泰辦事大臣，駐承化寺(今阿勒泰市)。
1912年，改稱阿爾泰辦事長官，屬中央政府直轄。
1919年，阿爾泰劃歸新疆省，置阿山道，下轄承化、布爾津、布倫托海、哈巴河、吉木乃5縣；后改置阿山行政區。
1943年，改為阿山督察專區。
1950年，設阿山專區。
1954年，改名為阿勒泰專區，隸屬伊犁哈薩克自治州，轄阿勒泰、福海、吉木乃、青河、哈巴河、富蘊、布爾津7縣。
1970年，改稱阿勒泰地區，轄1市、6縣，即阿勒泰市、布爾津縣、富蘊縣、福海縣、哈巴河縣、青河縣、吉木乃縣。
1970年，改阿勒泰地區。