古甘州歷史悠久，北涼沮渠蒙遜建郡。
西魏廢帝三年（554年），改西涼州為甘州，始有甘州之稱。
元朝，設甘肅行中書省，省會甘州。
1936年，建設了“中共甘州中心縣委”。
1949年9月19日，張掖解放，9月25日，張掖縣委，縣政府誕生。
1961年，恢復縣制。
1985年，張掖撤縣建市。
2002年3月1日，撤市設甘州區。
2002年3月1日，國務院批準（國函[2002]16號）：撤銷張掖地區和縣級張掖市，設立地級張掖市。
張掖市設立甘州區，以原縣級張掖市的行政區域為甘州區的行政區域。
區人民政府駐縣府街。