自宋代以來，一直為縣級政權機構的駐地。
明代設仁義里、在城里二里，清代設渭陽里、臨渭里、文盈里三里。
民國屬武山縣第一區，民國二十三年設新興鎮公所。
1949年8月屬縣城區，設城關鎮、東順鄉、南峪鄉1鎮2鄉。
1950年6月至1952年7月屬縣城區，設城關鎮、東順鄉、南峪鄉、令川鄉、韓川鄉1鎮4鄉。
1953年至1955年3月屬武山縣第一區，設城關鎮、令川鄉、奎閣鄉、南峪鄉、東順鄉、韓川鄉、清池鄉1鎮6鄉。
1955年11月裁區并鄉時設城關鎮，1962年為城關區城關公社，1965年撤區并社，復為城關鎮，1969年成立城關鎮革命委員會，1979年改為城關鎮人民政府。
1981年從東順公社劃出5個生產大隊，山丹鄉劃出2個生產大隊，組成有較大農區的鎮人民政府。
2003年12月撤鄉并鎮，將東順鄉及龍泉鄉的1個村并入城關鎮至今。