西漢至十六國“五涼”時期，長城鎮境域屬武威郡姑臧縣和鸞鳥縣。
北魏至隋初，屬武威郡林中縣。
唐宋年間，歸姑臧縣。
元代時期，屬永昌路西涼州。
明清時期，先后歸涼州衛和武威縣。
民國元年（1912年）后，屬大河鄉。
1949年，屬大河區。
1952年，屬第九區、第十區（大河）。
1956年，為長城鄉。
1958年，長城、清水、清源鄉合并成立清源公社。
1962年，成立長城公社。
1983年，設長城鄉。
2017年1月，撤鄉，設長城鎮。