古雁街道境域前身為1949年10月設立的城關市。
1953年1月31日，改為城關區。
1956年，改為城關鎮。
1958年，改為公社，同年更名城郊公社。
1962年，復建城關鎮。
2003年，撤銷城關鎮，成立中山街道。
2009年7月，撤銷中山街道，設立南關街道、北塬街道、新區街道。
2014年11月21日，根據固政函【2014】206號文件（《固原市人民政府關于同意將原州區新區街道辦事處更名為原州區古雁街道辦事處的批復》），更名為古雁街道。