民國初期，沿襲清制，武威縣的行政管理區按水系劃分為六個渠，即黃渠（黃羊河水系）、大渠（雜木河上游）、雜渠（雜木河下游）、金渠（金塔河水系）、懷渠（西營河上游）、永渠（西營河下游）。
民國24年（1935），將六個行政管理區劃分為2個鎮、12個鄉，屬古城鄉河西堡。
中華人民共和國成立初屬古城區河西鄉三行政，1956年撤區并鄉屬古城鄉小河高級社.1958年人民公社化時屬古城公社，命名為河西大隊。
1962年區劃調整時屬古城公社，命名為小河大隊。
1983年撤社設鄉時設立小河村民委員會。
2002年撤鄉改鎮屬古城鎮所轄。