解放前，小黃村屬高增鄉第二保，解放初仍屬高增鄉，1953年建政時屬小黃鄉，1956年合作化時按團結互助之精神將該村命名為“團結農業生產合作社”，1957年屬高增片，1958年屬丙梅公社，命名為團結大隊，命名為團結大隊，1961年屬小黃公社，仍稱團結大隊，1981年地名普查時，因與高岑公社團結大隊同名，經協商后上報縣人民政府審批更名為小黃大隊，1984年8月屬小黃鄉，改稱為小黃村民委員會。
1992年撤區并鄉建鎮后屬于高增鄉，仍稱小黃村民委員會。