原名“二站”。
清雍正十年（1732)，黑龍江將軍開辟齊齊哈爾城至呼倫貝爾城的驛道——龍海路，于此地設立驛站。
從齊齊哈爾城開始，排序為第二站，故名“二站”。
屬齊齊哈爾副都統轄區。
清光緒三十二年（1906)，甘井子荒務行局于二站附采定城址，勘建“三里三城基”，翌年街基落成，荒務行局自甘井子屯遷至二站。
清光緒三十四年（1908）撤銷荒務行局，設置甘井子巡防局，二站為巡防局所在地。
中華民國成立后，1914年7月，劃歸龍江縣，改設縣屬甘井子佐治局。
1916年劃歸布西設治局管轄。
1921年隸屬第一保。
1926年2月，將甘井子佐治局正式改設甘南設治局，二站改名為“甘南鎮”，成為治城。
1928年劃為設治局第一區。
東北淪陷后，1933年將設治局改為甘南縣，甘南鎮初為第一保。
1938年改為甘南村。
1945年“九三”抗日戰爭勝利后，1946年3月劃歸第一區管轄。
1951年11月將甘南鎮劃為區屬鎮。
1955年12月，改為區級鎮，由縣直轄。
1958年9月，與附近鄉村合并成立紅旗人民公社。
1960年3月，從紅旗公社劃出，改稱甘南鎮公社。
1980年9月，改稱甘南鎮，名稱沿用至今。