清末，巨寶鄉一帶屬甘井子荒務行局轄境。
中華民國成立后，1914年劃歸龍江縣，隸屬甘井子佐治局管轄。
1916年劃歸布西設治局。
1926年劃歸甘南設治局。
1928年隸屬第四區。
東北淪陷后初隸甘南縣第四保。
1938年改設前大崗子村。
1943年改稱巨寶村。
1945年“九三”抗日戰爭勝利后，1946年3月，劃歸東陽區管轄。
1948年3月，將東陽區西南部7個行政村劃出，設置巨寶區。
1955年底和1956年初，為接收安置山東移民，勘建9個移民新村。
1956年3月，撤區劃鄉，分設巨寶、工農兩個鄉。
1958年4月，將工農鄉并入巨寶鄉。
同年9月，改稱巨寶人民公社。
1960年3月，將巨寶公社并入東陽公社。
翌年5月，又恢復巨寶公社建制。
1984年4月，政社分開，改為巨寶鄉。
1998年改為巨寶鎮。
名稱沿用至今。