漢為武陵郡無陽縣地。
唐置梓姜縣，屬獎州，后廢。
宋政和八年(1118)置邛水縣，屬思州。
宋寶祐六年(1258)十一月，新筑黃平城賜名鎮遠州，鎮遠之名始于此。
德祐元年(1275)置鎮遠沿邊溪洞招討使司。
元至元二十年(1283)改招討使司為鎮遠軍民總管府，治中河山(今㵲陽鎮東隅)，屬思州宣撫司，又置鎮安縣附廊。
旋改鎮安縣為安夷縣。
至正二年(1342)廢安夷縣置鎮遠金蓉金達蠻夷長官司。
明洪武四年(1371)降鎮遠總管府為州，隸思南宣慰司。
二十二年在州治所增設鎮遠衛，二十三年于今青溪鎮設青浪衛，隸湖廣都司。
永樂十一年(1413)置鎮遠府，府、州、衛同城，隸貴州布政司。
正統三年(1438)省鎮遠州，存府、衛。
弘治十一年(1498)廢鎮遠金蓉金達長官司置鎮遠縣。
清康熙二十二年(1683)裁鎮遠衛。
雍正五年(1727)裁青浪衛改置清溪縣，屬思州府。
宣統元年(1909)省鎮遠縣存鎮遠府。
1913年廢府復置鎮遠縣，隸黔東道。
1935年屬第八行政督察區。
1937年屬第一行政督察區，為專員公署駐地。
1941年撤銷清溪縣。
1949年屬鎮遠專區，為專署駐地。
1956年屬黔東南苗族侗族自治州。
1958年岑鞏、三穗2縣并入鎮遠縣。
1962年析出2縣。