夏、商、西周時屬越。
春秋、戰國時屬越姑蔑。
秦時屬會稽郡太末縣。
西漢時屬揚州刺史部會稽郡太末縣。
東漢獻帝建安二十三年（218）始置遂昌縣。
孫權赤烏二年（239）分太末立曰平昌。
晉武帝太康元年（280）更名遂昌。
南朝屬東揚州東陽郡或揚州東陽郡，變動頻繁。
隋開皇九年（589）省。
光緒《浙江通志》卷四載：“唐武德時復置，尋省入松陽。”《舊唐書》載：”唐武德八年（625）省入松陽。
“遂昌自隋開皇九年至唐武德三十多年，據《大明一統志》、《讀史方輿紀要》，皆謂屬處州。
唐景云二年（711）前遂昌復，屬江南道括州，開元二十一年（733）至貞元三年（787）先后屬江南東道括州、江南東道縉云郡、浙江東道括州、浙江西道處州、浙江東道處州。
五代吳越國地，屬處州。
宋時屬兩浙路處州或兩浙東路處州。
元時先后屬江淮行省處州路，浙江行中央省處州路，江浙行中書省安南府、處州府，浙江行中書省處州府。
明洪武九年（1376）屬浙江承宣布政使司處州府，明成化八年（1472）析八九兩都與金華、蘭溪、龍游縣部分置湯溪縣。
清時先后屬浙江省處州府，浙江軍政府處州軍政分府。
1912年屬浙江省都督府。
1914年屬浙江省長公署甌海道。
1927年至1949年5月先后屬浙江省第九（麗水）、第六（金華）、第三（衢州）行政督察區。
1949年5月8日遂昌縣城解放，屬浙江省第三專區（1949年10月改稱衢州專區）。
1955年3月撤銷衢州專區，遂昌改屬金華專區。
1958年11月21日，松陽縣并入遂昌縣。
1963年5月，恢復麗水專區，遂昌改屬麗水專區。
1968年5月，麗水專區改稱麗水地區，遂昌縣屬之。
1982年1月恢復松陽縣。
1982年5月1日遂昌、松陽分縣辦公，同屬麗水地區。
2000年6月，麗水地區改稱麗水市，遂昌縣屬之。