大同春秋時為北狄所居。
戰國時，初為代國，后并入趙地，趙武靈王胡服騎射，筑長城，置云中、雁門、代郡。
其地為雁門郡，東屬代郡。
秦始皇二十六年(前221)為雁門、代郡之地。
拓跋珪于公元398年自盛樂遷都平城，改號皇帝，改元天興，并置司州代尹，治代都平城。
北魏在平城建都長達97年，歷經六帝七世。
北齊天保七年(556)改北恒州為恒安鎮(今大同)，天寶元年(742)改云州為云中郡。
咸通十年(869)置大同軍節度。
遼重熙十三年(1044)改云州為西京，設西京道大同府。
重熙十七年(1048)析云中，置大同縣，為遼之陪都。
元至元二十五年(1288)改西京道大同府為大同路。
明洪武二年(1369)改大同路為大同府。
永樂七年(1471)置大同鎮。
雍正三年(1725)置朔平府，右玉、朔州、左云、平魯劃歸。
大同府治大同縣，轄渾源州、應州、大同、懷仁、山陰、陽高、天鎮、廣靈、靈丘7縣和豐鎮廳。
1912年大同廢府留縣。
1914年置雁門道，道尹公署駐大同縣。
1927年廢道后，大同縣直屬山西省，縣轄5個行政區。
1937年10月15日成立偽“晉北自治政府”，隸屬偽“蒙疆聯合委員會”，統轄雁北13縣；1940年7月，晉東北設兩個專區。
1943年2月又改為偽“大同省公署”，隸屬偽“蒙疆自治邦政府""。
1945年8月日本投降，同年11月成立察哈爾、熱河兩省，縣級政權恢復抗日戰爭前䢖制。
1947年秋，冀晉區和察哈爾省合并為北岳區。
1948年晉綏邊區五專區：轄大同、懷仁、山陰、朔縣、左云、右玉、平魯7縣(另轄綏南3縣)。
1948年12月，五專區改為雁北專區。
1949年5月1日大同和平解放，析大同城、郊置大同市，隸屬察哈爾省，大同市分5個區。
1949年10月，東、西雁北合并，劃歸察哈爾省，設雁北專署，屬縣有：靈丘、廣靈、渾源、應縣、山陰、大同、懷仁、朔縣、平魯、右玉、左云。
1952年12月大同市轄一、二、三區和口泉礦區。
1954年7月大同縣與懷仁縣合并為大仁縣。
1958年6月市隸屬雁北專區。
1959年1月23日雁北與忻縣合并為晉北專區，大同市隸屬晉北專區。
雁北合并為6個縣：陽高、渾源、靈丘、左云、山陰、朔縣。
1961年7月24日晉北專區撤銷，大同市復歸雁北專區領導，轄城區、口泉區、古城區、懷仁區。
同年11月復歸山西省直轄。
1962年雁北又恢復13個縣的設置，1964年11月撤銷古城區、懷仁區，恢復大同縣、懷仁縣。
市轄兩區、兩縣。
1965年7月將大同、懷仁二縣劃歸雁北專區。
1966年2月將城區、口泉區所轄農業區劃出，成立郊區，大同市轄三個區。
1970年4月，大同市劃歸雁北領導，9月建立礦區，10月成立南郊區、北郊區和口泉鎮。
1971年北郊區改為新榮區。
1972年3月復為省轄市，轄城區、礦區、南郊區、新榮區4個區。
1989年1月，朔州市成立，雁北管轄的平魯、朔縣、山陰劃歸朔州市。
1993年7月10日雁北地區撤銷，地市合并，懷仁、應縣、右玉三縣劃歸朔州市，將天鎮、陽高、廣靈、靈丘、渾源、左云、大同7縣劃規大同市，實行市管縣。
大同市轄城區、礦區、南郊區、新榮區4區7縣。
2018年2月9日國務院同意山西省調整大同市部分行政區劃，同意撤銷大同市城區、南郊區、礦區，設立大同市平城區、云岡區；同意撤銷大同縣，設立云州區。
至今大同市管轄四區六縣，平城區、云岡區、新榮區、云州區、渾源縣、靈丘縣、廣靈縣、陽高縣、天鎮縣、左云縣。