唐宋時期，今云巖區部分地域曾歸大萬谷落總管府管轄。
元代至元十九年（1282）置順元路軍民宣慰司，至元二十九年（1292）改為八番順元軍處宣慰司都元帥府，元末降格為順元路軍民安撫司，今云巖區境內均屬其管轄。
元代元世祖至元二十九年（1292）建順元城，城墻為土筑，今云巖區為順元城北門外附郭。
明代改土城墻為石城墻，北城墻擴至今北門橋，今云巖區仍在城北部。
明洪武四年（1371），置貴州宣慰司，隸四川行省。
明永樂十一年（1413）改隸貴州行省。
明隆慶二年（1568）移程番府入省城，次年（1569）改程番府為貴陽府，今區域跨府城及附郭。
明萬歷十四年（1586）置新貴縣，今區境仍是縣城及附郭。
明萬歷二十九年（1601）貴陽府升為貴陽軍民府，轄地含區境。
明代天啟六年（1626）又修建外城，設四門：東建新東門、西建威清門、北建六廣門、東北建洪邊門。
云巖區為內城北部和外城全部。
清康熙二十六年（1687）設置貴筑縣，貴筑縣轄九里，今區境分屬紅邊里、西上里、南隅里。
1914年1月，將貴陽府親轄地及貴筑縣改為貴陽縣。
1920年，改設區、鄉，今區境原貴陽府城郭區域分屬貴山鄉、云巖鄉、鴉關鄉、百花鄉、阿江鄉、阿井鄉。
府城內區域分屬中區、東一區、東二區、西一區、西二區、北一區、北二區。
1941年7月1日，撤銷貴陽縣，設貴陽市。
下設5個警察分局行使行政職權。
今云巖區境分屬一、二、三警察分局管轄。
1943年將原來5個警察分局轄的22個聯保改為20個鎮。
各鎮建立鎮公所，這20個鎮中的毓秀鎮等13個鎮在今云巖區境。
至1944年11月，貴陽市政府裁鎮，將20個鎮改設9個區，今區境屬一、二、三，部分屬七、九區管轄。
1949年11月15日貴陽解放，貴陽市軍事管制委員會接管各區公所，將原有九個區整合為七個區，今云巖區境分屬一、二、三區及部分七區（郊區）。
1950年5月，貴陽市人民政府將二、三區合并為第二區公所，1951年9月，將區公所改為區人民政府，今區境分屬一、二區人民政府。
根據國務院《關于市轄區及縣轄區公所的名稱應改按地名稱呼》的規定，貴陽市人民委員會于1955年8月將第一區改名為云巖區，第二區改名為富水區。
1958年3月24日奉貴陽市人民委員會命，將富水區并入云巖區，自命名后，該地名一直使用至今。