始于春秋戰(zhàn)國，興于明清，秦稱上郡，明永樂六年(1408)，在今紅山(雄石峽)建榆林寨，榆林之名始見于史。
正統(tǒng)初年（1438）改設(shè)榆林堡，明成化七年（1472）擴建榆林堡為榆林衛(wèi)城，明成化九年（1474）遷延綏鎮(zhèn)鎮(zhèn)署于榆林衛(wèi)，延綏鎮(zhèn)因此又稱榆林鎮(zhèn)，是明朝九邊重鎮(zhèn)之一。
清雍正二年(1724)撤榆林鎮(zhèn)、衛(wèi)改設(shè)延綏道，道治榆林，八年（1730）設(shè)榆林府，九年（1731）撤延綏道、設(shè)榆林縣。
1913年撤榆林府設(shè)榆林道，轄陜北23縣，1930年撤榆林道，各縣由省直轄。
1949年6月，榆林和平解放設(shè)榆林市，1950年4月，榆林市、榆林縣合并榆林縣。
1959年1月，榆林、橫山兩縣合并仍名榆林縣。
1988年9月，榆林縣改為縣級榆林市。
2000年7月，榆林地區(qū)行政公署撤銷、設(shè)立地級榆林市，沿用至今。