1953年建鎮。
1958年復改云中公社。
1968年更名東方紅公社。
1977年改牯嶺鎮公社。
1981年改牯嶺鎮街道。
1987年改牯嶺鎮。
1997年，面積53平方千米，人口1.5萬，轄蘆林、長沖、日照、正街、窯洼、橄欖、大林、花徑8個居委會和朝陽、勝利2個行政村。
鎮屬九江市廬山區。
2016年3月，根據《國務院關于同意江西省調整九江市部分行政區劃的批復》（國函〔2016〕58號）精神，江西省政府經研究，撤銷星子縣，設立縣級廬山市，將九江市廬山區牯嶺鎮劃歸廬山市管轄。
以原星子縣和九江市廬山區牯嶺鎮的行政區域為廬山市的行政區域。
將九江市廬山區更名為濂溪區。
將駐九江市濂溪區賽陽鎮的廬山云霧茶場（含剪刀峽景區入口）、廬山茶科所，駐蓮花鎮的蓮花林場，駐海會鎮廬山茶場管理范圍劃入廬山市牯嶺鎮管轄。